| 以文本方式查看主题 - Foxtable(狐表) (http://foxtable.com/bbs/index.asp) -- 专家坐堂 (http://foxtable.com/bbs/list.asp?boardid=2) ---- 更新版本后数值比较出现问题 (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=141759) |
| -- 作者：kylin -- 发布时间：2019/10/10 14:41:00 -- 更新版本后数值比较出现问题 Dim tr,tryz As Double tr = dr("BgnAmt") + dr("YAmt") + dr("DAmt") tryz = dr("EAmt") + dr("EndAmt") 程序设计的逻辑，当tr = tryz时进行下一步计算，否则退出计算。 但是最近的版本中出现了看似相等，但是却进入不相等的步骤 通过以下两个查看 Output.Show(dr("MMTrnIDCN") + ":" + CStr(tr) + "=" + CStr(tryz) )，这个显示是一致的Output.Show(dr("MMTrnIDCN") + ":" + CStr(tr - tryz) )，显示差额是-2.27373675443232E-13 遍历整个表，就是那么一两个有这样的特例。 这个情况在以前版本是不会出现的 |
| -- 作者：有点蓝 -- 发布时间：2019/10/10 14:48:00 -- http://www.foxtable.com/webhelp/topics/1829.htm |
| -- 作者：kylin -- 发布时间：2019/10/10 14:54:00 -- 收到，谢谢 |