Foxtable(狐表)用户栏目专家坐堂 → Double数据运算之后多出来0.0001


  共有4964人关注过本帖树形打印复制链接

主题:Double数据运算之后多出来0.0001

帅哥哟,离线,有人找我吗?
atmetmicoo
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:二尾狐 帖子:531 积分:4155 威望:0 精华:0 注册:2012/11/26 21:54:00
Double数据运算之后多出来0.0001  发帖心情 Post By:2013/9/30 11:15:00 [显示全部帖子]

狐爸,


我在表事件DataColChanged中设置了一行代码:
[无税单价]= (1-[税率])*[含税单价]
税率=0
含税单价=650.0000

无税单价怎么算出来等于650.0001

图片点击可在新窗口打开查看此主题相关图片如下:小数的错误.jpg
图片点击可在新窗口打开查看


无税跟含税单价字段都设置成了Double类型,以前也发现过这个问题,很是担心,因为接下来财务模块就要启用了,不知道为什么会出现这个问题,是否需要注意什么问题?

 回到顶部
帅哥哟,离线,有人找我吗?
atmetmicoo
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:二尾狐 帖子:531 积分:4155 威望:0 精华:0 注册:2012/11/26 21:54:00
  发帖心情 Post By:2013/9/30 11:24:00 [显示全部帖子]

就是不明白这个小数0.0001是怎么出来的,如果四舍五入精确到4位,这个0.0001也应该是有的吧

 回到顶部
帅哥哟,离线,有人找我吗?
atmetmicoo
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:二尾狐 帖子:531 积分:4155 威望:0 精华:0 注册:2012/11/26 21:54:00
  发帖心情 Post By:2013/9/30 11:41:00 [显示全部帖子]

谢谢Bin,是我看教程的时候理解有误,我换高精度了,测试没问题。

 回到顶部