Foxtable(狐表)用户栏目专家坐堂 → 计算出来的数据有很长的小数怎么回事呢?代码如下


  共有4872人关注过本帖树形打印复制链接

主题:计算出来的数据有很长的小数怎么回事呢?代码如下

帅哥哟,离线,有人找我吗?
Bin
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178530 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2014/3/27 10:51:00 [显示全部帖子]

双精度小数是会有误差的,你四舍五入即可.

或者用高精度小数.

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178530 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2014/3/27 11:22:00 [显示全部帖子]

是否执行了大量运算,或者可能是这个问题http://www.foxtable.com/help/topics/2730.htm

 回到顶部