Foxtable(狐表)用户栏目专家坐堂 → 用公式计算,计算结果有很小的误差,比如计算结果应为6300,最终显示的却是6299.9999,类型是单精度小数与双精度小数时都出现过


  共有3792人关注过本帖树形打印复制链接

主题:用公式计算,计算结果有很小的误差,比如计算结果应为6300,最终显示的却是6299.9999,类型是单精度小数与双精度小数时都出现过

帅哥哟,离线,有人找我吗?
大红袍
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:39310 积分:196782 威望:0 精华:1 注册:2015/4/25 9:23:00
  发帖心情 Post By:2016/8/22 19:00:00 [显示全部帖子]

 这样处理

 

Convert([数量] * [单价] + 0.000001, 'System.Int64') 


 回到顶部
帅哥哟,离线,有人找我吗?
大红袍
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:39310 积分:196782 威望:0 精华:1 注册:2015/4/25 9:23:00
  发帖心情 Post By:2016/8/22 20:43:00 [显示全部帖子]

 如果是表达式列,那就直接设置公式。

 

 如果是编写代码的,贴出你原来写的代码。


 回到顶部
帅哥哟,离线,有人找我吗?
大红袍
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:39310 积分:196782 威望:0 精华:1 注册:2015/4/25 9:23:00
  发帖心情 Post By:2016/8/23 9:12:00 [显示全部帖子]

贴出你写的表达式。

 回到顶部
帅哥哟,离线,有人找我吗?
大红袍
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:39310 积分:196782 威望:0 精华:1 注册:2015/4/25 9:23:00
  发帖心情 Post By:2016/8/23 9:44:00 [显示全部帖子]

 贴出你原来写的公式啊

 回到顶部
帅哥哟,离线,有人找我吗?
大红袍
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:39310 积分:196782 威望:0 精华:1 注册:2015/4/25 9:23:00
  发帖心情 Post By:2016/8/23 9:57:00 [显示全部帖子]

Convert([利息] * [天] + 0.000001, 'System.Int64') 

 

不会做上传实例。


 回到顶部
帅哥哟,离线,有人找我吗?
大红袍
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:39310 积分:196782 威望:0 精华:1 注册:2015/4/25 9:23:00
  发帖心情 Post By:2016/8/23 10:15:00 [显示全部帖子]

以下是引用约翰舒在2016/8/23 10:07:00的发言:
谢谢老师,原先就已经对了,不知道为什么今天试了试就不行了,总之谢谢

 

这个和表达式列没有关系,哪里报错,就去看哪里的代码

 

http://www.foxtable.com/webhelp/scr/1485.htm

 


 回到顶部