Foxtable(狐表)用户栏目专家坐堂 → 用公式计算,计算结果有很小的误差,比如计算结果应为6300,最终显示的却是6299.9999,类型是单精度小数与双精度小数时都出现过


  共有3791人关注过本帖树形打印复制链接

主题:用公式计算,计算结果有很小的误差,比如计算结果应为6300,最终显示的却是6299.9999,类型是单精度小数与双精度小数时都出现过

帅哥哟,离线,有人找我吗?
约翰舒
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:226 积分:1796 威望:0 精华:0 注册:2016/8/3 15:11:00
用公式计算,计算结果有很小的误差,比如计算结果应为6300,最终显示的却是6299.9999,类型是单精度小数与双精度小数时都出现过  发帖心情 Post By:2016/8/22 17:59:00 [显示全部帖子]

老师,有一个问题


                       用公式计算,计算结果有很小的误差,比如计算结果应为6300,最终显示的却是6299.9999,类型是单精度小数与双精度小数时都出现过

 回到顶部
帅哥哟,离线,有人找我吗?
约翰舒
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:226 积分:1796 威望:0 精华:0 注册:2016/8/3 15:11:00
  发帖心情 Post By:2016/8/22 19:29:00 [显示全部帖子]

能解释下吗?不明白

 回到顶部
帅哥哟,离线,有人找我吗?
约翰舒
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:226 积分:1796 威望:0 精华:0 注册:2016/8/3 15:11:00
  发帖心情 Post By:2016/8/22 19:31:00 [显示全部帖子]

还有,这是在哪进行编辑啊?

 回到顶部
帅哥哟,离线,有人找我吗?
约翰舒
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:226 积分:1796 威望:0 精华:0 注册:2016/8/3 15:11:00
  发帖心情 Post By:2016/8/23 7:44:00 [显示全部帖子]

是表达式列,但是我输入进去后,提示:语法错误,运算符后缺少操作数,什么意思?

 回到顶部
帅哥哟,离线,有人找我吗?
约翰舒
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:226 积分:1796 威望:0 精华:0 注册:2016/8/3 15:11:00
  发帖心情 Post By:2016/8/23 8:57:00 [显示全部帖子]

不是说把这些放入表达式就行了吗?

Convert([数量] * [单价] + 0.000001, 'System.Int64') 


 回到顶部
帅哥哟,离线,有人找我吗?
约翰舒
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:226 积分:1796 威望:0 精华:0 注册:2016/8/3 15:11:00
  发帖心情 Post By:2016/8/23 9:14:00 [显示全部帖子]

Convert([数量] * [单价] + 0.000001, 'System.Int64') 


 回到顶部
帅哥哟,离线,有人找我吗?
约翰舒
  7楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:226 积分:1796 威望:0 精华:0 注册:2016/8/3 15:11:00
  发帖心情 Post By:2016/8/23 9:32:00 [显示全部帖子]

Convert([数量] * [单价] + 0.000001, 'System.Int64') 
把这个公司输入表达式吗?老师

 回到顶部
帅哥哟,离线,有人找我吗?
约翰舒
  8楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:226 积分:1796 威望:0 精华:0 注册:2016/8/3 15:11:00
  发帖心情 Post By:2016/8/23 9:49:00 [显示全部帖子]

有什么区别吗?
无非是把“数量”、“单价”换成我表中的数据

原来的表达式:“利息总额=”“利息”*“天”



 回到顶部
帅哥哟,离线,有人找我吗?
约翰舒
  9楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:226 积分:1796 威望:0 精华:0 注册:2016/8/3 15:11:00
  发帖心情 Post By:2016/8/23 10:07:00 [显示全部帖子]

谢谢老师,原先就已经对了,不知道为什么今天试了试就不行了,总之谢谢


 回到顶部