Foxtable(狐表) → 用户栏目 → 专家坐堂 → 就是如何像excel中那样按所显示的精度计算


  共有3894人关注过本帖树形打印复制链接

主题：就是如何像excel中那样按所显示的精度计算
帅哥哟，离线，有人找我吗？
paniclp
 小大  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：婴狐 帖子：5 积分：111 威望：0 精华：0 注册：2020/1/30 12:41:00 		就是如何像excel中那样按所显示的精度计算  发帖心情 Post By：2020/1/30 16:04:00 [只看该作者]

遇到一个问题
这个功能就是如何像excel中那样按所显示的精度计算


所有数据使用单精度，2位小数显示
实际数据是3位  比如3.123， 2.124 那么显示的就是3.12和2.12
求和结果应该是按照显示的计算，应该是5.24
而实际他会按照四舍五入计算出5.25的结果。

此主题相关图片如下：data.png
按此在新窗口浏览图片
 回到顶部
帅哥哟，离线，有人找我吗？
有点蓝
 小大  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：超级版主 帖子：110738 积分：563610 威望：0 精华：9 注册：2015/6/24 9:21:00 		  发帖心情 Post By：2020/1/30 16:26:00 [只看该作者]

默认都是按照实际值计算，这才是合理的。

如果要改
方法1、存储3.12， 2.12这种数据，不要存储3.123， 2.124这种
2、先四舍五入再计算，比如表达式：http://www.foxtable.com/webhelp/topics/0108.htm

Convert([A] * 100, 'System.Int64') / 100 + Convert([B] * 100, 'System.Int64') / 100
 回到顶部
帅哥哟，离线，有人找我吗？
paniclp
 小大  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：婴狐 帖子：5 积分：111 威望：0 精华：0 注册：2020/1/30 12:41:00 		  发帖心情 Post By：2020/1/30 17:57:00 [只看该作者]

我说的这种情况，实际上是可能发生的。手动四舍五入有点麻烦

 回到顶部
帅哥哟，离线，有人找我吗？
有点蓝
 小大  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：超级版主 帖子：110738 积分：563610 威望：0 精华：9 注册：2015/6/24 9:21:00 		  发帖心情 Post By：2020/1/30 20:17:00 [只看该作者]

没有其他办法

 回到顶部
RSS2.0 | Xhtml无图版 | Xslt无图版 Copyright © 2000 - 2018 foxtable.com Tel: 4000-810-820 粤ICP备11091905号
   Powered By Dvbbs Version 8.3.0
页面执行时间 0.03906 秒, 4 次数据查询