- Foxtable(狐表) (http://foxtable.com/bbs/index.asp)
-- 专家坐堂 (http://foxtable.com/bbs/list.asp?boardid=2)
---- 就是如何像excel中那样按所显示的精度计算 (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=145562)
-- 发布时间：2020/1/30 16:04:00
-- 就是如何像excel中那样按所显示的精度计算
遇到一个问题 这个功能就是如何像excel中那样按所显示的精度计算 所有数据使用单精度，2位小数显示 实际数据是3位 比如3.123， 2.124 那么显示的就是3.12和2.12 求和结果应该是按照显示的计算，应该是5.24 而实际他会按照四舍五入计算出5.25的结果。  此主题相关图片如下：data.png |
-- 发布时间：2020/1/30 16:26:00
--
默认都是按照实际值计算，这才是合理的。
如果要改
方法1、存储3.12， 2.12这种数据，不要存储3.123， 2.124这种
2、先四舍五入再计算，比如表达式：http://www.foxtable.com/webhelp/topics/0108.htm
Convert([A] * 100, \'System.Int64\') / 100 + Convert([B] * 100, \'System.Int64\') / 100
代码可以使用round：http://www.foxtable.com/webhelp/topics/0281.htm
-- 发布时间：2020/1/30 17:57:00
--
我说的这种情况，实际上是可能发生的。手动四舍五入有点麻烦
-- 发布时间：2020/1/30 20:17:00
--
没有其他办法