以文本方式查看主题 - Foxtable(狐表) (http://foxtable.com/bbs/index.asp) -- 专家坐堂 (http://foxtable.com/bbs/list.asp?boardid=2) ---- 小数精度问题(已解决) (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=8578) |
-- 作者:i52117 -- 发布时间:2010/11/13 10:59:00 -- 小数精度问题(已解决) 请高手指点,如何使合计不差0.01,把列类型改成双精度、高精度都不行
s1 表达式: ([第二列] + [第三列] + [第四列]) * [第八列] s2 表达式: ([第二列] + [第三列] + [第四列]) * [第九列] s3 表达式: ([第二列] + [第三列] + [第四列]) * [第十列] ss 表达式: [s1] + [s2] + [s3]
3.59+1.20+5.98=10.77 上图 表达式计算得 10.76
怎样以显示值为准? [此贴子已经被作者于2010-11-13 14:09:31编辑过]
|
-- 作者:blackzhu -- 发布时间:2010/11/13 12:39:00 -- 是不是控制位数? |
-- 作者:i52117 -- 发布时间:2010/11/13 14:13:00 -- 用 Convert 貌似可以了,就是表达式麻烦了点 |