| 以文本方式查看主题 - Foxtable(狐表) (http://foxtable.com/bbs/index.asp) -- 专家坐堂 (http://foxtable.com/bbs/list.asp?boardid=2) ---- 用公式计算，计算结果有很小的误差，比如计算结果应为6300，最终显示的却是6299.9999，类型是单精度小数与双精度小数时都出现过 (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=89467) |
| -- 作者：约翰舒 -- 发布时间：2016/8/22 17:59:00 -- 用公式计算，计算结果有很小的误差，比如计算结果应为6300，最终显示的却是6299.9999，类型是单精度小数与双精度小数时都出现过 老师，有一个问题 用公式计算，计算结果有很小的误差，比如计算结果应为6300，最终显示的却是6299.9999，类型是单精度小数与双精度小数时都出现过
|
| -- 作者：大红袍 -- 发布时间：2016/8/22 19:00:00 -- 这样处理
Convert([数量] * [单价] + 0.000001, \'System.Int64\') |
| -- 作者：约翰舒 -- 发布时间：2016/8/22 19:29:00 -- 能解释下吗？不明白 |
| -- 作者：约翰舒 -- 发布时间：2016/8/22 19:31:00 -- 还有，这是在哪进行编辑啊？ |
| -- 作者：大红袍 -- 发布时间：2016/8/22 20:43:00 -- 如果是表达式列，那就直接设置公式。
如果是编写代码的，贴出你原来写的代码。 |
| -- 作者：lihe60 -- 发布时间：2016/8/22 21:31:00 -- 四舍五入 |
| -- 作者：约翰舒 -- 发布时间：2016/8/23 7:44:00 -- 是表达式列，但是我输入进去后，提示：语法错误，运算符后缺少操作数，什么意思？ |
| -- 作者：Hyphen -- 发布时间：2016/8/23 8:53:00 -- 贴出你的表达式 |
| -- 作者：约翰舒 -- 发布时间：2016/8/23 8:57:00 -- 不是说把这些放入表达式就行了吗？ Convert([数量] * [单价] + 0.000001, \'System.Int64\') |
| -- 作者：大红袍 -- 发布时间：2016/8/23 9:12:00 -- 贴出你写的表达式。 |