以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.com/bbs/index.asp)
--  专家坐堂  (http://foxtable.com/bbs/list.asp?boardid=2)
----  为什么输出的结果不一样?  (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=193435)

--  作者:YUNSEL
--  发布时间:2024/9/13 13:24:00
--  为什么输出的结果不一样?
Output.Show(4.5 * 7.1323)   输出结果是:32.09535
Output.Show(round2(32.09535, 4))    输出结果是:32.0954
Output.Show(round2(4.5 * 7.1323, 4))   输出结果是:32.0953

第二行与第三行写法为何输出结果不一样?

--  作者:有点蓝
--  发布时间:2024/9/13 13:31:00
--  
我也不懂。不过如果对结果准确度要求高的,建议还是使用变量的方式

Dim d As Decimal = 4.5 * 7.1323
Output.Show(d)
Output.Show(round2(d, 4))


--  作者:puma
--  发布时间:2024/9/13 14:09:00
--  
7.1323 在内存里,是一个近似的数?
--  作者:有点蓝
--  发布时间:2024/9/13 14:14:00
--  
计算内部的原理不清楚,也许是精度的问题,类似:http://www.foxtable.com/webhelp/topics/1829.htm
--  作者:YUNSEL
--  发布时间:2024/9/13 15:26:00
--  
我试了,要这样处理:
dim s1 as Decimal = 4.5
dim s2 as Decimal = 7.1323
Output.Show(round2(s1* s2, 4))   输出结果是:32.0954