以文本方式查看主题 - Foxtable(狐表) (http://foxtable.com/bbs/index.asp) -- 专家坐堂 (http://foxtable.com/bbs/list.asp?boardid=2) ---- [求助]双精度小数计算问题 (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=151613) |
-- 作者:81538475 -- 发布时间:2020/6/29 13:32:00 -- [求助]双精度小数计算问题 为何回出现下面的结果呢。。 a 和 b 都是 之前计算出来的double a=7.55 b=7.55 a - b=-3.5527136788005E-15 |
-- 作者:有点蓝 -- 发布时间:2020/6/29 13:43:00 -- 改为高精度类型:http://www.foxtable.com/webhelp/topics/1829.htm |