以文本方式查看主题
- Foxtable(狐表) (http://foxtable.com/bbs/index.asp)
-- 专家坐堂 (http://foxtable.com/bbs/list.asp?boardid=2)
---- double相减出现的问题 (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=61669)
|
-- 作者:sky-18
-- 发布时间:2014/12/16 23:55:00
-- double相减出现的问题
在代码里有两个double型小数相减,结果却是这样: 此主题相关图片如下:错误.jpg
好像以前在帮助文件里见过相应的介绍,不过是在找不到了。 老师们,这是为什么呢?
[此贴子已经被作者于2014-12-16 23:56:28编辑过]
|
-- 作者:sky-18
-- 发布时间:2014/12/16 23:56:00
--
这是我用messagebox.show出来的。发现代码的实际结果不对。
[此贴子已经被作者于2014-12-16 23:55:50编辑过]
|
-- 作者:sky-18
-- 发布时间:2014/12/17 0:13:00
--
解决了。把double换成decimal就ok了!!! 不过我觉得奇怪的是,帮助文件里只是说double型只在作比较时会出现1不等于1的情况,为什么我的计算结果也出现错误呢? 这一点还是想请老师们解答一下。 要知道我的项目代码里只要是涉及到小数的数据类型都是设置的double,如果double这么不可靠我岂不是要被所以的代码和数据结构都换完??!!
|