欢迎您:游客!请先
登录
或
注册
风格
恢复默认设置
|
展区
文件集浏览
图片集浏览
Flash浏览
音乐集浏览
电影集浏览
|
搜索
Foxtable(狐表)
→
用户栏目
→
专家坐堂
→ 有小数位的减法也必须要用高精度小数吗?
新的主题
投票帖
小字报
下一主题 >>
<< 上一主题
共有
2926
人关注过本帖
平板
打印
复制链接
主题:有小数位的减法也必须要用高精度小数吗?
sky-18
小
大
1楼
|
信息
|
搜索
|
邮箱
|
主页
|
UC
加好友
发短信
等级:三尾狐
帖子:
655
积分:5004
威望:0
精华:0
注册:
2011/11/26 17:46:00
有小数位的减法也必须要用高精度小数吗?
Post By:2015/8/31 15:35:00 [
只看该作者
]
Dim a As Double
Dim b As Double
Dim c As Double
a = 93218.4
b = 100000
c = b - a
Output.show(c)
最后结果是 2153.60000000001。
结果明显是错的呀。
帮助上说double在做比较的时候会出现“1<> 1”的情况,但并没有说显示结果会出现这种错误啊。
但是换成高精度小数后结果就没问题了。
不过帮助文件上是不推荐一般的运算用高精度的啊。
莫非是我哪里没搞对。
求老师们指点
下一主题 >>
<< 上一主题
RSS2.0
|
Xhtml无图版
|
Xslt无图版
Copyright © 2000 - 2018
foxtable
.com
Tel: 4000-810-820 粤ICP备11091905号
Powered By
Dvbbs
Version 8.3.0
页面执行时间 0.02344 秒, 5 次数据查询