欢迎您:游客!请先
登录
或
注册
风格
恢复默认设置
|
展区
文件集浏览
图片集浏览
Flash浏览
音乐集浏览
电影集浏览
|
搜索
Foxtable(狐表)
→
用户栏目
→
专家坐堂
→ 运算溢出
新的主题
投票帖
小字报
下一主题 >>
<< 上一主题
共有
3312
人关注过本帖
树形
打印
复制链接
主题:运算溢出
有点蓝
小
大
1楼
|
信息
|
搜索
|
邮箱
|
主页
|
UC
加好友
发短信
等级:超级版主
帖子:
112380
积分:572162
威望:0
精华:9
注册:
2015/6/24 9:21:00
Post By:2020/5/12 8:33:00 [
显示全部帖子
]
1、除法必须判断除数是否为0,计算机里除以0会出现无穷大,当然会溢出。
如:
Dim Val As Double= 0
if
dr("加减费递增尺寸") <> 0 then
Val
= (dr("洞高")-dr("超高参考值"))/dr("加减费递增尺寸")
end if
2、确定计算不会超过双精度能够表示的范围,如果超过把双精度改为高精度类型
下一主题 >>
<< 上一主题
RSS2.0
|
Xhtml无图版
|
Xslt无图版
Copyright © 2000 - 2018
foxtable
.com
Tel: 4000-810-820 粤ICP备11091905号
Powered By
Dvbbs
Version 8.3.0
页面执行时间 0.07813 秒, 5 次数据查询