Foxtable(狐表)用户栏目专家坐堂 → 运算溢出


  共有2317人关注过本帖树形打印复制链接

主题:运算溢出

帅哥哟,离线,有人找我吗?
有点蓝
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:107680 积分:547721 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2020/5/12 8:33:00 [显示全部帖子]

1、除法必须判断除数是否为0,计算机里除以0会出现无穷大,当然会溢出。
如:
Dim Val As Double= 0
if dr("加减费递增尺寸") <> 0 then
    Val = (dr("洞高")-dr("超高参考值"))/dr("加减费递增尺寸")
end if
2、确定计算不会超过双精度能够表示的范围,如果超过把双精度改为高精度类型

 回到顶部