以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.com/bbs/index.asp)
--  专家坐堂  (http://foxtable.com/bbs/list.asp?boardid=2)
----  求助 算法BUG  (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=113492)

--  作者:求生
--  发布时间:2018/1/16 21:45:00
--  求助 算法BUG
帮忙解决一下
图片点击可在新窗口打开查看此主题相关图片如下:qq图片20180116214151.png
图片点击可在新窗口打开查看

--  作者:有点蓝
--  发布时间:2018/1/16 21:50:00
--  
把这个表达式列类型改为双精度
--  作者:求生
--  发布时间:2018/1/16 21:54:00
--  
但是我上一个的就可以
[此贴子已经被作者于2018/1/16 21:56:45编辑过]

--  作者:求生
--  发布时间:2018/1/16 21:57:00
--  
这个就可以
图片点击可在新窗口打开查看此主题相关图片如下:qq截图20180116215606.png
图片点击可在新窗口打开查看

--  作者:求生
--  发布时间:2018/1/16 22:02:00
--  
同样的问题还有
图片点击可在新窗口打开查看此主题相关图片如下:qq截图20180116220137.png
图片点击可在新窗口打开查看
图片点击可在新窗口打开查看此主题相关图片如下:qq图片20180116214151.png
图片点击可在新窗口打开查看


--  作者:求生
--  发布时间:2018/1/16 22:03:00
--  
怎么解决?
--  作者:有点蓝
--  发布时间:2018/1/16 22:14:00
--  
请上传实例测试
--  作者:有点甜
--  发布时间:2018/1/17 9:08:00
--  

1、如果提示【算术溢出】,请判断除数是否为0的情况,如

 

iif(第二列=0, null, 第一列/第二列)

 

2、如果要计算除法,你的列,必须设置【双精度小数】,而不是【整数】