以文本方式查看主题
- Foxtable(狐表) (http://foxtable.com/bbs/index.asp)
-- 专家坐堂 (http://foxtable.com/bbs/list.asp?boardid=2)
---- 求助 算法BUG (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=113492)
|
-- 作者:求生
-- 发布时间:2018/1/16 21:45:00
-- 求助 算法BUG
帮忙解决一下
此主题相关图片如下:qq图片20180116214151.png
![dvubb 图片点击可在新窗口打开查看](UploadFile/2018-1/201811621444783886.png)
|
-- 作者:有点蓝
-- 发布时间:2018/1/16 21:50:00
--
把这个表达式列类型改为双精度
|
-- 作者:求生
-- 发布时间:2018/1/16 21:54:00
--
但是我上一个的就可以
[此贴子已经被作者于2018/1/16 21:56:45编辑过]
|
-- 作者:求生
-- 发布时间:2018/1/16 21:57:00
--
这个就可以
此主题相关图片如下:qq截图20180116215606.png
![dvubb 图片点击可在新窗口打开查看](UploadFile/2018-1/201811621571977098.png)
|
-- 作者:求生
-- 发布时间:2018/1/16 22:02:00
--
同样的问题还有
此主题相关图片如下:qq截图20180116220137.png
![dvubb 图片点击可在新窗口打开查看](UploadFile/2018-1/20181162221618715.png)
此主题相关图片如下:qq图片20180116214151.png
![dvubb 图片点击可在新窗口打开查看](UploadFile/2018-1/20181162221611258.png)
|
-- 作者:求生
-- 发布时间:2018/1/16 22:03:00
--
怎么解决?
|
-- 作者:有点蓝
-- 发布时间:2018/1/16 22:14:00
--
请上传实例测试
|
-- 作者:有点甜
-- 发布时间:2018/1/17 9:08:00
--
1、如果提示【算术溢出】,请判断除数是否为0的情况,如
iif(第二列=0, null, 第一列/第二列)
2、如果要计算除法,你的列,必须设置【双精度小数】,而不是【整数】
|