Foxtable(狐表)用户栏目专家坐堂 → 小数点后数字的判断


  共有4022人关注过本帖树形打印复制链接

主题:小数点后数字的判断

帅哥哟,离线,有人找我吗?
hitzfeld
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:二尾狐 帖子:528 积分:5184 威望:0 精华:0 注册:2017/9/1 23:28:00
小数点后数字的判断  发帖心情 Post By:2021/8/30 5:31:00 [只看该作者]

老师好,我发现一个问题,比如采购数量和入库数量都设置为“双精度小数”的时候,然后再判断采购数量>入库数量的时候,即使数值相同,系统仍然不能正确判定条件。比如网要用filte过滤采购数量>入库数量的记录,但是相同的数值无法过滤掉,如果是整数型就没有问题。数值非无限循环数,比如采购数量3.14,入库数量3.14,但是系统仍然判定未完全入库,如果我再加0.01就可以了。我尝试了>=也不行,求解决方案。

 回到顶部
帅哥,在线噢!
有点蓝
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:110746 积分:563656 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2021/8/30 8:41:00 [只看该作者]

采购数量和入库数量都设置为“高精度小数”


 回到顶部