以文本方式查看主题 - Foxtable(狐表) (http://foxtable.com/bbs/index.asp) -- 专家坐堂 (http://foxtable.com/bbs/list.asp?boardid=2) ---- 小数点后数字的判断 (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=171422) |
-- 作者:hitzfeld -- 发布时间:2021/8/30 5:31:00 -- 小数点后数字的判断 老师好,我发现一个问题,比如采购数量和入库数量都设置为“双精度小数”的时候,然后再判断采购数量>入库数量的时候,即使数值相同,系统仍然不能正确判定条件。比如网要用filte过滤采购数量>入库数量的记录,但是相同的数值无法过滤掉,如果是整数型就没有问题。数值非无限循环数,比如采购数量3.14,入库数量3.14,但是系统仍然判定未完全入库,如果我再加0.01就可以了。我尝试了>=也不行,求解决方案。
|
-- 作者:有点蓝 -- 发布时间:2021/8/30 8:41:00 -- 采购数量和入库数量都设置为“高精度小数” |