| 以文本方式查看主题 - Foxtable(狐表) (http://foxtable.com/bbs/index.asp) -- 专家坐堂 (http://foxtable.com/bbs/list.asp?boardid=2) ---- 运算结果溢出，怎么回事啊？ (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=179029) |
| -- 作者：zwaner -- 发布时间：2022/8/3 23:08:00 -- 运算结果溢出，怎么回事啊？ Convert((IIF([方向] =\'买入\',[买卖价格] * [数量] * 100.001/100+[买卖价格] * [数量] *0.00687/100 + [买卖价格] * [数量] * 0.0002+IIF(([买卖价格] * [数量] *0.00687/100 + [买卖价格] * [数量] * 0.0002)<5,5-([买卖价格] * [数量] *0.00687/100 + [买卖价格] * [数量] * 0.0002),0),([买卖价格] * [数量] *(-1)*0.001/100+[买卖价格] * [数量] *(-1)*0.00687/100 + [买卖价格] * [数量] *(-1)* 0.0002+IIF(([买卖价格] * [数量] *(-1)*0.00687/100 + [买卖价格] * [数量] *(-1)* 0.0002)<5,5-([买卖价格] * [数量]*(-1) *0.00687/100 + [买卖价格] * [数量] *(-1)*0.0002),0)+[买卖价格] * [数量] *(-1)*0.001)+[买卖价格] * [数量])*100),\'System.Int64\') / 100 |
| -- 作者：有点蓝 -- 发布时间：2022/8/4 8:41:00 -- 计算结果超出了长整数能够表示的范围，改为高精度试试 |