Foxtable(狐表)用户栏目专家坐堂 → 运算结果溢出,怎么回事啊?


  共有5341人关注过本帖树形打印复制链接

主题:运算结果溢出,怎么回事啊?

帅哥哟,离线,有人找我吗?
zwaner
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:37 积分:467 威望:0 精华:0 注册:2009/1/7 17:31:00
运算结果溢出,怎么回事啊?  发帖心情 Post By:2022/8/3 23:08:00 [只看该作者]

Convert((IIF([方向] ='买入',[买卖价格] * [数量] * 100.001/100+[买卖价格] * [数量] *0.00687/100 + [买卖价格] * [数量] * 0.0002+IIF(([买卖价格] * [数量] *0.00687/100 + [买卖价格] * [数量] * 0.0002)<5,5-([买卖价格] * [数量] *0.00687/100 + [买卖价格] * [数量] * 0.0002),0),([买卖价格] * [数量] *(-1)*0.001/100+[买卖价格] * [数量] *(-1)*0.00687/100 + [买卖价格] * [数量] *(-1)* 0.0002+IIF(([买卖价格] * [数量] *(-1)*0.00687/100 + [买卖价格] * [数量] *(-1)* 0.0002)<5,5-([买卖价格] * [数量]*(-1) *0.00687/100 + [买卖价格] * [数量] *(-1)*0.0002),0)+[买卖价格] * [数量] *(-1)*0.001)+[买卖价格] * [数量])*100),'System.Int64') / 100

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:107727 积分:547968 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2022/8/4 8:41:00 [只看该作者]

计算结果超出了长整数能够表示的范围,改为高精度试试

 回到顶部