Foxtable(狐表)用户栏目专家坐堂 → 【整数】*【整数】=【长整数】,可结果出错了


  共有3715人关注过本帖树形打印复制链接

主题:【整数】*【整数】=【长整数】,可结果出错了

帅哥哟,离线,有人找我吗?
saumm
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:34 积分:520 威望:0 精华:0 注册:2014/5/10 16:30:00
【整数】*【整数】=【长整数】,可结果出错了  发帖心情 Post By:2014/5/10 16:38:00 [显示全部帖子]

刚下载了foxtable最新版,正在跟着帮助文件一点点学习。
今天插入了一个表达式列“金额”,类型为长整数,内容为[数量]*[单价],这两个列都是整数。

数量20000,单价100000都能正确的计算出金额。
但是当数量或单价再增加一位的时候,如数量变为200000,结果就会出错,提示“值对于类型“Int32”而言或者太大或者太小。”,但200亿也没有超出长整数的范围。
因为每个列里的数据都是符合要求的,根据提示来看,好像是超出了整数的范围,但表达式列我定义的明明是长整数类型的,不知道为什么会出错?应该怎样写才不会出错?

[此贴子已经被作者于2014-5-10 16:40:27编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
saumm
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:34 积分:520 威望:0 精华:0 注册:2014/5/10 16:30:00
  发帖心情 Post By:2014/5/10 16:41:00 [显示全部帖子]

哇,这么快

 回到顶部
帅哥哟,离线,有人找我吗?
saumm
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:34 积分:520 威望:0 精华:0 注册:2014/5/10 16:30:00
  发帖心情 Post By:2014/5/10 16:42:00 [显示全部帖子]

改成单精度小数,果然没有错误提示了,真是奇怪啊,是不是因为[整数]*[整数]只能等于[整数],表达式列设置为【长整数】也没用
[此贴子已经被作者于2014-5-10 16:43:51编辑过]

 回到顶部