Foxtable(狐表)用户栏目专家坐堂 → 【整数】*【整数】=【长整数】,可结果出错了


  共有3718人关注过本帖树形打印复制链接

主题:【整数】*【整数】=【长整数】,可结果出错了

帅哥哟,离线,有人找我吗?
saumm
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:34 积分:520 威望:0 精华:0 注册:2014/5/10 16:30:00
【整数】*【整数】=【长整数】,可结果出错了  发帖心情 Post By:2014/5/10 16:38:00 [只看该作者]

刚下载了foxtable最新版,正在跟着帮助文件一点点学习。
今天插入了一个表达式列“金额”,类型为长整数,内容为[数量]*[单价],这两个列都是整数。

数量20000,单价100000都能正确的计算出金额。
但是当数量或单价再增加一位的时候,如数量变为200000,结果就会出错,提示“值对于类型“Int32”而言或者太大或者太小。”,但200亿也没有超出长整数的范围。
因为每个列里的数据都是符合要求的,根据提示来看,好像是超出了整数的范围,但表达式列我定义的明明是长整数类型的,不知道为什么会出错?应该怎样写才不会出错?

[此贴子已经被作者于2014-5-10 16:40:27编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2014/5/10 16:39:00 [只看该作者]

用双精度小数,或者高精度小数. 

 回到顶部
帅哥哟,离线,有人找我吗?
saumm
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:34 积分:520 威望:0 精华:0 注册:2014/5/10 16:30:00
  发帖心情 Post By:2014/5/10 16:41:00 [只看该作者]

哇,这么快

 回到顶部
帅哥哟,离线,有人找我吗?
saumm
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:34 积分:520 威望:0 精华:0 注册:2014/5/10 16:30:00
  发帖心情 Post By:2014/5/10 16:42:00 [只看该作者]

改成单精度小数,果然没有错误提示了,真是奇怪啊,是不是因为[整数]*[整数]只能等于[整数],表达式列设置为【长整数】也没用
[此贴子已经被作者于2014-5-10 16:43:51编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
LAOTANG1984
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:395 积分:4605 威望:0 精华:0 注册:2009/2/23 19:01:00
  发帖心情 Post By:2014/5/10 17:20:00 [只看该作者]

明显超了啊
20万×10万是200亿了
超过长整数类型的上限了



 回到顶部