Foxtable(狐表) → 用户栏目 → 专家坐堂 → 【整数】*【整数】=【长整数】，可结果出错了


  共有3630人关注过本帖树形打印复制链接

主题：【整数】*【整数】=【长整数】，可结果出错了
帅哥哟，离线，有人找我吗？
saumm
 小大  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：婴狐 帖子：34 积分：520 威望：0 精华：0 注册：2014/5/10 16:30:00 		【整数】*【整数】=【长整数】，可结果出错了  发帖心情 Post By：2014/5/10 16:38:00 [只看该作者]

刚下载了foxtable最新版，正在跟着帮助文件一点点学习。
今天插入了一个表达式列“金额”，类型为长整数，内容为[数量]*[单价]，这两个列都是整数。

数量20000，单价100000都能正确的计算出金额。
但是当数量或单价再增加一位的时候，如数量变为200000，结果就会出错，提示“值对于类型“Int32”而言或者太大或者太小。”，但200亿也没有超出长整数的范围。
因为每个列里的数据都是符合要求的，根据提示来看，好像是超出了整数的范围，但表达式列我定义的明明是长整数类型的，不知道为什么会出错？应该怎样写才不会出错？

[此贴子已经被作者于2014-5-10 16:40:27编辑过]
 回到顶部
帅哥哟，离线，有人找我吗？
Bin
 小大  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：贵宾 帖子：35433 积分：178524 威望：0 精华：3 注册：2013/3/30 16:36:00 		  发帖心情 Post By：2014/5/10 16:39:00 [只看该作者]

用双精度小数,或者高精度小数. 

 回到顶部
帅哥哟，离线，有人找我吗？
saumm
 小大  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：婴狐 帖子：34 积分：520 威望：0 精华：0 注册：2014/5/10 16:30:00 		  发帖心情 Post By：2014/5/10 16:41:00 [只看该作者]

哇，这么快

 回到顶部
帅哥哟，离线，有人找我吗？
saumm
 小大  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：婴狐 帖子：34 积分：520 威望：0 精华：0 注册：2014/5/10 16:30:00 		  发帖心情 Post By：2014/5/10 16:42:00 [只看该作者]

改成单精度小数，果然没有错误提示了，真是奇怪啊，是不是因为[整数]*[整数]只能等于[整数]，表达式列设置为【长整数】也没用
[此贴子已经被作者于2014-5-10 16:43:51编辑过]
 回到顶部
帅哥哟，离线，有人找我吗？
LAOTANG1984
 小大  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：小狐 帖子：395 积分：4605 威望：0 精华：0 注册：2009/2/23 19:01:00 		  发帖心情 Post By：2014/5/10 17:20:00 [只看该作者]

明显超了啊
20万×10万是200亿了
超过长整数类型的上限了
 回到顶部
RSS2.0 | Xhtml无图版 | Xslt无图版 Copyright © 2000 - 2018 foxtable.com Tel: 4000-810-820 粤ICP备11091905号
   Powered By Dvbbs Version 8.3.0
页面执行时间 0.03125 秒, 4 次数据查询