以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.com/bbs/index.asp)
--  专家坐堂  (http://foxtable.com/bbs/list.asp?boardid=2)
----  关于数值型的问题  (http://foxtable.com/bbs/dispbbs.asp?boardid=2&id=41109)

--  作者:blackzhu
--  发布时间:2013/10/11 13:26:00
--  关于数值型的问题
  我的数据列为类型为数值型  本来是双精度小数  但是由于数值太大 数字溢出,所以我又改成高精度.



但是改了后有些数据提示值对于int32  太大或者太小  这个是什么回事?

--  作者:程兴刚
--  发布时间:2013/10/11 14:10:00
--  
您有过兆亿的数据?
--  作者:Bin
--  发布时间:2013/10/11 14:10:00
--  
有代码操作到这些数据列,是使用intger类型来存放得.
--  作者:程兴刚
--  发布时间:2013/10/11 14:21:00
--  
这个有可能!
--  作者:blackzhu
--  发布时间:2013/10/11 14:35:00
--  
不会呀 最多只是数据长些.  现在换了高精度 就变成了有些数据会出现这个提示  我重来没有碰到过.
--  作者:程兴刚
--  发布时间:2013/10/11 15:17:00
--  
查看引用该数据所定义的变量的类型!
--  作者:blackzhu
--  发布时间:2013/10/11 15:26:00
--  
就用代码计算好写入  列的类型是高精度.
--  作者:程兴刚
--  发布时间:2013/10/11 15:32:00
--  
老朱,做一个例子吧,这样说不清楚,大家都没遇到,不好分析原因。
--  作者:狐狸爸爸
--  发布时间:2013/10/11 15:39:00
--  

微整数

介于 0 到 255 之间的微整数

短整数

介于 –32768 到 32767 之间的短整数

整数

介于 –2147483648 到 2147483647 之间的整数,超过此范围的整数可以考虑用双精度小数代替

单精度小数

单精度小数,有效数字为7位

双精度小数

双精度小数,有效数字为15位

高精度小数

高精度小数,有高达28位的有效数字,适用于要求使用大量有效的整数及小数位数并且没有舍入错误的财务计算,可存储的小数位数默认为4,可根据需要调整。


--  作者:狐狸爸爸
--  发布时间:2013/10/11 15:42:00
--  
看了上面的表,就只知道不是任何高精度小数都可以转为其他数值类型的