Foxtable(狐表)用户栏目专家坐堂 → 导入的表仍然存在显示好长的一串小数的问题!


  共有21872人关注过本帖树形打印复制链接

主题:导入的表仍然存在显示好长的一串小数的问题!

帅哥哟,离线,有人找我吗?
cpayinyuan
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:六尾狐 帖子:1412 积分:8937 威望:0 精华:0 注册:2008/9/1 8:57:00
导入的表仍然存在显示好长的一串小数的问题!  发帖心情 Post By:2009/5/6 7:09:00 [只看该作者]

      以前我提过这个问题,现在仍然没有解决好。
      就是对于导入的表,有些数值(不是全部)在表中显示正常,但若用一个全局变量读入表中的数值,并在窗口显示时,就会出现好长一串小数(例如56会显示为56.00000000000021),按贺老师的办法先转换成整数再转换过来也不行,不知是哪儿的问题。希望贺老师认真检查一下是怎么回事,解决好这个问题。

 回到顶部
帅哥哟,离线,有人找我吗?
狐狸爸爸
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:47497 积分:251403 威望:0 精华:91 注册:2008/6/17 17:14:00
  发帖心情 Post By:2009/5/6 8:07:00 [只看该作者]

我看看

 回到顶部
帅哥哟,离线,有人找我吗?
狐狸爸爸
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:47497 积分:251403 威望:0 精华:91 注册:2008/6/17 17:14:00
  发帖心情 Post By:2009/5/6 8:48:00 [只看该作者]

数值输入框可以设置格式符号,你可以将格式符号设置为:
#0.00
这样就只显示两位小数了。

 回到顶部
帅哥哟,离线,有人找我吗?
cpayinyuan
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:六尾狐 帖子:1412 积分:8937 威望:0 精华:0 注册:2008/9/1 8:57:00
  发帖心情 Post By:2009/5/6 8:54:00 [只看该作者]

以下是引用狐狸爸爸在2009-5-6 8:48:00的发言:
数值输入框可以设置格式符号,你可以将格式符号设置为:
#0.00
这样就只显示两位小数了。

我知道这样可以,但目前的系统出现这种情况肯定有问题,是不太正确的.还是希望贺老师认真检查一下是怎么造成的!


 回到顶部
帅哥哟,离线,有人找我吗?
狐狸爸爸
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:47497 积分:251403 威望:0 精华:91 注册:2008/6/17 17:14:00
  发帖心情 Post By:2009/5/6 9:10:00 [只看该作者]

以下是引用cpayinyuan在2009-5-6 8:54:00的发言:

我知道这样可以,但目前的系统出现这种情况肯定有问题,是不太正确的.还是希望贺老师认真检查一下是怎么造成的!


这个很难,计算机本来就是浮点数,计算机的0.2不一定等于0.2,可能等于0.20000001.
在易表中,这个问题更加明显。


 回到顶部
帅哥哟,离线,有人找我吗?
cpayinyuan
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:六尾狐 帖子:1412 积分:8937 威望:0 精华:0 注册:2008/9/1 8:57:00
  发帖心情 Post By:2009/5/6 9:38:00 [只看该作者]

以下是引用狐狸爸爸在2009-5-6 9:10:00的发言:


这个很难,计算机本来就是浮点数,计算机的0.2不一定等于0.2,可能等于0.20000001.
在易表中,这个问题更加明显。

    这个道理我明白,但您的说法我不太认同.如果是1/3这样的数值变成近似值,这可以接受;但即使浮点数在计算机保存的是近似值,我在表中输入一个数0.2,计算机应该保存的是数值2和2所在的位数,无论怎么近似(2乘10的负1次方),即使是100位小数,也应该保存0.200000000000000……0,无论如何也不应该变成0.20000001。
   而且,其他的数据库软件中,从来没有发现过这个问题。只有在易表和狐表中才经常出现这个问题,难道其他软件中保存的不是浮点数?
   既然这样,系统的算法方面应该存在一定的问题,希望想办法解决!

[此贴子已经被作者于2009-5-6 9:38:22编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
程兴刚
  7楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:超级版主 帖子:7258 积分:40773 威望:0 精华:16 注册:2008/8/31 23:23:00
  发帖心情 Post By:2009/5/6 10:12:00 [只看该作者]

round

 回到顶部
帅哥哟,离线,有人找我吗?
cpayinyuan
  8楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:六尾狐 帖子:1412 积分:8937 威望:0 精华:0 注册:2008/9/1 8:57:00
  发帖心情 Post By:2009/5/6 10:14:00 [只看该作者]

以下是引用程兴刚在2009-5-6 10:12:00的发言:
round

不是计算得来的数,是我刚刚输入一个2,一会儿再显示的时候就变成了2.0000000000001。
难道我在表中每输入一个数,都用round四舍五入一下?


 回到顶部
帅哥哟,离线,有人找我吗?
狐狸爸爸
  9楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:47497 积分:251403 威望:0 精华:91 注册:2008/6/17 17:14:00
  发帖心情 Post By:2009/5/6 10:19:00 [只看该作者]

不用Double,用Decimal

 回到顶部
帅哥哟,离线,有人找我吗?
cpayinyuan
  10楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:六尾狐 帖子:1412 积分:8937 威望:0 精华:0 注册:2008/9/1 8:57:00
  发帖心情 Post By:2009/5/6 10:25:00 [只看该作者]

以下是引用狐狸爸爸在2009-5-6 10:19:00的发言:
不用Double,用Decimal

难道用高精度小数能解决这个问题?高精度小数好像就是允许的位数长,占用空间大,为什么能解决这个问题,不理解。


 回到顶部
总数 18 1 2 下一页