Foxtable(狐表)用户栏目专家坐堂 → 高精度小数的有效数字


  共有10565人关注过本帖树形打印复制链接

主题:高精度小数的有效数字

帅哥哟,离线,有人找我吗?
狐狸爸爸
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:47479 积分:251266 威望:0 精华:91 注册:2008/6/17 17:14:00
  发帖心情 Post By:2012/10/15 9:07:00 [显示全部帖子]

Dim d As Decimal = 1231234567890.123456789012345678901234589@
Dim d1 As Decimal = 0.123456789012345678901234589@
output.show(d)
output.show(d1)

 回到顶部
帅哥哟,离线,有人找我吗?
狐狸爸爸
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:47479 积分:251266 威望:0 精华:91 注册:2008/6/17 17:14:00
  发帖心情 Post By:2012/10/15 10:05:00 [显示全部帖子]

没办法,pi返回的就是一个double型

 回到顶部