Foxtable(狐表)用户栏目专家坐堂 → 高精度小数的有效数字


  共有10100人关注过本帖平板打印复制链接

主题:高精度小数的有效数字

帅哥哟,离线,有人找我吗?
明丰
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:二尾狐 帖子:558 积分:4352 威望:0 精华:2 注册:2011/4/18 8:27:00
高精度小数的有效数字  发帖心情 Post By:2012/10/14 12:03:00 [只看该作者]

Decimal 高精度小数,有高达28位的有效数字,适用于要求使用大量有效的整数及小数位数并且没有舍入错误的财务计算。

 

Dim d As Decimal = 1231234567890.123456789012345678901234589
Dim d1 As Decimal = 0.123456789012345678901234589
output.show(d)
output.show(d1)

 

为何显示的有效数字只有15位?


 回到顶部