Foxtable(狐表)用户栏目专家坐堂 → 保留一位小数,结果不理解


  共有2998人关注过本帖树形打印复制链接

主题:保留一位小数,结果不理解

帅哥哟,离线,有人找我吗?
foxyuan
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:318 积分:2685 威望:0 精华:0 注册:2018/2/3 10:48:00
保留一位小数,结果不理解  发帖心情 Post By:2020/6/16 14:00:00 [显示全部帖子]

Dim i As Double = 4980
Dim i1 As Double = 0.16
Output.Show(Math.Ceiling(i*i1*10)/10)

为什么是796.9,不是796.8呢?

 回到顶部
帅哥哟,离线,有人找我吗?
foxyuan
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:318 积分:2685 威望:0 精华:0 注册:2018/2/3 10:48:00
  发帖心情 Post By:2020/6/16 14:04:00 [显示全部帖子]

如果做到I*I1如果刚好一位小数,就保留原值;如果超过1位小数,就去掉后面的进一位?如4980*0.16=796.8,就是796.8;如果是4927*0.16=788.32,就保留788.4?

 回到顶部
帅哥哟,离线,有人找我吗?
foxyuan
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:318 积分:2685 威望:0 精华:0 注册:2018/2/3 10:48:00
  发帖心情 Post By:2020/6/16 14:57:00 [显示全部帖子]

谢谢各位,把列的数据类型改为高精度可以了

 回到顶部