Foxtable(狐表)用户栏目专家坐堂 → 四舍五入 表达式列计算结果不准确,经常出错


  共有6234人关注过本帖树形打印复制链接

主题:四舍五入 表达式列计算结果不准确,经常出错

帅哥哟,离线,有人找我吗?
Bin
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 14:02:00 [显示全部帖子]

你不是使用代码减少0.005了?  否则0.006怎么会算出0.01来.

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 14:10:00 [显示全部帖子]

或者 Convert(0.005*100, 'System.Decimal') / 100

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 14:35:00 [显示全部帖子]

例子发出来看看.包括你Excel计算的例子.

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 14:42:00 [显示全部帖子]

使用Decimal是不可能有问题的,你试过了没有.我改为Decimal一切正常啊.43.725啊.四舍五入的话就是43.73了

 下载信息  [文件大小:   下载次数: ]
图片点击可在新窗口打开查看点击浏览该文件:管理项目1 (1).table



 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 14:57:00 [显示全部帖子]

这个四舍五入方法主要是利用扩大小数位整数来实现的.但是你里面又使用了其他小数 并未扩大为整数处理 就会这样.

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 15:04:00 [显示全部帖子]

请看我15楼.

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  7楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 15:05:00 [显示全部帖子]

以下是引用louis_sun在2013-7-15 15:04:00的发言:
难道我这个计算功能就无法实现了?

请看我15楼

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  8楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 15:05:00 [显示全部帖子]

要不你就用简便点的办法,使用代码计算

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  9楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 15:07:00 [显示全部帖子]

把你计算需求说出来,我给你用代码写,比表达式还简单.

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  10楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/7/15 15:12:00 [显示全部帖子]

不要发经过四舍五入的公式,看得头疼.  你把你原本需要怎么计算的公式发出来.
[此贴子已经被作者于2013-7-15 15:13:17编辑过]

 回到顶部
总数 13 1 2 下一页