Foxtable(狐表) → 用户栏目 → 专家坐堂 → 不明白的问题


  共有4932人关注过本帖树形打印复制链接

主题：不明白的问题
帅哥哟，离线，有人找我吗？
狐狸爸爸
 小大  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：管理员 帖子：47497 积分：251403 威望：0 精华：91 注册：2008/6/17 17:14:00 		  发帖心情 Post By：2013/10/23 8:13:00 [显示全部帖子]


 回到顶部
帅哥哟，离线，有人找我吗？
狐狸爸爸
 小大  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：管理员 帖子：47497 积分：251403 威望：0 精华：91 注册：2008/6/17 17:14:00 		  发帖心情 Post By：2013/10/23 8:43:00 [显示全部帖子]

对于计算机来说，1有的时候并不等于1的：

 

http://www.foxtable.com/help/topics/1829.htm

 

 

另外，记得涉及计算的列，列类型尽量不要用单进度小数，请用双精度小数，单进度出现的计算误差更大。

[此贴子已经被作者于2013-10-23 8:44:27编辑过]
 回到顶部
帅哥哟，离线，有人找我吗？
狐狸爸爸
 小大  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：管理员 帖子：47497 积分：251403 威望：0 精华：91 注册：2008/6/17 17:14:00 		  发帖心情 Post By：2013/10/23 8:56:00 [显示全部帖子]

呵呵，按理，双精度不会出现一楼这么大的误差的，楼主可能至少一列是单精度

 

图片点击可在新窗口打开查看

[此贴子已经被作者于2013-10-23 9:16:49编辑过]
 回到顶部
帅哥哟，离线，有人找我吗？
狐狸爸爸
 小大  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：管理员 帖子：47497 积分：251403 威望：0 精华：91 注册：2008/6/17 17:14:00 		  发帖心情 Post By：2013/10/23 9:17:00 [显示全部帖子]

Dim c As Double = 1.25
output.show(math.Floor(c * 10) /10)

 回到顶部
RSS2.0 | Xhtml无图版 | Xslt无图版 Copyright © 2000 - 2018 foxtable.com Tel: 4000-810-820 粤ICP备11091905号
   Powered By Dvbbs Version 8.3.0
页面执行时间 0.03516 秒, 5 次数据查询