Foxtable(狐表)用户栏目专家坐堂 → 小数显示错误的问题


  共有2110人关注过本帖树形打印复制链接

主题:小数显示错误的问题

帅哥哟,离线,有人找我吗?
happyft
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:八尾狐 帖子:1916 积分:17146 威望:0 精华:0 注册:2014/7/29 19:09:00
小数显示错误的问题  发帖心情 Post By:2016/2/19 12:01:00 [显示全部帖子]

表中有长度1,长度2,面积三列,都是float(全部设置为numeric数据类型18,8结果也是一样)
面积 = 长度1*长度2/1000000 
比如长度1,长度2均为38mm,
但计算的结果都只显示0.001400, 正确应该是0.001444;为什么后面两个4会变为0.

是什么原因,谢谢!

 回到顶部
帅哥哟,离线,有人找我吗?
HappyFt
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:八尾狐 帖子:1916 积分:17146 威望:0 精华:0 注册:2014/7/29 19:09:00
  发帖心情 Post By:2016/3/6 13:09:00 [显示全部帖子]

 下载信息  [文件大小:   下载次数: ]
图片点击可在新窗口打开查看点击浏览该文件:计算小数问题.foxdb

真的是有问题啊,在第一二列输入38,都是双精度的,第三列应该是0.001444,但就只显示0.0014,为什么呢?谢谢!


 回到顶部
帅哥哟,离线,有人找我吗?
HappyFt
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:八尾狐 帖子:1916 积分:17146 威望:0 精华:0 注册:2014/7/29 19:09:00
  发帖心情 Post By:2016/3/6 15:51:00 [显示全部帖子]

谢谢!那请教一下我的表都是动态fill的sqltb啊,这个小数位数的列属性要怎么设呢?

 回到顶部
帅哥哟,离线,有人找我吗?
HappyFt
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:八尾狐 帖子:1916 积分:17146 威望:0 精华:0 注册:2014/7/29 19:09:00
  发帖心情 Post By:2016/3/6 17:15:00 [显示全部帖子]

这个没有用啊,早就设置了。就是找不到什么原因啦!

'加载表结构
Tables(e.Form.name & "_主表").Fill("se lect *,0 as RowNum from {" & Mtb & "} where [_Identify] < 0",Mydata,False) '通用
Tables(e.Form.name & "_主表").SetColVisibleWidth(Csx)

'设置表属性
Tables(e.Form.name & "_主表").Cols("图片").DataCol.ExtendType = ExtendTypeEnum.Images
Tables(e.Form.name & "_主表").cols("平方").DataCol.SetFormat("0.000000") '设置小数位数
Tables(e.Form.name & "_主表").Cols("唛头").AllowDirectType = True
Tables(e.Form.name & "_主表").Cols("唛头").AllowTypeAssistant = True '输入助手
Tables(e.Form.name & "_主表").Cols("颜色").AllowDirectType = True


 回到顶部
帅哥哟,离线,有人找我吗?
HappyFt
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:八尾狐 帖子:1916 积分:17146 威望:0 精华:0 注册:2014/7/29 19:09:00
  发帖心情 Post By:2016/3/6 21:45:00 [显示全部帖子]

唉,不知道反复的执行多少次了,就是不行啊,设置成6位小数,但最后面两位都是显示00啊。

 


此主题相关图片如下:小数问题.gif
按此在新窗口浏览图片

 回到顶部