[求助]数字精度问题， - 专家坐堂 - Foxtable(狐表) - 新一代数据库软件，完美融合Access、Foxpro、Excel、vb.net之优势，人人都能掌握的快速软件开发工具!

Foxtable(狐表) → 用户栏目 → 专家坐堂 → [求助]数字精度问题，

共有5312人关注过本帖树形打印复制链接主题：[求助]数字精度问题，

2900819580

小大 1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：六尾狐帖子：1348 积分：9827 威望：0 精华：0 注册：2015/6/30 8:46:00

[求助]数字精度问题， 发帖心情

Post By：2022/5/24 21:55:00 [显示全部帖子]

SQL数据库，CGM总价的数据类型设置为real()

Dim dr As DataRow = e.DataRow

Select Case e.DataCol.Name

Case "CGM单价","CGM数量"

dr("CGM总价") = dr("CGM单价") * dr("CGM数量")

End Select

结果3000的数量*0.33的单价，得到的是3000*0.33=990.0001

2900819580

小大 2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：六尾狐帖子：1348 积分：9827 威望：0 精华：0 注册：2015/6/30 8:46:00

Post By：2022/5/24 23:46:00 [显示全部帖子]

以下是引用有点蓝在2022/5/24 22:05:00的发言：
在Foxtable里设置为高精度

老师，列设置数据类型不知在那里设置，用了以下代码，也不行。

Dim zj As Decimal = dr("CGM单价") * dr("CGM数量")

dr("CGM总价") = zj

2900819580

小大 3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：六尾狐帖子：1348 积分：9827 威望：0 精华：0 注册：2015/6/30 8:46:00

Post By：2022/5/26 1:14:00 [显示全部帖子]

以下是引用有点蓝在2022/5/25 8:31:00的发言：
3个列都改为高精度：http://www.foxtable.com/webhelp/topics/0036.htm

老师，我的是SQL数据库，加载进来的。

主题：[求助]数字精度问题，