谁有算IEEE754标准浮点数做好的公式或者函数套用 - 专家坐堂 - Foxtable(狐表) - 新一代数据库软件，完美融合Access、Foxpro、Excel、vb.net之优势，人人都能掌握的快速软件开发工具!

Foxtable(狐表) → 用户栏目 → 专家坐堂 → 谁有算IEEE754标准浮点数做好的公式或者函数套用

共有3998人关注过本帖树形打印复制链接主题：谁有算IEEE754标准浮点数做好的公式或者函数套用

shyilin3

小大 1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

加好友

发短信

等级：幼狐帖子：75 积分：642 威望：0 精华：0 注册：2018/5/3 12:31:00

Post By：2021/5/30 21:48:00 [显示全部帖子]

Dim st1 As String = "41A4C000" Dim st2 As String = DecToBin(HexToDec(st1)) Dim st4 As Single If st2.Length< 32 Then st4= (-1)^0*2^(BinToDec(st2.SubString(0,8))-127)*(1+HexToDec(st1.SubString(2,6))/2^23) Else st4= (-1)^1*2^(BinToDec(st2.SubString(1,8))-127)*(1+HexToDec(st1.SubString(2,6))/2^23) End If Output.Show(Round2(st4, 2)) 老师前面那个0要怎么处理呢？我这样行不？

shyilin3

小大 2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

加好友

发短信

等级：幼狐帖子：75 积分：642 威望：0 精华：0 注册：2018/5/3 12:31:00

Post By：2021/5/30 22:15:00 [显示全部帖子]

老师有空看一下

shyilin3

小大 3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

加好友

发短信

等级：幼狐帖子：75 积分：642 威望：0 精华：0 注册：2018/5/3 12:31:00

Post By：2021/5/30 22:18:00 [显示全部帖子]

16转2进制如果第一位是0会省略了

下一主题 >> << 上一主题

主题：谁有算IEEE754标准浮点数做好的公式或者函数套用