Foxtable(狐表)用户栏目专家坐堂 → 谁有算IEEE754标准浮点数做好的公式或者函数套用


  共有3994人关注过本帖树形打印复制链接

主题:谁有算IEEE754标准浮点数做好的公式或者函数套用

帅哥哟,离线,有人找我吗?
shyilin5
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:17 积分:188 威望:0 精华:0 注册:2020/11/15 17:10:00
谁有算IEEE754标准浮点数做好的公式或者函数套用  发帖心情 Post By:2021/5/30 11:43:00 [只看该作者]

谁有算IEEE754标准浮点数做好的公式或者函数套用,最好单精度浮点数和双精度浮点数都有,谢谢
[此贴子已经被作者于2021/5/30 11:47:31编辑过]

 回到顶部
帅哥,在线噢!
有点蓝
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:110813 积分:564003 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2021/5/30 20:39:00 [只看该作者]

举例说明一下?

 回到顶部
帅哥哟,离线,有人找我吗?
shyilin3
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:75 积分:642 威望:0 精华:0 注册:2018/5/3 12:31:00
  发帖心情 Post By:2021/5/30 21:48:00 [只看该作者]

Dim st1 As String = "41A4C000" Dim st2 As String = DecToBin(HexToDec(st1)) Dim st4 As Single If st2.Length< 32 Then st4= (-1)^0*2^(BinToDec(st2.SubString(0,8))-127)*(1+HexToDec(st1.SubString(2,6))/2^23) Else st4= (-1)^1*2^(BinToDec(st2.SubString(1,8))-127)*(1+HexToDec(st1.SubString(2,6))/2^23) End If Output.Show(Round2(st4, 2)) 老师前面那个0要怎么处理呢?我这样行不?

 回到顶部
帅哥,在线噢!
有点蓝
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:110813 积分:564003 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2021/5/30 22:15:00 [只看该作者]

哪个0?测试有什么问题?发帖请使用设计模式,不要使用代码模式发
[此贴子已经被作者于2021/5/30 22:15:14编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
shyilin3
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:75 积分:642 威望:0 精华:0 注册:2018/5/3 12:31:00
  发帖心情 Post By:2021/5/30 22:15:00 [只看该作者]

老师有空看一下

 回到顶部
帅哥哟,离线,有人找我吗?
shyilin3
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:75 积分:642 威望:0 精华:0 注册:2018/5/3 12:31:00
  发帖心情 Post By:2021/5/30 22:18:00 [只看该作者]

16转2进制如果第一位是0会省略了

 回到顶部
帅哥,在线噢!
有点蓝
  7楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:110813 积分:564003 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2021/5/30 22:22:00 [只看该作者]

省略了有什么问题?直接说这个代码要做什么吧,最后需要得到什么结果?

 回到顶部