[数值问题] 浮点型精度求解决

159 帖子	2 主题	1 精华

大师

Vim

F 币: 961 元
贡献: 469 点

发消息

楼主

发表于 2022-11-21 14:03:42 | 显示全部楼层

本帖最后由 Transpose 于 2022-11-21 14:07 编辑

再仔细研究一下ieee754你就发现是合理的，这个数是2**24
同理，双精度也会有这个限制，是2**53。
因为单精度的最小有效精度是1/2**23，所以超过2**24每个浮点数的间隔就只能是2了，+1自然没有效果，

回复支持反对

使用道具举报

返回列表发新帖