[数值问题] 简单的减法，release和debug的计算结果为什么不一样？

490 帖子	4 主题	0 精华

大宗师

F 币: 3298 元
贡献: 1948 点

发消息

楼主

发表于 2019-5-25 11:21:36 | 显示全部楼层

本帖最后由 pasuka 于 2019-5-25 11:25 编辑

lz需要了解IEEE-754和IEEE-754 (2008)规范对于计算机浮点数的约定
传送门：
https://docs.oracle.com/cd/E7194 ... 9878.html#scrolltoc
浅尝即止的话，把表10 存储格式的范围和精度 记住就能在BATH码农面试中脱颖而出了

回复支持反对

使用道具举报

返回列表发新帖

[数值问题] 简单的减法，release和debug的计算结果为什么不一样？

水王勋章

元老勋章

热心勋章