Fortran Coder

程序运行中数值精度下降

查看数: 3994 | 评论数: 1 | 收藏 0
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2022-2-15 16:34

正文摘要:

如题,求助论坛的各位大大。程序片段以及断点位置如图:

回复

vvt 发表于 2022-2-15 23:19:05
这是非常正常的事情。
单精度浮点数只有7位有效数字。

正如人类习惯用十进制。
计算 (1/3) = 0.3333333 ,然后 0.3333333*3=0.9999999
是吧?(1/3)*3竟然不等于1

计算机使用二进制,一样有误差的。使用双精度可以一定程度降低误差。

捐赠本站|Archiver|关于我们 About Us|小黑屋|Fcode ( 京ICP备18005632-2号 )

GMT+8, 2025-4-4 13:29

Powered by Tencent X3.4

© 2013-2025 Tencent

快速回复 返回顶部 返回列表