Fortran Coder

查看: 21295|回复: 6
打印 上一主题 下一主题

[文件读写] fortran读取文件中实数的精度问题

[复制链接]

490

帖子

4

主题

0

精华

大宗师

F 币
3298 元
贡献
1948 点

水王勋章元老勋章热心勋章

楼主
发表于 2015-12-31 09:42:08 | 显示全部楼层
matliu 发表于 2015-12-30 22:53
比如我读取的是0.2,真实数值也是0.2吧,是显示有问题!可以这样理解吧。

一般而言,双精度的浮点数机器误差大约是2.2e-16,所以在计算机里面的双精度0.2实际范围在0.2-2.2e-16到0.2+2.2e-16之间
您需要登录后才可以回帖 登录 | 极速注册

本版积分规则

捐赠本站|Archiver|关于我们 About Us|小黑屋|Fcode ( 京ICP备18005632-2号 )

GMT+8, 2024-6-2 04:09

Powered by Tencent X3.4

© 2013-2024 Tencent

快速回复 返回顶部 返回列表