Fortran Coder

关于FORTRAN的截断误差

查看数: 9542 | 评论数: 3 | 收藏 0
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2016-9-25 01:01

正文摘要:

一个很简单的浮点型数字输出程序,想请教一下为什么小数点后会变成乱的?

回复

lvganlin 发表于 2016-9-25 18:27:31
fcode 发表于 2016-9-25 10:35
这是新手常犯的错误。常量也有精度的。
k1 = 8.311111
k2 = 8.311111d0 或 8.311111_8

原来是这样,非常感谢!
fcode 发表于 2016-9-25 10:35:26
这是新手常犯的错误。常量也有精度的。
k1 = 8.311111
k2 = 8.311111d0 或 8.311111_8
k3 = 8.311111q0 或 8.311111_16
lvganlin 发表于 2016-9-25 01:03:06
如果是这样双精度甚至更高精度的格式还有什么意义?

捐赠本站|Archiver|关于我们 About Us|小黑屋|Fcode ( 京ICP备18005632-2号 )

GMT+8, 2024-12-24 10:00

Powered by Tencent X3.4

© 2013-2024 Tencent

快速回复 返回顶部 返回列表