Fortran Coder

标题: 关于FORTRAN的截断误差 [打印本页]

作者: lvganlin    时间: 2016-9-25 01:01
标题: 关于FORTRAN的截断误差
一个很简单的浮点型数字输出程序,想请教一下为什么小数点后会变成乱的?

截断误差_IEEE754.jpg (60.84 KB, 下载次数: 202)

截断误差_IEEE754.jpg

作者: lvganlin    时间: 2016-9-25 01:03
如果是这样双精度甚至更高精度的格式还有什么意义?
作者: fcode    时间: 2016-9-25 10:35
这是新手常犯的错误。常量也有精度的。
k1 = 8.311111
k2 = 8.311111d0 或 8.311111_8
k3 = 8.311111q0 或 8.311111_16
作者: lvganlin    时间: 2016-9-25 18:27
fcode 发表于 2016-9-25 10:35
这是新手常犯的错误。常量也有精度的。
k1 = 8.311111
k2 = 8.311111d0 或 8.311111_8

原来是这样,非常感谢!




欢迎光临 Fortran Coder (http://bbs.fcode.cn/) Powered by Discuz! X3.2