Fortran Coder
标题:
求助fortran 高精度计算问题
[打印本页]
作者:
zhaoxubao7005
时间:
2020-9-5 08:22
标题:
求助fortran 高精度计算问题
大家好,向大家咨询一个关于fortran高精度的计算问题。在我的计算中,经常遇到双精度的复杂计算,随着计算时间变长,结果就不正确了,不知道为何,
比如:
real(8) :: a=0.12345678988
real(8) b
b=a+a
write(*,*) b
理论上计算b的值应该为:0.24691357976
计算机输出的结果是: 0.246913582086563
请问,如何修改能保证计算结果。
谢谢。
作者:
风平老涡
时间:
2020-9-5 12:55
尽管变量a和b定义为64位(双精度),但是赋值的常数只有32位(单精度),改为如下:
real(8) :: a=0.12345678988_8
作者:
liudy02
时间:
2020-9-8 10:44
风平老涡 发表于 2020-9-5 12:55
尽管变量a和b定义为64位(双精度),但是赋值的常数只有32位(单精度),改为如下:
real(8) :: a=0.123456 ...
感觉更常见易于理解的写法是 0.12345678988d0
欢迎光临 Fortran Coder (http://bbs.fcode.cn/)
Powered by Discuz! X3.2