zhaoxubao7005 发表于 2020-9-5 08:22:23

求助fortran 高精度计算问题

大家好,向大家咨询一个关于fortran高精度的计算问题。在我的计算中,经常遇到双精度的复杂计算,随着计算时间变长,结果就不正确了,不知道为何,
比如:
real(8) :: a=0.12345678988
real(8) b
b=a+a
write(*,*) b

理论上计算b的值应该为:0.24691357976
计算机输出的结果是:   0.246913582086563

请问,如何修改能保证计算结果。
谢谢。


风平老涡 发表于 2020-9-5 12:55:11

尽管变量a和b定义为64位(双精度),但是赋值的常数只有32位(单精度),改为如下:
real(8) :: a=0.12345678988_8

liudy02 发表于 2020-9-8 10:44:00

风平老涡 发表于 2020-9-5 12:55
尽管变量a和b定义为64位(双精度),但是赋值的常数只有32位(单精度),改为如下:
real(8) :: a=0.123456 ...

感觉更常见易于理解的写法是 0.12345678988d0
页: [1]
查看完整版本: 求助fortran 高精度计算问题