ysgs 发表于 3 天前

双精度浮点数赋值为啥输出精度只有八位有效数字

我用双精度浮点数写的代码误差一直不能超过1e-8，后来发现赋的初值就只有八位精度，下面是我的一个测试，结果用双精度浮点数赋值出来就只有8位数字是对的

Transpose 发表于 3 天前

Fortran常数的默认类型是单精度，加上d0表示的是双精度。
1.22222222233333333d0

ysgs 发表于 3 天前

Transpose 发表于 2024-11-19 11:36
Fortran常数的默认类型是单精度，加上d0表示的是双精度。
1.22222222233333333d ...

是的哎，明白了，谢谢大佬，没想到fortran赋值不加d0都会降低精度，我还以为只有运算的时候要加

ysgs 发表于 3 天前

Transpose 发表于 2024-11-19 11:36
Fortran常数的默认类型是单精度，加上d0表示的是双精度。
1.22222222233333333d ...

再请问一个问题，就是双精度的浮点数乘整数怎么操作才能不降低精度呢

fcode 发表于 3 天前

ysgs 发表于 2024-11-19 13:46
再请问一个问题，就是双精度的浮点数乘整数怎么操作才能不降低精度呢

确保参与计算的浮点数都是双精度就行了。
如果是变量，那么变量要定义为双精度。
如果是常量，那么要加 d0，表示双精度的常量。

其实其他语言也有类似的问题，比如 C 语言，只不过它默认的精度就是双精度，一些时候需要加 1.3F 表示是 float 的常量。

ysgs 发表于 3 天前

OK，明白了，谢谢大佬
页: [1]
查看完整版本: 双精度浮点数赋值为啥输出精度只有八位有效数字