Fortran Coder

查看: 95|回复: 1

[数值问题] 求助,为什么浮点计算结果是有问题的

[复制链接]

5

帖子

2

主题

0

精华

新人

F 币
27 元
贡献
12 点
发表于 2022-6-6 22:17:01 | 显示全部楼层 |阅读模式
[Fortran] 纯文本查看 复制代码
if(j==4756 .and. da_daycount>3) then
write(*,*) "nlch1.01"
write(*,*) co
write(*,*) vno3
write(*,*) vv
end if
if (vv > 1.e-10) then
co = vno3/vv
if (co<0.) co=0.
end if
if(j==4756 .and. da_daycount>3) then
write(*,*) "nlch1.02"
write(*,*) co
write(*,*) vno3
write(*,*) vv
end if

结果:
nlch1.01
0.00000000000
0.15994490000
60.96594000000
nlch1.02
0.00262351220
0.15994490000
60.96594000000

但是 co 的答案不应该是0.00262351240吗

168

帖子

2

主题

0

精华

宗师

F 币
1606 元
贡献
788 点

规矩勋章

发表于 2022-6-6 22:46:44 | 显示全部楼层
这个是数据的精度问题。单精度数值有效位数是6~7位十进制数。双精度数值有效位数是15~17位十进制数。

评分

参与人数 1F 币 +1 收起 理由
fcode + 1 赞一个!

查看全部评分

您需要登录后才可以回帖 登录 | 极速注册

本版积分规则

捐赠本站|Archiver|关于我们 About Us|Fcode ( 京ICP备18005632-2号 )

GMT+8, 2022-7-5 20:54

Powered by Tencent X3.4

© 2013-2022 Tencent

快速回复 返回顶部 返回列表