Fortran Coder

查看: 10846|回复: 4
打印 上一主题 下一主题

[数值问题] 在用数值中的元素作运算时-1.084202172485504E-019不是零

[复制链接]

213

帖子

2

主题

0

精华

宗师

F 币
2126 元
贡献
875 点

规矩勋章

楼主
发表于 2021-4-28 23:46:22 | 显示全部楼层
本帖最后由 风平老涡 于 2021-4-28 23:55 编辑
Proteus 发表于 2021-4-28 21:15
那这个误差会影响后面的计算吗?

会的。ye, ze和a都是12位的精度,大于12位精度的数字都是无效数。所以a等同于0。要特别注意相同大小的数值相减, 很可能会掉精度。
您需要登录后才可以回帖 登录 | 极速注册

本版积分规则

捐赠本站|Archiver|关于我们 About Us|小黑屋|Fcode ( 京ICP备18005632-2号 )

GMT+8, 2024-5-15 14:48

Powered by Tencent X3.4

© 2013-2024 Tencent

快速回复 返回顶部 返回列表