Fortran Coder

查看: 2590|回复: 1
打印 上一主题 下一主题

[数值问题] 求助,为什么浮点计算结果是有问题的

[复制链接]

213

帖子

2

主题

0

精华

宗师

F 币
2126 元
贡献
875 点

规矩勋章

楼主
发表于 2022-6-6 22:46:44 | 显示全部楼层
这个是数据的精度问题。单精度数值有效位数是6~7位十进制数。双精度数值有效位数是15~17位十进制数。

评分

参与人数 1F 币 +1 收起 理由
fcode + 1 赞一个!

查看全部评分

您需要登录后才可以回帖 登录 | 极速注册

本版积分规则

捐赠本站|Archiver|关于我们 About Us|小黑屋|Fcode ( 京ICP备18005632-2号 )

GMT+8, 2024-5-7 04:04

Powered by Tencent X3.4

© 2013-2024 Tencent

快速回复 返回顶部 返回列表