Fortran Coder

查看: 1491|回复: 2
打印 上一主题 下一主题

[数值问题] 请问这后面为什么会出现这一串数字呢

[复制链接]

1963

帖子

12

主题

5

精华

论坛跑堂

臭石头雪球

F 币
1357 元
贡献
574 点

美女勋章热心勋章星光勋章新人勋章贡献勋章管理勋章帅哥勋章爱心勋章规矩勋章元老勋章水王勋章

楼主
发表于 2023-5-20 11:28:21 | 显示全部楼层
老生常谈的问题了。
你需要了解2个问题。

第一,浮点数是有误差的。单精度大约7位有效数字,双精度大约15位有效数字。

第二,常量也有精度。所以 100000.0 是单精度(大部分编译器是这样规定的),而双精度的需要写成 100000.d0
a=100000.d
b=0.1d0
您需要登录后才可以回帖 登录 | 极速注册

本版积分规则

捐赠本站|Archiver|关于我们 About Us|小黑屋|Fcode ( 京ICP备18005632-2号 )

GMT+8, 2024-5-9 01:56

Powered by Tencent X3.4

© 2013-2024 Tencent

快速回复 返回顶部 返回列表