设为首页收藏本站如何选择编译器？在线F77转F90 繁体浏览

切换到窄版开启辅助访问

Fortran Coder»论坛 › 研讨区 › Fortran语法讨论 › 关于fortran的复数计算问题

返回列表发新帖

查看: 23883|回复: 2

上一主题

下一主题

[数值问题] 关于fortran的复数计算问题

255 帖子	0 主题	0 精华

World Analyser

F 币: 699 元
贡献: 502 点

发消息

楼主

发表于 2018-7-27 13:52:04 | 显示全部楼层

本帖最后由 kyra 于 2018-7-27 13:53 编辑

浮点数误差，很正常的。单精度只有6-7位有效数字。
接受它就好了。

就好像，如果有个外星人，用三进制。那么它会觉得，人类的数学好奇怪，1除以3，居然等于 0.3333333（假设7位有效数字）
不应该等于 0.1（三进制）吗？

回复支持反对

使用道具举报

返回列表发新帖

捐赠本站|Archiver|关于我们 About Us|小黑屋|Fcode ( 京ICP备18005632-2号 )

GMT+8, 2024-5-19 04:30

Powered by Tencent X3.4

© 2013-2024 Tencent

快速回复 返回顶部 返回列表