设为首页收藏本站如何选择编译器？在线F77转F90 繁体浏览

切换到窄版开启辅助访问

Fortran Coder»论坛 › 研讨区 › Fortran算法研究 › 对称正定矩阵分解，计算结果错误，实在找不到原因了 ...

返回列表发新帖

查看: 5959|回复: 9

上一主题

下一主题

[线性代数] 对称正定矩阵分解，计算结果错误，实在找不到原因了

59 帖子	2 主题	0 精华

F 币: 810 元
贡献: 476 点

发消息

楼主

发表于 2015-3-27 17:59:57 | 显示全部楼层

估计你浮点数采用的是fast形式，这个可以设置的，要设置成严格类型，而且是IEEE扩展类型，结果精确才会超过6位

回复支持反对

使用道具举报

返回列表发新帖

捐赠本站|Archiver|关于我们 About Us|小黑屋|Fcode ( 京ICP备18005632-2号 )

GMT+8, 2024-5-3 14:11

Powered by Tencent X3.4

© 2013-2024 Tencent

快速回复 返回顶部 返回列表