Fortran Coder»论坛 › 研讨区 › 编程工具交流 › Powerstation上遇到的浮点数错误

Powerstation上遇到的浮点数错误

查看数: 12579 | 评论数: 10 | 收藏 0

关灯 | 提示：支持键盘翻页<-左右->

帖子模式

wutong-sky

发布时间: 2016-3-17 15:30

正文摘要:

麻烦懂Fortran的研友们，帮我看看，运行程序Loaded symbols for 'C:\MSDEV\Projects\cx1~1.exe'First-chance exception in cx1 .exe (KERNELBASE.DLL): 0xC0000090: Float Invalid Operation. The program 'C:\MSDEV ...

wutong-sky 发表于 2016-3-24 16:25:20

fcode 发表于 2016-3-24 11:18
1.可以改默认kind值。但是从你的截图来看，你改了依然超界
2.请直接卸载Powerstation，没有保留的必要。截 ...

非常感谢，像这种循环几次之后输出非常大，引起的原因有没有可能是不收敛，或者其他因素，麻烦师兄把你碰到这种情况的原因，给我说一下，我好好学习一下。

fcode 发表于 2016-3-24 11:18:08

1.可以改默认kind值。但是从你的截图来看，你改了依然超界
2.请直接卸载Powerstation，没有保留的必要。截图也没必要
3.VS也可以设置颜色为浅色，不一定非得是黑色的
4. debug 是一个好的工具，要学会使用。但是它只能找到问题，而不能给你解决问题的方法。
5. 要解决问题，必须从算法，数据稳定性等多方面入手。

fcode 发表于 2016-3-24 09:40:55

1. 你的截图很显然还是 Poswerstation 的，而不是VS的显示
2. 你的代码问题可能较多。在你那里调试，是 705 行的问题，但在我（IVFXE2016）这里，705行没有遇到问题。
3. exp(120.1)的结果是 e57 次方，超过了单精度的上限（e38），你可能需要双精度来计算
4. AITA(I,J)=EXP(EC) 为什么可以写成 EC=LOG(AITA(I,J)) ？？？？数学表达式和编程表达式你还没有弄清楚。

fcode 发表于 2016-3-20 07:57:35

除数为 0
exp 指数太大，超出浮点数范围
90度求tan
......
......
变量未初始化参与计算

等等，情况非常多，我强烈建议你学习 debug调试。

wutong-sky 发表于 2016-3-19 21:09:35

fcode 发表于 2016-3-17 18:48
1.请放弃 CVF 和 Powerstation 这些古老的编译器
2. 你遇到的首要问题是， ** 乘方遇到了负数。
当指数是浮 ...

麻烦问一下师兄，一般情况造成float overflow都有那些情况？

vvt 发表于 2016-3-17 22:23:37

代码当然有问题了。
编译器没有好不好，只有适合不适合。

http://choose.fcode.cn 此处可以根据你的情况进行选择。

wutong-sky 发表于 2016-3-17 21:39:28

麻烦问一下，这代码本身有没有问题，还有最好用什么编译器？谢谢

Powerstation上遇到的浮点数错误

正文摘要:

回复