Fortran浮点计算问题

向着光亮 · 发表于 2018-1-21 21:10:38

如图所示，编写了代码想计算et=le*0.408*10^-6次方，结果老是显示为0.00000等等，不知到怎么回事，感觉是单双精度的问题，忘大神指导，谢谢！

vvt · 发表于 2018-1-21 21:18:18

et=le*0.408e-6

向着光亮 · 发表于 2018-1-22 10:23:33

vvt 发表于 2018-1-21 21:18
et=le*0.408e-6

谢谢，好像是，还想请教下您fortran里面e的几次方怎么表示，是exp（）吗，谢谢

vvt · 发表于 2018-1-22 13:57:14

是的。exp 是求 e 指数。

向着光亮 · 发表于 2018-1-22 19:59:16

vvt 发表于 2018-1-22 13:57
是的。exp 是求 e 指数。

谢谢，

[数值问题] Fortran浮点计算问题