向着光亮 发表于 2018-1-21 21:10:38

Fortran浮点计算问题

如图所示，编写了代码想计算et=le*0.408*10^-6次方，结果老是显示为0.00000等等，不知到怎么回事，感觉是单双精度的问题，忘大神指导，谢谢！

vvt 发表于 2018-1-21 21:18:18

et=le*0.408e-6

向着光亮 发表于 2018-1-22 10:23:33

vvt 发表于 2018-1-21 21:18
et=le*0.408e-6

谢谢，好像是，还想请教下您fortran里面e的几次方怎么表示，是exp（）吗，谢谢

vvt 发表于 2018-1-22 13:57:14

是的。exp 是求 e 指数。

向着光亮 发表于 2018-1-22 19:59:16

vvt 发表于 2018-1-22 13:57
是的。exp 是求 e 指数。

谢谢，{:4_93:}
页: [1]
查看完整版本: Fortran浮点计算问题