关于数据精度的疑问

yufeng98 · 发表于 2020-3-28 19:53:25

做定步长积分计算的时候确定积分步数，我发现显示数组越界的现象Subscript #2 of the array VV has value 50000 which is greater than the upper bound of 49999，检查之后发现是积分步数直接50/0.001=49999导致越界，，但将Ts=50改成40结果就等于40000，请大神指点一下这种问题是怎么引起的？该怎么避免？Program test_IMSL

[Fortran] 纯文本查看 复制代码

implicit none

  real,parameter :: dt=1e-3,Ts=50
  integer,parameter :: nj=floor(Ts/dt)

  write(*,*) nj

pause

  end program

vvt · 发表于 2020-3-28 20:50:39

floor 改成 nint 就好了

yufeng98 · 发表于 2020-3-28 20:56:56

vvt 发表于 2020-3-28 20:50
floor 改成 nint 就好了

明白了，感谢

[讨论] 关于数据精度的疑问

规矩勋章

元老勋章

新人勋章

水王勋章

热心勋章