jiangyuuuuuu 发表于 2023-7-16 10:13:20

求助大佬们,小数减小数计算输出结果总为0,是什么原因?

本帖最后由 jiangyuuuuuu 于 2023-7-16 10:27 编辑

代码段如下:
real(kind=sp),pointer::norm_m(:),dif(:)
real(kind=sp)diff
do i=1,100
dif(i)=abs(norm_m(i)-diff)en do
由于代码过多,我就放了这一段,norm_m和diff是小数点后面有十五位的小数,例如:0.3745748754655。不知道是由于最后的结果接近于零还是什么问题结果都是显示0.000000000000000E+000。精度问题我也尝试该过,结果不变。求大佬看看这是什么问题?

fcode 发表于 2023-7-16 12:02:09

你需要给出一个能复现问题的代码。如果代码过多,就复制一份(做为备份),然后缩减代码,直到足够少,但能复现问题。
此外,你是否掌握了下断点单步调试?

jiangyuuuuuu 发表于 2023-7-16 15:27:12

fcode 发表于 2023-7-16 12:02
你需要给出一个能复现问题的代码。如果代码过多,就复制一份(做为备份),然后缩减代码,直到足够少,但能 ...

这个好像不太好复现,需要复杂计算出来的结果,读取然后计算,因为整个程序有好些个子程序,我都是一步一步让它输出一段字母运行进行调试的

fcode 发表于 2023-7-16 19:05:16

那你单步调试吧

风平老涡 发表于 2023-7-16 21:24:01

如果是小数点后面有十五位的小数的话,双精度也不够,需四精度。

jiangyuuuuuu 发表于 2023-7-18 15:13:07

fcode 发表于 2023-7-16 19:05
那你单步调试吧

唉 好吧,无论怎样都感谢你的回复

jiangyuuuuuu 发表于 2023-7-18 15:17:53

风平老涡 发表于 2023-7-16 21:24
如果是小数点后面有十五位的小数的话,双精度也不够,需四精度。

啊 感谢
页: [1]
查看完整版本: 求助大佬们,小数减小数计算输出结果总为0,是什么原因?