求助大佬们,小数减小数计算输出结果总为0,是什么原因?
本帖最后由 jiangyuuuuuu 于 2023-7-16 10:27 编辑代码段如下:
real(kind=sp),pointer::norm_m(:),dif(:)
real(kind=sp)diff
do i=1,100
dif(i)=abs(norm_m(i)-diff)en do
由于代码过多,我就放了这一段,norm_m和diff是小数点后面有十五位的小数,例如:0.3745748754655。不知道是由于最后的结果接近于零还是什么问题结果都是显示0.000000000000000E+000。精度问题我也尝试该过,结果不变。求大佬看看这是什么问题?
你需要给出一个能复现问题的代码。如果代码过多,就复制一份(做为备份),然后缩减代码,直到足够少,但能复现问题。
此外,你是否掌握了下断点单步调试? fcode 发表于 2023-7-16 12:02
你需要给出一个能复现问题的代码。如果代码过多,就复制一份(做为备份),然后缩减代码,直到足够少,但能 ...
这个好像不太好复现,需要复杂计算出来的结果,读取然后计算,因为整个程序有好些个子程序,我都是一步一步让它输出一段字母运行进行调试的 那你单步调试吧 如果是小数点后面有十五位的小数的话,双精度也不够,需四精度。 fcode 发表于 2023-7-16 19:05
那你单步调试吧
唉 好吧,无论怎样都感谢你的回复 风平老涡 发表于 2023-7-16 21:24
如果是小数点后面有十五位的小数的话,双精度也不够,需四精度。
啊 感谢
页:
[1]