Fortran Coder

标题: ivf调试的时候,两个数显示的位数明明一样,相减不为0 [打印本页]

作者: 645219868    时间: 2014-9-5 20:16
标题: ivf调试的时候,两个数显示的位数明明一样,相减不为0
调试的时候,两个数显示的位数明明一样,相减不为0, 有什么方法可以在调试的时候,显示实型变量的全部位数

作者: 楚香饭    时间: 2014-9-5 20:54
这恐怕不是调试的问题,而是浮点数误差的问题。

我猜的话。

如果我猜得不对,请告诉我:
1.两个数分别显示为什么?
2.相减不为0,那相减后显示成什么?




欢迎光临 Fortran Coder (http://bbs.fcode.cn/) Powered by Discuz! X3.2