645219868 发表于 2014-9-5 20:16:27

ivf调试的时候，两个数显示的位数明明一样，相减不为0

调试的时候，两个数显示的位数明明一样，相减不为0， 有什么方法可以在调试的时候，显示实型变量的全部位数

楚香饭 发表于 2014-9-5 20:54:59

这恐怕不是调试的问题，而是浮点数误差的问题。

我猜的话。

如果我猜得不对，请告诉我：
1.两个数分别显示为什么？
2.相减不为0，那相减后显示成什么？
页: [1]
查看完整版本: ivf调试的时候，两个数显示的位数明明一样，相减不为0