负数求三次方根的NaN问题，多谢啦！

wutong-sky

楚香饭 发表于 2015-9-30 07:35
由于浮点数有误差。所以 1.0/3.0 并不能精确的表示 1/3，例如可能是 0.333333334，极大可能是一个偶数分之 ...

麻烦问一下师兄，RRL=SQRT(UUAB**2+CH**2*(FF1**2-FF2**2))
                        RRL0=(RRL-UUAB)/(CH*(FF1+FF2))
其中UUAB为正，CH为正

wutong-sky

楚香饭 发表于 2015-9-30 07:35
由于浮点数有误差。所以 1.0/3.0 并不能精确的表示 1/3，例如可能是 0.333333334，极大可能是一个偶数分之 ...

RRL=SQRT(UUAB**2+CH**2*(FF1**2-FF2**2))
RRL0=(RRL-UUAB)/(CH*(FF1+FF2))
师兄，麻烦问一下，我debug在这两句这出现了float invalid operation，怎么改？谢谢

wutong-sky

vvt 发表于 2016-3-18 22:44
请参考楼上的案例，依葫芦画瓢。

RRL0=(RRL-UUAB)/(CH*(FF1+FF2))
麻烦问一下，这一句怎么改？