函数体构造对数值精度的过度反应

jason388

Felix804665 发表于 2014-3-5 01:41
函数计算的时候，参数的数据类型和精度会影响函数的计算结果，尤其是当作除法的时候，如果分子很大，分母很 ...

因为计算机字长的关系，相差悬殊的数字的算术运算是会有偏差的，但一般规律是采用的kind的精度越高计算结果应该越准确。