风平老涡 发表于 2021-5-22 00:37 明白了 谢谢大佬 |
本帖最后由 风平老涡 于 2021-5-22 11:21 编辑 因为在你的计算中有两个相近数值大小的数相减,产生的计算误差。 以下是6×6的矩阵乘以6×1的矩阵求和之前各个元素的乘积,红字体的数值相减会产生误差。后面一组蓝字体的数值产生同样结果。从所用的精度考虑,可以认为-5.2041704279304213E-018和 -6.9388939039072284E-018等同于0。 -0.36956520984199237 9.7826093418680333E-003 9.7826093418680333E-003 0.0000000000000000 0.0000000000000000 0.0000000000000000 总和= -0.34999999115825631 -6.5217393020947201E-002 5.5434783679079162E-002 9.7826093418680333E-003 0.0000000000000000 0.0000000000000000 0.0000000000000000 总和= -5.2041704279304213E-018; 前两项之和= - 9.782609341868039e-3 -6.5217393020947201E-002 9.7826093418680333E-003 5.5434783679079162E-002 0.0000000000000000 0.0000000000000000 0.0000000000000000 总和= -6.9388939039072284E-018;前两项之和= - 5.54347836790791677e-2 -0.0000000000000000 0.0000000000000000 0.0000000000000000 0.0000000000000000 0.0000000000000000 0.0000000000000000 总和= 0.0000000000000000 -0.0000000000000000 0.0000000000000000 0.0000000000000000 0.0000000000000000 0.0000000000000000 0.0000000000000000 总和= 0.0000000000000000 -0.0000000000000000 0.0000000000000000 0.0000000000000000 0.0000000000000000 0.0000000000000000 0.0000000000000000 总和= 0.0000000000000000 |
捐赠本站|Archiver|关于我们 About Us|小黑屋|Fcode ( 京ICP备18005632-2号 )
GMT+8, 2024-11-23 21:55