CVF和IVF不同编译器运行程序导致的数值不相等问题

紫璇 · 发表于 2015-4-9 14:11:24

chiangtp 发表于 2015-4-9 13:39
! Programmer的夢靨: Results are compiler/compile-option dependent
!--------------------------------- ...

您所指的程式有逻辑错误是什么意思呢？我不大懂啊，可以详细点吗？我现在是求解四个参数值，用CVF求解得到四个值分别是10, 152, 551，-0.531；用IVF得到的分别是14， 201， 730， -0.427。

chiangtp · 发表于 2015-4-9 14:27:55

建議您把程式PO上來, 大家集思廣益看看

mangix2010 · 发表于 2015-4-14 11:33:27

这位是港台同胞啊

kerb · 发表于 2015-4-18 12:15:00

本帖最后由 kerb 于 2015-4-18 12:17 编辑

你的问题也许是你使用了内部函数，比如sin,cos,log等等，但是你在项目属性中使用了缺省的floating point设置，你可以试一下：Extend Precision of Single-Precision Constants设置为：fpconstant;Floating Point Model设置为Strict，否则如果你使用缺省的fast设置，内部函数的精度只有6位，大部分情况下不影响计算结果，但是如果你想超过10多位的精度，有时候会有影响的

[编译器] CVF和IVF不同编译器运行程序导致的数值不相等问题

贡献勋章

管理勋章

帅哥勋章

元老勋章

星光勋章

规矩勋章