CVF和IVF不同编译器运行程序导致的数值不相等问题

kerb · 发表于 2015-4-18 12:15:00

本帖最后由 kerb 于 2015-4-18 12:17 编辑

你的问题也许是你使用了内部函数，比如sin,cos,log等等，但是你在项目属性中使用了缺省的floating point设置，你可以试一下：Extend Precision of Single-Precision Constants设置为：fpconstant;Floating Point Model设置为Strict，否则如果你使用缺省的fast设置，内部函数的精度只有6位，大部分情况下不影响计算结果，但是如果你想超过10多位的精度，有时候会有影响的

[编译器] CVF和IVF不同编译器运行程序导致的数值不相等问题