最近在计算中遇到一个奇怪的现象:一个除霜的计算,我一开始直接用双精度计算,为了计算的准确(资料上说双精度比单精度计算更准确),但得到的结果很是奇怪,流线有点不对,都不知道为什么会那么流动。之后,我修改了下,先进行单精度计算,在算了大概1000步后,基本稳定后再改为双精度计算,得到的结果就比较好,也符合实际的情况。 我想问的是,1、双精度计算适合的范围有要求吗?比如什么样的计算不能直接用双精度? 2、如果不能直接用双精度来计算,是否要先用单精度,待基本稳定后再改为双精度? 3、是否有朋友遇到和我相同的问题,大家可以一起讨论下。 |
|
|
|
|
共 1 个关于本帖的回复 最后回复于 2013-8-6 09:37