季良 发表于 2013-8-6 09:33:35

单双精度的几个问题

最近在计算中遇到一个奇怪的现象:一个除霜的计算,我一开始直接用双精度计算,为了计算的准确(资料上说双精度比单精度计算更准确),但得到的结果很是奇怪,流线有点不对,都不知道为什么会那么流动。之后,我修改了下,先进行单精度计算,在算了大概1000步后,基本稳定后再改为双精度计算,得到的结果就比较好,也符合实际的情况。    我想问的是,1、双精度计算适合的范围有要求吗?比如什么样的计算不能直接用双精度?    2、如果不能直接用双精度来计算,是否要先用单精度,待基本稳定后再改为双精度?    3、是否有朋友遇到和我相同的问题,大家可以一起讨论下。

宋倩倩 发表于 2013-8-6 09:37:09

你双精度也先算个1000步,看看一样么。    双精度比单精度算的慢。但算同样步数,结果应该一样。除非这时已经到了单精度已经表示不出来变化了。这时双精度还能算下去。
页: [1]
查看完整版本: 单双精度的几个问题