“常用公式”在线计算,“设计手册”在线查询
最近在计算中遇到一个奇怪的现象:一个除霜的计算,我一开始直接用双精度计算,为了计算的准确(资料上说双精度比单精度计算更准确),但得到的结果很是奇怪,流线有点不对,都不知道为什么会那么流动。之后,我修改了下,先进行单精度计算,在算了大概1000步后,基本稳定后再改为双精度计算,得到的结果就比较好,也符合实际的情况。    我想问的是,1、双精度计算适合的范围有要求吗?比如什么样的计算不能直接用双精度?    2、如果不能直接用双精度来计算,是否要先用单精度,待基本稳定后再改为双精度?    3、是否有朋友遇到和我相同的问题,大家可以一起讨论下。
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 分享分享 分享淘帖 支持支持 反对反对

共 1 个关于本帖的回复 最后回复于 2013-8-6 09:37

沙发
宋倩倩 新来的 发表于 2013-8-6 09:37:09 | 只看该作者
研发埠培训中心
你双精度也先算个1000步,看看一样么。    双精度比单精度算的慢。但算同样步数,结果应该一样。除非这时已经到了单精度已经表示不出来变化了。这时双精度还能算下去。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注我们

360网站安全检测平台