对于大多数情况来说,单精度已经足够,但在这些情况下要使用双精度计算:

(1)计算域非常狭长(比如细长的管道),用单精度表示节点坐标可能不够精确,这时需要采用双精度求解器。
(2)如果计算域是许多由细长管道连接起来的容器,各个容器内的压强各不相同。如果某个容器的压强特别高的话,那么在采用同一个参考压强时,用单精度表示其他容器内压强可能产生较大的误差,这时可以考虑使用双精度求解器。
(3)在涉及到两个区域之间存在很大的热交换,或者网格的长细比很大时,用单精度可能无法正确传递边界信息,并导致计算无法收敛,或精度达不到要求,这时也可以考虑采用双精度求解器。
————————————————
版权声明:本文为CSDN博主「Fo*(Bi)」的原创文章
原文链接:https://blog.csdn.net/weixin_48615832/article/details/11440882

Logo

权威|前沿|技术|干货|国内首个API全生命周期开发者社区

更多推荐