1. 尽量满足每个sm上面的最大线程数。

  2. 每个sm支持的线程块有上限,所以每个线程块的线程数不能太少,并且最好为32或16的倍数。

  3. 当一个sm中的Block的所有线程形成阻塞(同步或者等待)时,相应的SM会闲置导致效率下滑。通常让block的数目是sm的2倍以上,方便sm对其进行调度,使其在时间轴上重叠来提高利用率。

  4. 对每个线程块进行设置时,如果使用了寄存器,需要明确每个线程最大支持的寄存器个数,防止因为每个线程使用过多寄存器而导致每个时刻SM所能处理的线程数急剧下降。

  5. 当一维的线程块不足以满足计算需求或是在处理图像等二维数据时,可以使用二维线程块。

Logo

华为开发者空间,是为全球开发者打造的专属开发空间,汇聚了华为优质开发资源及工具,致力于让每一位开发者拥有一台云主机,基于华为根生态开发、创新。

更多推荐