在人工智能兴起的今天，大规模、高性能计算已成为社会发展的刚需。动辄千万节点规模的社交网络、交通网络，语言聊天模型中的大规模神经网络，以及航空航天等涉及大规模计算的场景，都少不了并行计算的支持。并行计算是一种一次可执行多个指令的算法，目的是提高计算速度，及通过扩大问题求解规模，解决大型而复杂的计算问题。理论上，使用并行计算可以将性能提升至单线程计算的任意倍数，这大大提高了计算机的性能，极大地便利了人