棋力天天象棋业9-1的Github/Gitee开源中国象棋AI程序。

本文记录了多卡部署72B通义千问过程，将推理速度提到10token/s水平。

棋力天天象棋业9-1的Github/Gitee开源中国象棋AI程序。

棋力天天象棋业9-1的Github/Gitee开源中国象棋AI程序。

本文记录了多卡部署72B通义千问过程，将推理速度提到10token/s水平。

下面是Hugging Face transformer版的千问2，token生成速度在15个每秒左右，但还不够快，在这篇文章里我们用vLLM将速度翻倍，达到38tokens/s。做了Qwen1的加速，其中关于Auto-GPTQ的安装问题在Qwen2中依然适用。可以看到，短上下文的处理速度达到了恐怖的38.7tokens/s，与官方给出的A100速度基本持平。相比于开头的transformer版本，

棋力天天象棋业9-1的Github/Gitee开源中国象棋AI程序。

但是pycharm上的终端似乎不是项目的虚拟环境，也就是说，直接在Terminal里面输入pip install xxx是不能安装到项目里的。上用迅雷下载了要用的wheel。（注：我这里学校宿舍电脑用迅雷下载的速度比平时速度快了三倍）注意，上述路径都是Windows环境下的，如果是Linux要把 \ 或 \\ 改为 /pytorch，带cuda的包下载得比较慢。所以在pytorch得网站。或者，更

这是一篇对语音识别中的一种热门技术——GMM/DNN-HMM混合系统原理的透彻介绍。当前网上对HMM类语音识别模型的讲解要么过于简单缺乏深度，要么知识点过于细化零碎分散。而本文旨在为语音识别方面知识储备较少的读者，从头开始深入解读GMM-HMM模型和DNN-HMM模型。讨论了语音识别里的两个重要概念：声学模型和语言模型，介绍了语音和文本的数据预处理技术，GMM-HMM模型的训练、预测方法和统计学意

棋力天天象棋业9-1的Github/Gitee开源中国象棋AI程序。