logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

面向AI for Science:鲲鹏920专业版加速ESM3蛋白质模型推理

本文针对约14亿参数的ESM3科学模型,在鲲鹏920专业版上开展矩阵内核、算子融合、数据布局与多NUMA调度协同优化。在FP32、批量2、序列长度512条件下,单NUMA完整生成耗时由15.228秒降至5.549秒,加速2.74倍;八NUMA持续队列吞吐达1335.09个序列位置/秒,为单卡GPU批量8测试记录的2.25倍。通过从真实计算路径出发的系统级优化,显著提升国产算力在蛋白质序列生成等科研

文章图片
#人工智能
到底了