
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
DeepSeek-R1在vLLM-Ascend上的精度问题定位
文章摘要: 本文针对vLLM-Ascend推理框架部署DeepSeek-R1模型时出现的长序列输出精度问题展开分析。通过配置对齐、权重验证、输出对比及代码定位,发现根因是位置编码未应用缩放因子导致序列长度截断。通过修复算子逻辑(如rope长度外推策略),解决了GPQA等数据集评测得分偏低的问题。此外,叠加MTP特性后出现的精度异常(接受率为0且输出重复)也通过dump分析和模拟测试定位,最终确保模

到底了







