登录社区云，与社区用户共同成长
邀请您加入社区
大模型量化是推理优化的关键能力之一。通过降低权重和激活的数值精度，量化可以减少模型存储、显存占用和计算开销，是大模型在实际业务中高效部署的重要手段。AMCT 是 CANN 社区提供的模型压缩与量化工具，面向昇腾 AI 处理器支持 LLM 模型高效量化，覆盖 BF16 基线评估、PTQ 离线数据提取、PTQ 参数训练、fake quant 精度评估等典型流程。本文与配套使用，提供一份可参考、可跑通的
开源贡献这件事的门槛，从来都不在技术深度，而在流程经验。看文档、逛论坛、加群潜水，这些动作对开发者来说 都不难。开发环境怎么搭？第一个 issue 从哪挑？PR 提上去怎么过 Code Review？奖金激励怎么申请？而流程经验，恰恰是最没法靠“看”学会的——你必须 跑一遍。能不能把“贡献 CANN”这件事，从一句口号，变成一次 当场上手的实操？于是有了这场工坊。
📅 活动时间： 9月1日至10月1日。
CANN技术活动：CANN挑战赛、HCCL通信库创新大赛火热报名中CANN社区进展直达开源社区：https://gitcode.com/cann竞 赛 进 行 时【2026 华为算法挑战赛_CANN挑战赛】开启预报名！面向高校学生同时启动5大赛区：京津冀东北赛区、上合赛区、西北赛区、西南赛区、杭厦赛区，荣誉证书 +秋招机考面试绿卡+丰厚奖金 欢迎广大学生报名参加！【2026 CANN-HCCL通信
本文详细介绍了在昇腾AI处理器上，如何通过结合CANN的混合精度训练与梯度检查点技术，大幅降低百亿参数大模型训练的显存占用。实战表明，该组合策略能将显存消耗降低超过70%，使原本需要多卡并行的模型实现单卡训练，同时提升训练速度。
高性能推理引擎架构之道：解密XLLM演进之路、代码设计与核心能力
CANN
——CANN
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
人工智能6S服务平台
CANN开发者社区
亚马逊云科技技术品牌专区
