本次参与 Datawhale 联合 AMD 推出的 Hello ROCm 学习活动 Day3-7 任务,全程不需要手动编写复杂命令,仅通过运行官方 Notebook ,搭配内置科普卡片完成大模型微调全流程学习。

  1. 云端环境启动后,直接打开配套微调 Notebook,所有下载、加载、训练、评估代码已经提前写好,逐行点击运行即可自动执行;
  2. 自动执行流程包含:云端拉取完整 Gemma4 基础大模型、加载英文情绪数据集、先评估原始模型基线效果、执行 LoRA 轻量化微调、微调完成后再次推理评估;
  3. 边运行代码边阅读页面内置科普卡片,解决了之前对 GPU、ROCm 环境的疑惑:1)GPU 是专门处理 AI 海量矩阵运算的计算芯片,普通 CPU 跑大模型速度极慢,云端 AMD 显卡就是本次训练的算力基础;2)代码中反复出现的cuda不是英伟达专属硬件标识,只是 PyTorch 统一兼容接口,AMD ROCm 依靠 HIP 层兼容这套代码,日志打印 HIP 版本即可确认使用 AMD 算力;3)LoRA 轻量化微调优势:不需要改动十几 G 的完整模型权重,仅训练少量适配器参数,显存占用更低、训练速度更快,适合快速适配细分分类场景。
  4. 全部代码执行完毕后,自动生成对比表格,清晰看出微调后模型情绪识别准确率显著提升,非法无效输出完全消失。
Logo

免费领 150 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐