前置准备

• 注册登录“AMD开发者云”，参考文档：https://ailc.datawhale.cn/hall/group/100000144/task/100000035， 我是通过“ModelScope魔搭社区”账号登录。

• 去https://developer.amd.com.cn/完成“AMD开发者云”的资料认证，领取免费算力支持。

【注】提前领取积分兑换免费算力券，后续环境需要使用到算力支持。

前置环境

1、进入【AMD开发者云】：https://radeon.anruicloud.com/， 找到：【Hello ROCm Base】 课程，点击【Launch】启动

2、启动后，点击【Open Notebook】跳转到【魔搭社区】打开云上运行环境。会看到同步到云上运行环境的文件

依赖安装

【注】最好先卸载旧有的torch, torchvision, torchaudio, 避免后续遇到兼容问题导致错误。已经踩过此坑。

pip uninstall -y torch torchvision torchaudio

• 安装modelscope

pip install modelscope

安装依赖

!uv pip install -U vllm modelscope transformers accelerate datasets trl peft scikit-learn pandas tqdm torchvision --no-cache -i https://mirrors.cloud.tencent.com/pypi/simple/ --extra-index-url https://wheels.vllm.ai/rocm/

案例实践

实验背景：把一个只会 通用聊天 的模型，通过特定领域的数据训练成能够精准识别 6 种人类情绪 的“情感分析专家” 。这个把通用模型改造成特定领域专家的过程，就叫 模型微调（Fine-Tuning） 。

从魔搭下载Gemma4

从魔搭下载Emotion数据集

构造prompt-completion格式数据

加载tokenlizer和基础模型

微调前评估

LoRA微调

微调后评估

对比前后微调效果

参考入门实践，如果不使用实例，请及时关闭实例。避免赠送算力资源消耗。

参考

【AMD Hello-Rcom】https://ailc.datawhale.cn/hall/group/100000144/task/100000037/