logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

从 CUDA 叛逃到 ROCm:一个金融 AI 程序员的血泪迁移实录

从最开始对 ROCm 半信半疑,到现在把核心推理服务跑在 MI300X 上,这几个月的迁移之旅让我对 AMD 的开源策略有了更多的信心。ROCm 不完美,坑也不少,但它在认真补。vLLM 的 AITER_FA 后端、PyTorch 的 upstream 支持、MI300X 的大显存优势——这些不是 PPT 上的数字,是实际跑起来能感受到的东西。更重要的是,开放生态的价值在长期。当你的算力供应商不再

文章图片
#金融#人工智能
从 CUDA 叛逃到 ROCm:一个金融 AI 程序员的血泪迁移实录

从最开始对 ROCm 半信半疑,到现在把核心推理服务跑在 MI300X 上,这几个月的迁移之旅让我对 AMD 的开源策略有了更多的信心。ROCm 不完美,坑也不少,但它在认真补。vLLM 的 AITER_FA 后端、PyTorch 的 upstream 支持、MI300X 的大显存优势——这些不是 PPT 上的数字,是实际跑起来能感受到的东西。更重要的是,开放生态的价值在长期。当你的算力供应商不再

文章图片
#金融#人工智能
到底了