大模型推理显存不够用，试试 AMD MI300X 上的 PagedAttention 优化

本文详解如何在 AMD MI300X 上利用 PagedAttention 优化解决大模型推理显存不足难题。通过 ROCm 7.x 环境搭建、vLLM 参数调优及 FP8 量化实战，成功在单卡部署 Llama3-70B，显著提升显存利用率与并发性能，为低成本大模型推理提供高效方案。

GitHub Desktop中文界面终极配置指南：3分钟快速上手

还在为GitHub Desktop的英文界面而烦恼吗？想要快速实现界面本地化却不知从何下手？这篇完整的GitHub Desktop汉化教程将为您提供最简单实用的解决方案。通过界面语言切换和本地化配置，即使是零基础开发者也能轻松完成中文版本配置，享受母语操作体验。## 为什么你需要中文界面对于习惯中文环境的开发者来说，英文界面不仅增加了学习成本，还降低了操作效率。GitHub Desktop

从 CUDA 到 HIP，手把手教你把 PyTorch 项目迁移到 AMD 平台

本文详解 PyTorch 项目从 CUDA 迁移至 AMD 平台的实战流程。针对 ROCm 7.x 环境，剖析 HIPify 自动化工具局限，解决自定义算子架构不匹配及 Triton 编译难题。通过手动修复与参数调优，成功在 MI300X 上实现高效推理，为开发者提供跨平台迁移指南。