
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文实测对比 Ollama 与 LM Studio 在 AMD Strix Halo 主机的表现。针对 Ryzen AI Max+ 395 的 128GB 统一内存优势,推荐 LM Studio 作为 OpenClaw 部署首选。通过 Vulkan 后端优化与长上下文配置,实现高效本地大模型推理,打造私有化 AI 工作站。
本文详解 Ollama 后台服务配置,通过环境变量调优与系统服务注册,实现多模型并发与开机自启。结合 Strix Halo 架构优势,演示 Python 无缝调用本地大模型,构建隐私安全的自动化开发工作流。
本文详解如何利用 Ollama 与 VS Code 的 Continue 插件,在 AMD Strix Halo 平台打造私有化智能编程环境。通过本地部署大模型与 GPU 加速配置,实现代码隐私保护、离线高效开发及跨文件上下文理解,为开发者提供安全流畅的 AI 辅助 coding 体验。
本文深入探讨利用 AMD MI300X 部署 Llama3 大模型的实践方案。通过 FP8 量化策略与 ROCm 环境调优,有效解决显存瓶颈,实现成本与性能的最佳平衡,为高并发推理提供高效、稳定的技术路径。
本文详解在 AMD GPU 环境下利用 LLaMA-Factory 微调大模型的实战教程。涵盖 ROCm 环境搭建、PyTorch 配置及 LoRA 微调全流程,解决梯度爆炸等常见难题,助开发者轻松掌握大模型微调技术,高效部署 AI 应用。
本文详解 AMD 显卡上利用 LLaMA-Factory 实现大模型断点续训的实战技巧。通过检查 checkpoint 文件完整性及正确配置 resume_from_checkpoint 参数,确保优化器状态无缝加载,避免从头训练。掌握该 ROCm 环境下的关键策略,可有效应对训练中断,大幅提升微调效率与模型质量。
本文详解 LLaMA-Factory 在 AMD ROCm 环境下的配置优化,重点解析模型路径、LoRA 策略及 BF16 精度设置。通过提供实测可用的 YAML 模板,解决多卡负载不均难题,助开发者高效完成大模型微调训练。
本文分享为 LLaMA-Factory 贡献新模型 Adapter 的实战经验。通过抽象后端逻辑与注册 ROCm 优化算子,解决新架构在 AMD GPU 上的兼容性问题。文章涵盖代码改造、单元测试及 PR 协作流程,助力开发者从使用者转变为共建者,推动开源生态发展。
本文详解 ROCm 7.x 环境下大模型长文本推理的显存优化方案。通过 FP8 量化与激活值重计算实战技巧,有效解决 HIP out of memory 报错,在单卡资源有限时实现上下文翻倍,助力开发者低成本部署百亿参数模型。
本文实录 PyTorch 模型迁移至 AMD Instinct GPU 的全过程,重点解决 ROCm 环境适配与自定义算子兼容难题。通过 Triton 重写算子替代 CUDA C++ 扩展,成功提升推理性能并确保精度,为开发者提供高效的 GPU 迁移实战指南。







