我的 GitHub 博文地址是:https://github.com/zeusro/MarkdownBlog

博客园这种富文本的模式让我有点糟心,这边基本上不更新了.文章有更新的话以 GitHub 那边为主

转载于:https://www.cnblogs.com/zeusro/p/8302163.html

Logo
加入AMD AI开发者计划！

免费领 200 小时云算力，进群参与显卡、AI PC 幸运抽奖

更多推荐

FlagOS Day 0 跨芯适配 GLM-5.2：发布即覆盖四款芯片，支持 vLLM + SGLang双插件

同时，FlagGems 新增 6 大领域算子库——FlagDNN、FlagBlas、FlagSparse、FlagFFT、FlagTensor、FlagAudio，覆盖科学计算与信号处理场景，共计 102 个领域算子，从"大模型专用"走向全领域覆盖。厂商目录放置后由插件自动发现加载，vLLM-Plugin-FL、SGLang-Plugin-FL、Megatron-LM-FL、Transformer

avatar AMD开发者中国社区
cover

生产级 LLM 推理框架横评：vLLM、SGLang 等 5 大方案全维度对比

avatar AMD开发者中国社区

把公司文档喂给 AI，Ryzen AI 实现私有知识库问答

本文详解如何利用 AMD Ryzen AI 与 Strix Halo 架构，在本地搭建私有知识库问答系统。通过 Ollama 和 LM Studio 部署大模型，实现公司文档的安全检索与精准回答，确保数据不出域，为中小团队提供低成本、高合规的 AI 应用方案。

avatar AMD开发者中国社区