logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

本地模型当 Copilot,VSCode 插件联动实战

本文详解如何利用 AMD Strix Halo 架构笔记本,通过 Ollama 或 LM Studio 部署本地大模型,并与 VSCode 插件联动打造私有 Copilot。方案实现代码补全、错误修复全程离线闭环,确保数据主权与隐私安全,为开发者提供高效、定制化的智能编程环境。

AMD 主机部署大模型选型指南,Ollama 与 LM Studio 谁更强

本文详解 AMD Strix Halo 架构下本地大模型部署方案。实测证明 Windows 环境应首选 Vulkan 后端而非 ROCm,并对比 Ollama 与 LM Studio,推荐后者作为最优解。通过配置指南助开发者高效运行大模型。

文章图片
#LM Studio
Strix Halo 笔记本上手,Ollama 本地部署避坑指南

本文详解 AMD Strix Halo 笔记本本地部署 Ollama 的实战指南。通过统一内存架构打破显存限制,重点解析环境变量配置以释放 Radeon GPU 算力。实测显示 GPU 加速显著提升大模型推理速度,助开发者在移动端高效运行本地大模型,实现安全无忧的 AI 工作流。

#Ollama#Strix Halo
Ollama 与 LM Studio 谁更适合 AMD 主机,实测对比见真章

本文深度实测 AMD Strix Halo 平台,对比 Ollama 与 LM Studio。结论指出 Vulkan 后端是关键,LM Studio 凭借高 GPU 卸载率及长上下文支持,成为运行大模型与对接 OpenClaw 的最优解,助开发者避开驱动陷阱,释放本地 AI 算力。

文章图片
#LM Studio
告别只会聊天,给 Strix Halo 装上 OpenClaw 让它自动干活

本文详解如何利用 Vulkan 后端与 128k 超大上下文,将 Strix Halo 打造为高效本地 AI 助手。通过配置 OpenClaw 代理框架,解锁 Ryzen AI Max+ 的 128GB 统一内存潜力,实现安全、自动化的文档处理与代码分析,让大模型真正具备生产力。

文章图片
#Strix Halo
Ollama 对比 LM Studio,Ryzen AI 用户该怎么选

本文深度对比 Ollama 与 LM Studio 在 AMD Strix Halo 平台的表现。针对 Ryzen AI 用户,分析两者在命令行与图形界面、资源占用及工作流搭配上的差异,助您根据开发或调试场景选择最佳本地大模型工具,释放端侧算力。

#LM Studio
Ryzen AI 笔记本跑大模型,Ollama 一行命令就搞定

本文详解如何在 AMD Strix Halo 架构笔记本上,利用 Ollama 一行命令快速部署本地大模型。通过 Radeon GPU 加速与统一内存优势,实现 Qwen2.5-Coder 等模型的流畅推理,并无缝集成 VS Code 进行代码补全,为开发者提供高效、隐私安全的端侧 AI 编程体验。

#Ollama
Ollama 对接 VS Code,打造零延迟本地代码助手

本文详解如何利用 Ollama 与 VS Code 打造零延迟本地代码助手。通过配置 Continue 插件对接本地大模型,实现纯离线环境下的智能代码补全。该方案不仅彻底消除网络延迟,更确保核心代码数据不出域,为开发者提供高效、私密的编程体验。

#Ollama
避坑指南:解决 PyTorch 在 MI250X 上报错的真实经历

本文详解 PyTorch 在 AMD MI250X 上报错'invalid device function'的解决方案。针对 ROCm 环境下可编辑模式引发的符号链接陷阱,提出改用 Wheel 编译及优化 Singularity 容器配置的策略,助开发者快速修复依赖问题,确保大模型推理任务稳定运行。

文章图片
用 vLLM 在 Instinct GPU 上部署大模型,推理速度实测

## 环境准备:告别依赖地狱以前在 AMD GPU 上跑大模型,最让人头大的往往不是模型本身,而是环境配置。驱动版本不对、HIP 库缺失、PyTorch 编译报错,这些“最后一公里”的问题能消磨掉大半热情。但自从 ROCm 7.x 发布后,情况有了质的变化。特别是对于想要快速上线推理服务的团队,AMD 推出的“即插即用”容器化方案简直是把我们从手动编译的泥潭里拉了出来。这次我们直接在 DevClo

文章图片
    共 129 条
  • 1
  • 2
  • 3
  • 13
  • 请选择