logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Agent基础设施层:Sycamore和Notch融资背后的企业级机会

Agent基础设施正成为企业级AI的新战场。Sycamore以6500万美元种子轮融资、Notch完成3000万美元A轮融资,标志着Agent操作系统从概念走向落地。本文拆解信任架构、渐进式自主、集体智能三大设计原则,分析保险与金融等受监管行业的合规自动化路径,对比Sycamore、Notch、Kore.ai三家公司的定位分野,为企业IT决策层提供自建与采购的务实参考。

Ollama 遇上 Radeon 显卡,调优本地大模型的一些心得

本文分享 Ollama 在 Radeon 显卡上的调优实战心得。通过强制 GPU 加速、优化上下文窗口及选择量化模型,解决显存瓶颈与驱动兼容问题。助开发者在 AMD 平台高效部署本地大模型,实现速度与稳定性的双重提升。

#Ollama
笔记本跑大模型,AMD Ryzen AI Strix Halo 实测指南

本文实测 AMD Ryzen AI Strix Halo 在笔记本运行大模型的突破表现。凭借 96GB 统一显存,本地可流畅部署 70B 参数模型,解决显存瓶颈。结合 NPU 加速与低功耗优势,打造隐私安全的本地 AI Agent,推动端侧 AI 创新落地。

新手也能搞定,Radeon 显卡配置 ROCm 环境的保姆级教程

本文提供 Radeon 显卡配置 ROCm 环境的保姆级教程,助新手将游戏卡变身 AI 引擎。涵盖 Ubuntu 系统清理、核心组件安装及 PyTorch 环境搭建,避开常见兼容坑,轻松实现本地大模型推理与部署。

CUDA 代码迁到 ROCm,5 步完成 PyTorch 扩展编译并提速 18%

本文以5步实战演示CUDA代码迁移至ROCm的全流程:宏隔离、hipcc编译、pytest验证、hipGraph提速18%,并附语法对照表与踩坑清单,助开发者零成本完成PyTorch扩展双平台部署。

AMD 开发者云秒开 JupyterHub,ROCm 版 PyTorch 训练 ResNet50 全流程

借助AMD开发者云,5分钟即可批量开出30份ROCm版PyTorch JupyterHub环境,秒级完成ResNet50分布式训练,教学零等待、GPU高效利用。

AMD 显卡跑大模型,ROCm 7.x 加 vLLM 的避坑实录

本文详解 AMD 显卡部署大模型的避坑指南,涵盖 ROCm 7.x 环境配置、PyTorch 源码编译及 vLLM 显存调优。通过精准设置编译器版本与架构参数,解决 OOM 难题,助开发者高效构建稳定推理服务,充分释放 AMD GPU 算力潜能。

#vLLM
手搓本地 RAG 系统,Ryzen AI 平台文档问答实战

本文详解基于 AMD Ryzen AI Strix Halo 平台手搓本地 RAG 系统实战。利用其统一内存与 NPU 加速优势,结合 ChromaDB、Ollama 及 LangChain 构建离线文档问答方案,在保障数据隐私的同时实现高效大模型推理,为技术人员提供低成本私有知识库部署指南。

我的第一台 AI PC,用 Strix Halo 搭建本地知识库全过程

本文详解基于 AMD Strix Halo 搭建本地知识库的全过程。利用其统一内存架构优势,结合 Ollama 与 RAG 技术,高效完成数据清洗、向量化及高并发推理测试。文章分享实战经验与优化策略,助您打造安全可控的私有 AI 智能中枢。

#RAG
锐龙 AI 9 加 Strix Halo 平台,本地跑大模型到底能有多快

本文实测锐龙 AI 9 搭配 Strix Halo 平台在本地跑大模型的表现。凭借 50 TOPS NPU 算力与异构调度,该配置在 Ollama 和 LM Studio 中流畅运行 7B 至 32B 量化模型,兼顾速度与能效,为端侧 AI 应用提供高效解决方案。

#Strix Halo
    共 167 条
  • 1
  • 2
  • 3
  • 17
  • 请选择