logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

30 分钟,手把手带你从 0 到 1 跑通一个高性能 Token 服务

本文介绍了如何利用AMD Radeon开发者云、vLLM框架和AI Agent在30分钟内从零搭建一个高性能Token服务,并完成全流程优化。实验通过AI Agent执行预设的/vllm-optimize Skill,自动完成服务部署、性能压测、GPU分析、内核瓶颈识别、GEMM调优及验证等步骤。文章详细说明了环境准备、云点数兑换、实验启动、Skill安装配置等操作流程,展示了LLM-for-LL

文章图片
#python
30 分钟,手把手带你从 0 到 1 跑通一个高性能 Token 服务

本文介绍了如何利用AMD Radeon开发者云、vLLM框架和AI Agent在30分钟内从零搭建一个高性能Token服务,并完成全流程优化。实验通过AI Agent执行预设的/vllm-optimize Skill,自动完成服务部署、性能压测、GPU分析、内核瓶颈识别、GEMM调优及验证等步骤。文章详细说明了环境准备、云点数兑换、实验启动、Skill安装配置等操作流程,展示了LLM-for-LL

文章图片
#python
30 分钟,手把手带你从 0 到 1 跑通一个高性能 Token 服务

本文介绍了如何利用AMD Radeon开发者云、vLLM框架和AI Agent在30分钟内从零搭建一个高性能Token服务,并完成全流程优化。实验通过AI Agent执行预设的/vllm-optimize Skill,自动完成服务部署、性能压测、GPU分析、内核瓶颈识别、GEMM调优及验证等步骤。文章详细说明了环境准备、云点数兑换、实验启动、Skill安装配置等操作流程,展示了LLM-for-LL

文章图片
#python
【哪吒开发板试用】基于哪吒开发套件开发LLM + RAG应用

关于哪吒开发板 哪吒(Nezha)开发套件以信用卡大小(85 x 56mm)的开发板-哪吒(Nezha)为核心,采用英特尔®处理器 N97(Alder Lake-N),结合了高性能和低功耗的特性。它支持四核 SoC,时钟频率高达 3.60GHz&

文章图片
#哪吒开发套件
到底了