logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

在windows 的WSL环境部署TensorRT

本文介绍了在WSL 2中安装TensorRT-LLM的详细过程。由于Windows下依赖包安装困难,选择使用WSL 2。关键步骤包括:创建conda环境、安装CUDA 12.9工具包(需注意WSL特有安装方式)、配置环境变量、安装必要库(如libopenmpi-dev)以及TensorRT-LLM本身,成功完成了所有组件的安装。最后通过官方示例验证了安装效果,能正常运行TinyLlama模型并生成

文章图片
#windows#人工智能
到底了