
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
在windows 的WSL环境部署TensorRT
本文介绍了在WSL 2中安装TensorRT-LLM的详细过程。由于Windows下依赖包安装困难,选择使用WSL 2。关键步骤包括:创建conda环境、安装CUDA 12.9工具包(需注意WSL特有安装方式)、配置环境变量、安装必要库(如libopenmpi-dev)以及TensorRT-LLM本身,成功完成了所有组件的安装。最后通过官方示例验证了安装效果,能正常运行TinyLlama模型并生成

到底了








