logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

NVIDIA Alpamayo体验

辅助驾驶研究领域正经历一场快速变革。视觉-语言-动作推理模型(Reasoning VLA) 的出现正重塑该领域,这些模型为辅助驾驶决策赋予了类人的思维能力。这类模型可视为在语义空间中运行的隐式世界模型,使辅助驾驶能够逐步解决复杂问题,并生成反映人类思维过程的推理轨迹。这种变革不仅体现在模型本身:传统的开环评估已不足以严谨地检验此类模型,因此需要开发新的评估工具。近期,NVIDIA 推出了 Alpa

文章图片
#python
Tensorrt-llm的基础演示使用#TensorRTLLM 1.0实战#

本文介绍了TensorRT-LLM的快速安装部署方法。TensorRT-LLM是NVIDIA推出的开源大语言模型推理优化库,能显著提升推理速度并降低成本。文章详细讲解了在Ubuntu 22.04系统下使用conda创建Python 3.10虚拟环境,通过pip安装TensorRT-LLM及其依赖的完整流程,并提供了安装验证代码。最后展示了一个简单的使用示例,包括模型量化配置、加载量化模型以及文本生

文章图片
#nlp
LazyLLM Agent开放框架初体验

LazyLLM Agent 是基于商汤科技研发的 LazyLLM 框架构建的智能体应用。LazyLLM 是一个开源、低代码的大模型应用开发框架,旨在为大模型应用提供快速、高效、低门槛的构建路径。以下是关于 LazyLLM Agent 的简介:LazyLLM 框架优势低代码组装:LazyLLM 预置了 “数据流 + 功能模块”,无需了解大模型底层知识,就能像搭积木一样将 “生成大纲、逐段写作、结果拼

文章图片
#python#自然语言处理
Tensorrt-llm的基础演示使用#TensorRTLLM 1.0实战#

本文介绍了TensorRT-LLM的快速安装部署方法。TensorRT-LLM是NVIDIA推出的开源大语言模型推理优化库,能显著提升推理速度并降低成本。文章详细讲解了在Ubuntu 22.04系统下使用conda创建Python 3.10虚拟环境,通过pip安装TensorRT-LLM及其依赖的完整流程,并提供了安装验证代码。最后展示了一个简单的使用示例,包括模型量化配置、加载量化模型以及文本生

文章图片
#nlp
Tensorrt-llm的基础演示使用#TensorRTLLM 1.0实战#

本文介绍了TensorRT-LLM的快速安装部署方法。TensorRT-LLM是NVIDIA推出的开源大语言模型推理优化库,能显著提升推理速度并降低成本。文章详细讲解了在Ubuntu 22.04系统下使用conda创建Python 3.10虚拟环境,通过pip安装TensorRT-LLM及其依赖的完整流程,并提供了安装验证代码。最后展示了一个简单的使用示例,包括模型量化配置、加载量化模型以及文本生

文章图片
#nlp
基于LazyLLM的简单文献整理助手

LazyLLM是商汤大装置推出的开源、低代码的大模型应用开发框架。核心特点低代码开发:开发者只需用低至10行左右的代码,就能构建复杂、定制化的多Agent大模型应用,大大降低了AI应用的开发门槛。数据流驱动:采用以数据流为核心的应用开发范式,可通过Pipeline、Parallel、Switch等数据流控制方式,灵活组织复杂的数据处理流程,像搭乐高积木一样快速构建AI应用原型。一键部署。

文章图片
#自然语言处理
到底了