logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ubuntu24.04 MNN-llm配合高通AI Engine SDK(QNN)的NPU(HTP模拟器)的环境搭建

本文记录了在Ubuntu24.04系统下使用MNN和QNN运行大模型的环境搭建过程。重点包括:1)编译MNN时添加-DMNN_QNN=ON选项;2)获取QNN SDK依赖并配置路径;3)针对模拟器环境调整HTP核心库的配置方法;4)解决libc++.so.1缺失问题;5)处理模拟器运行时的平台信息查询警告。作者使用Modelscope提供的Qwen2.5-Omni-3B-MNN模型,详细说明了在没

#mnn#人工智能#深度学习
到底了