logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

让 MNN 大模型App 支持外部存储:MnnLlmChat fork v0.8.3-pisces.1 发布

痛点:默认模型存在 app 私有目录,无法跨 app 共享。方案:在设置里加了"模型存储路径"选项,支持选外部存储目录,比如。✅ 模型下到外部存储,文件管理器直接可见✅adb pull无需 root✅ 多个基于 MNN 的 app 可共用同一份模型✅ 方便备份 / 迁移到 SD 卡。

#mnn#人工智能#深度学习
MNN QNN 离线模型让骁龙 NPU 真正跑起大模型

端侧 NPU 跑 LLM 这件事,不是"开个开关就变快"那么简单。长文档总结、RAG 检索 → Hexagon prefill(2000+ t/s)逐 token 对话生成 → QNN HTP decode(32 t/s,低功耗)小模型短时使用 → CPU 直接上(最快,省心)真正的端侧 AI 体验,不是把所有计算都扔给 NPU,而是根据工作负载的特点,在 CPU / Hexagon / QNN

文章图片
#网络#服务器#前端
骁龙手机端侧大模型低功耗推理:MNN Hexagon cDSP 后端实录

复制Hexagon SDK 6.6 的直接定义了全局数组和函数is_CDSP()——不是extern声明,不是static,就是一个会随 include 复制到每个 TU 的定义。而 MNN 的包含了这个头,于是和session.c各揣了一份,链接时撞车。修复思路是经典的"定义归一":头文件里只留声明所需的类型(domain结构体本来就在remote.h里),把的包含挪到唯一的.c文件里:复制+#

文章图片
#mnn#人工智能#深度学习
让 MNN 大模型App 支持外部存储:MnnLlmChat fork v0.8.3-pisces.1 发布

痛点:默认模型存在 app 私有目录,无法跨 app 共享。方案:在设置里加了"模型存储路径"选项,支持选外部存储目录,比如。✅ 模型下到外部存储,文件管理器直接可见✅adb pull无需 root✅ 多个基于 MNN 的 app 可共用同一份模型✅ 方便备份 / 迁移到 SD 卡。

#mnn#人工智能#深度学习
【第1篇】无光缆、无网线、无 WiFi、无蓝牙,我用“光“把文件传到了手机里

曾经有个奇怪的想法:电脑和手机明明近在咫尺、屏幕对着摄像头,为什么要绕一大圈走 U 盘、WiFi 或蓝牙才能传文件?能不能直接用把数据"照"过去?没有实际需求,纯粹因为——于是在Claude Code/Workbuddy(免费积分)/QClaw(免费积分)的共同帮助下做了这个实现。下面两个 GIF 就是成品:PC 端高速刷新黑白二维码,手机摄像头对准屏幕,文件就"飞"过去了。

#python#opencv#图像处理
到底了