logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

我把抽屉里的旧手机变成了本地 AI Agent(断网可用、能动手操作、还接入了 MCP)

摘要:开源项目Lociant将旧Android手机、Linux电脑和RK开发板改造为本地AI Agent,支持断网操作、屏幕交互和App控制。通过MNN推理和NPU加速运行模型,实现设备间局域网组网,数据完全私有。项目采用Rust后端+Flutter UI,提供APK/Linux/RK板版本,MIT协议开源,旨在利用闲置设备构建低成本、高隐私的AI代理网络。(150字)

文章图片
#嵌入式硬件#人工智能#linux
我把抽屉里的旧手机变成了本地 AI Agent(断网可用、能动手操作、还接入了 MCP)

摘要:开源项目Lociant将旧Android手机、Linux电脑和RK开发板改造为本地AI Agent,支持断网操作、屏幕交互和App控制。通过MNN推理和NPU加速运行模型,实现设备间局域网组网,数据完全私有。项目采用Rust后端+Flutter UI,提供APK/Linux/RK板版本,MIT协议开源,旨在利用闲置设备构建低成本、高隐私的AI代理网络。(150字)

文章图片
#嵌入式硬件#人工智能#linux
RK3588 上部署 Qwen3-VL-4B:ROCK5T 本地多模态实践

在ROCK5T 12GB开发板上成功部署了Qwen3-VL-4B多模态模型,通过将模型拆分为视觉编码器(RKNN)和语言模型(RKLLM)两部分实现。关键步骤包括:解决ONNX导出兼容性问题、处理WSL2内存不足导致的转换中断、适配RK3588仅支持w8a8量化的限制。最终在板端实现了本地图文问答功能,视觉处理通过RKNN完成图像编码,语言模型通过RKLLM生成回答。整个部署过程涉及模型转换、交叉

#嵌入式硬件#人工智能
RK3588 上部署 Qwen3-VL-4B:ROCK5T 本地多模态实践

以下是生成的≤150字文章摘要: 在ROCK5T 12GB开发板上成功部署了Qwen3-VL-4B多模态模型,通过将模型拆分为视觉编码器(RKNN)和语言模型(RKLLM)两部分实现。关键步骤包括:解决ONNX导出兼容性问题、处理WSL2内存不足导致的转换中断、适配RK3588仅支持w8a8量化的限制。最终在板端实现了本地图文问答功能,视觉处理通过RKNN完成图像编码,语言模型通过RKLLM生成回

#嵌入式硬件#人工智能
到底了