
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
摘要:开源项目Lociant将旧Android手机、Linux电脑和RK开发板改造为本地AI Agent,支持断网操作、屏幕交互和App控制。通过MNN推理和NPU加速运行模型,实现设备间局域网组网,数据完全私有。项目采用Rust后端+Flutter UI,提供APK/Linux/RK板版本,MIT协议开源,旨在利用闲置设备构建低成本、高隐私的AI代理网络。(150字)

摘要:开源项目Lociant将旧Android手机、Linux电脑和RK开发板改造为本地AI Agent,支持断网操作、屏幕交互和App控制。通过MNN推理和NPU加速运行模型,实现设备间局域网组网,数据完全私有。项目采用Rust后端+Flutter UI,提供APK/Linux/RK板版本,MIT协议开源,旨在利用闲置设备构建低成本、高隐私的AI代理网络。(150字)

在ROCK5T 12GB开发板上成功部署了Qwen3-VL-4B多模态模型,通过将模型拆分为视觉编码器(RKNN)和语言模型(RKLLM)两部分实现。关键步骤包括:解决ONNX导出兼容性问题、处理WSL2内存不足导致的转换中断、适配RK3588仅支持w8a8量化的限制。最终在板端实现了本地图文问答功能,视觉处理通过RKNN完成图像编码,语言模型通过RKLLM生成回答。整个部署过程涉及模型转换、交叉
以下是生成的≤150字文章摘要: 在ROCK5T 12GB开发板上成功部署了Qwen3-VL-4B多模态模型,通过将模型拆分为视觉编码器(RKNN)和语言模型(RKLLM)两部分实现。关键步骤包括:解决ONNX导出兼容性问题、处理WSL2内存不足导致的转换中断、适配RK3588仅支持w8a8量化的限制。最终在板端实现了本地图文问答功能,视觉处理通过RKNN完成图像编码,语言模型通过RKLLM生成回







