logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

RK3588 上部署 Qwen3-VL-4B:ROCK5T 本地多模态实践

以下是生成的≤150字文章摘要: 在ROCK5T 12GB开发板上成功部署了Qwen3-VL-4B多模态模型,通过将模型拆分为视觉编码器(RKNN)和语言模型(RKLLM)两部分实现。关键步骤包括:解决ONNX导出兼容性问题、处理WSL2内存不足导致的转换中断、适配RK3588仅支持w8a8量化的限制。最终在板端实现了本地图文问答功能,视觉处理通过RKNN完成图像编码,语言模型通过RKLLM生成回

#嵌入式硬件#人工智能
到底了