一、简介

本文主要介绍RK182X Qwen2.5-3B模型转换。

二、环境搭建

参考:Ebaina玄武S3_模型转换_环境搭建指南.md

三、导出模型配置

cd rknn3-model-zoo/examples/Qwen2_5/python

python export_llm.py --quant

四、导出RKNN模型

python export_rknn.py --platform rk1820

rknn3-model-zoo/examples/Qwen2_5/python/model/llm

最终导出的模型目录:

rknn3-model-zoo/examples/Qwen2_5/python/model/llm

    更多推荐