此前,创龙科技已完成瑞芯微RK3588评估板 + RK1828国产AI算力卡(SODIMM金手指版本)评估套件的适配工作,在端侧大模型推理、工业视觉检测等场景实现高效落地,获得众多工程师认可。

新增M.2接口,选择更灵活

为了适配更多复杂的硬件场景、满足小型化部署需求,在SODIMM版本的基础上,RK1828评估套件新增了M.2 Key B-M版本,可根据实际场景灵活选择!

性能实测,数据说话

为验证RK1828在真实场景下的推理能力,我们使用主流大语言模型(LLM)与视觉检测模型(CNN)进行了性能实测。

使用Qwen2.5及Qwen3系列模型进行测试,结果显示:无论是3B还是8B级别的模型,M.2与SODIMM版本均能实现“极速流畅”或“流畅可用”的交互体验。

备注:

测试基于Input Tokens(输入Token数)=128,New Tokens(新生成Token数)=128

TTFT:模型生成第一个token所需的时间

TPS:模型每秒能生成的token数量

模型性能及用户体验等级参考如下:

在YOLOv5s模型测试中,两种接口形态推理耗时均稳定在31ms以内,CPU占用率低,满足工业实时性要求。

M.2版本的3大特点

通用标准,即插即用

采用M.2 Key B-M标准金手指,相比传统SODIMM接口,兼容性大幅提升,可直接适配带M.2 Key插槽的工控机、单板机、评估板,简化硬件设计,降低适配门槛。

体积更小,轻薄紧凑

相比SODIMM版本更小巧,更加紧凑,M.2长条形模组设计,也更贴合嵌入式设备小型化、轻量化趋势。

核心不变,性能稳定

搭载瑞芯微RK1828协处理器,内嵌5GByte高带宽DRAM,算力高达20TOPS@INT8,支持TensorFlow、MXNet、PyTorch、Caffe、ONNX等主流框架网络模型。

即插即用,赋能端侧AI

无论是选择SODIMM版本,还是全新的M.2版本,RK1828评估套件都能通过PCIe接口与创龙科技RK3588评估板协同测试。

Logo

免费领 150 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐