logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

27天、3000元token费:我用 Trae 从零开发了一个 0.8MB 纯 C11 推理引擎,让 16GB 开发板跑起 30B 大模型

2026年8月17日至9月12日,作者使用Trae(Agent模式+DeepSeek)在27天内从零开发出纯C11、零第三方依赖的ARM边缘LLM推理引擎,成功在15.6GiB内存的RK3588板上运行17.66GB的Qwen3-30B-A3B模型,服务峰值内存从14.23GB降至1.11GB(降幅12.8倍)。通过逐层推理、VQF格式、mmap映射与惰性分配等技术突破,实现输出一致、低延迟。过程

#人工智能#嵌入式硬件#stm32 +3
20 天、800KB、零依赖:AI Agent 结对写出的纯 C 国密 LLM 推理引擎

原创声明:本文首发于 CSDN,作者保留版权;转载需注明出处。

#人工智能#c语言#开发语言
20 天、800KB、零依赖:AI Agent 结对写出的纯 C 国密 LLM 推理引擎

原创声明:本文首发于 CSDN,作者保留版权;转载需注明出处。

#人工智能#c语言#开发语言
到底了