写文章
- @shyringo
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
DeepSeek-V4-Flash-0731 本地 CPU 推理：纯 C 引擎让 284B-A13B 模型在 8 GB 内存笔记本运行
deepseek-v4-flash-0731-in-c 是一个纯 C99 + OpenMP 的大模型 CPU 推理引擎，可在不使用 GPU、CUDA、PyTorch和权重转换的情况下，直接加载原生 DeepSeek-V4-Flash-0731 284B-A13B 权重。本文给出环境要求、完整运行命令、实测 TTFT/TPOT，以及 MoE 专家流式读取、缓存、I/O 计算流水线和低比特算子优化的实
到底了