AI 计算架构正在经历前所未有的分化——从单一 GPU 路线到 GPGPU、DSA、存内计算等多种形态，芯片侧不仅没有收敛，反而在场景和需求的推动下持续发散。与此同时，AI Agent 的编程能力正在快速跃升，这迫使我们回答一个根本问题：当 Agent 已经能直接改 vLLM、SGLang 源码、自动生成 Triton 算子、甚至绕过编译器直写底层代码时，算子库、编译器、插件系统还有存在的价值吗？

FlagOS 的答案是：不仅有必要，而且要比以往更积极地面向 AI Agent 重新设计。原因在于，Agent 直写底层意味着在无约束空间中反复试错，而系统软件层的核心价值，恰恰是为代码生成提供有边界、可验证的优化目标。因此，我们把 FlagOS 2.1 定位为 AI Agent 时代的双重基石：

• 成为智能体的计算基石： 让各种大模型能在多元算力上普适、高效地跑起来；

• 成为智能体的调用基石： 通过算子库、编译器 IR 表达、语言能力，支撑智能体高效地实现生成和优化目标。
  
  Part.01
  
  FlagOS 2.1：面向 AI Agent 时代的系统软件全面升级
  FlagOS 2.1 版本已于6月24日正式对外发布，新的系统架构覆盖从底层芯片到上层模型的完整软件栈，横跨语言模型、多模态模型、具身智能模型与科学计算模型四类场景，支持 18 家厂商 32 款 AI 芯片，兼容端侧模组、AI PC、AI 服务器、超节点系统等多种硬件形态。2.1 版本的核心更新围绕四条主线展开：

• 

  算子与编译能力升级。 FlagGems 通用算子库超过 560 个，新增面向 vLLM 推理场景的融合算子库；Triton-TLE 三层语言扩展让同一套编译器体系同时服务于开发者和 AI Agent，兼顾工程效率与自动化生成需求。

  Agent 工具链落地。 KernelGen 从网页工具进化为"系统级工程搭档“，在真实工程环境中已经生成了 600+ 算子、合入 123 个 PR，完成了从概念验证到规模化落地的跨越。

  跨框架适配全面扩展。 统一插件系统覆盖训练、推理和强化学习等 6 大主流框架，其中vLLM-Plugin-FL已经支持了10家芯片厂商，2.1版本新增了 SGLang-Plugin-FL、PyTorch-Plugin-FL，VeRL-FL跟字节合作的强化学习框架已经合入主仓。

  自动化基座持续夯实。 FlagCICD 为多芯片生态提供持续集成质量保障；FlagRelease 将 Day-0 模型适配压缩至 13 步全自动流水线，大幅压缩适配周期。

  此外，FlagOS 2.1 在本次版本中向 ARM CPU 和量子计算两个新领域延伸，通过 FlagTree-CPU 和 FlagQuantum 拓展系统软件的覆盖边界。

  
   

  Part.02

  FlagTree编译器：让一套编译体系

  同时服务于人和 AI Agent
   

  FlagTree 已经解决了多芯片的统一接入问题——一套编译体系让不同架构的芯片共享编译优化，跨芯片迁移不再是各自为战，而2.1版的关键变化来自 AI Agent。当 Agent 可以直接生成底层代码，编译器存在的理由需要重新定义——它不再只是开发者与机器之间的桥梁，Agent 必须被纳入为"第三类用户"。FlagTree 的三层设计正是为了这个变化而设计：普通开发者用 Lite 层快速编写验证，算子专家和 Agent 在 Struct 和 Raw 层做深度优化。 FLIR 作为面向不同硬件架构的统一中间层，为所有开发者和Agent 提供来自不同架构芯片的优化搜索和修改的空间。编译器从"人和机器的桥梁"变成了"人、Agent、机器三者之间的协作平台"。

  TLE 正处于 AI 生态的中间层，上层通过图编译器和算子库承接 AI 框架，下层对接各类硬件 Runtime。

  

  TLE-Lite 是对 Triton 的轻量级扩展，所有特性兼容各类硬件后端，仅需对原有 Triton kernels 少量修改即可拿到大幅性能提升。主要面向算法工程师和快速性能优化场景。

  TLE-Struct 按硬件的架构聚类抽象，分类（如 GPGPU、DSA）提供扩展，满足进一步性能优化的需求。需要开发人员对目标硬件的特性和优化技巧有一定了解。

  TLE-Raw 提供对硬件最直接的控制，可以使用硬件厂商的原生编程语言获取最极致的性能。需要开发人员对目标硬件的深入了解，主要面向性能优化专家。

  其中 TLE-Lite 和 TLE-Struct 会通过 FLIR 最终 Lowering 到 LLVM IR，而 TLE-Raw 则通过语言对应的编译管线（如厂商的私有编译器）Lowering 到 LLVM IR。最后它们会被 Link 到一起，共同生成一个完整的 kernel 供 Runtime 加载和执行。

  FLIR 中间表示层：连接上层语言表达和下层芯片后端。核心价值是让多芯片共享编译优化，一个新的优化算法开发出来，所有芯片都能受益，一家新的芯片厂商接入，已有的所有优化都能复用。2.1版本的 FLIR 已覆盖 76 个原语、103 个算子。

  性能优势：我们来看下性能，采用 TLE 的重点算子，相比 Triton 加速比从 1.4 倍到 83 倍不等。

  

  在英伟达上，我们跟业界最强实现比——因为英伟达是被全球开发者反复压榨过的平台。几个重点 Attention 算子在Qwen、Kimi 等模型上达到了业界 SOTA，分别是 1.15 倍到 1.26 倍的超越。

  算子名称	使用模型	超越当前SOTA的百分比
  Gated Delta Network	Qwen	1.15x
  Gated Linear Attention	Qwen or MiniCPM	1.17x-1.26x
  Kimi Delta Attention	Kimi	1.15x

  SOTA说明：

  Gated Delta Network：https://github.com/flagos-ai/FlagGems-vllm/blob/main/src/flaggems_vllm/ops/chunk_gated_delta_rule.py

  Gated Linear Attention：https://github.com/flagos-ai/FlagGems-vllm/blob/main/src/flaggems_vllm/ops/flashmla_sparse.py

  Kimi Delta Attention：https://github.com/flagos-ai/FlagGems-vllm/blob/main/src/flaggems_vllm/ops/FLA/chunk_kda.py

  更重要的是跨芯——在不同芯片上，TLE 算子相比该芯片原生 C 语言实现也有可观加速。TopK 在英伟达上 2.5 倍，在摩尔线程上 1.55 倍；FFT 在摩尔线程上接近 39 倍。说明好的语言扩展确实能抹平芯片差异带来的性能损失。

  算子	芯片	TLE vs C 语言加速比
  MoeAlignBlockSize	英伟达	4.06x
  TopK	英伟达	2.50x
  	摩尔线程	1.55x
  	燧原	1.81x
  TopK Selector	英伟达	1.49x
  FlashQLA	英伟达	7.10x
  SparseMLA	华为昇腾	1.24x
  GEMM	清微智能	1.12x
  FFT	摩尔线程	38.67x

  在FlagOS 2.1版本上，Triton-TLE 已获得 7 家芯片厂商支持，在之前英伟达、华为昇腾、清微智能等首批支持后， 2.1 版本新增摩尔线程、海光、燧原、达摩院。同步完成的 Triton 3.6 多后端统一集成将燧原、海光、摩尔线程后端统一升级至 Triton 3.6 分支。

  Release Notes — FlagTree 0.6.0+triton3.6

  https://github.com/flagos-ai/FlagTree/releases/tag/0.6.0+triton3.6

  Part.03

  FlagGems 算子库：560+ 算子覆盖 14家芯片，推理场景再深一层

  在 2.1 版本，FlagGems 通用算子库已经超过 560 个算子，支持了 14 家芯片厂商、23 款芯片，是目前全球覆盖芯片最多的 Triton 算子库，已进入 PyTorch 基金会生态项目。

  针对推理场景的极致性能需求，主流推理引擎vLLM 用 Triton 实现了一批针对英伟达芯片优化的高性能融合算子，这些算子在模型的实际推理上的性能占比十分显著。为了能让基于vLLM的大模型推理能在各种AI芯片上都能获得更高的性能，FlagOS2.1版本新增了 FlagGems-vllm 融合算子库，包含 75 个 核心高频融合算子，覆盖 MoE routing、KV cache update、rotary embedding、FP8 量化、Sequence pack/unpack、DeepSeek V4 attention helper kernels 等高频算子，通过减少 kernel launch 开销和显存带宽压力实现算子级加速。以下是个别算子在英伟达平台上相比vLLM原生实现的实测加速比数据：FP8 MatMul 2.47x、Sparse Attention 1.65x、Hadamard Transform 1.89x。

  FlagOS 2.1版本还包括了六大科学计算领域的102个算子，包括FlagBLAS线性代数、FlagSparse稀疏计算、FlagDNN深度神经网络、FlagTensor张量运算、FlagFFT快速傅里叶变换、FlagAudio等。

  另外，本次FlagOS 2.1新增 SpacemiT RISC-V 后端支持，首批 26 个算子（含完整前向/反向）通过功能验证，使 FlagGems 成为首个可在 RISC-V 环境完整部署的 Triton 算子库。

  Release Notes — FlagGems v5.3.0

  https://github.com/flagos-ai/FlagGems/releases/tag/v5.3.0

  Release Notes — FlagGems-vllm v0.1.0

  https://github.com/flagos-ai/FlagGems-vllm/releases/tag/v0.1.0

  Part.04

  KernelGen&KernelGenBench：

  AI 原生算子自动生成与评测基准

  算子开发不是普通的代码工作——它需要同时理解底层硬件架构和上层模型算法，对数值精度和性能有严苛要求。芯片架构不断推陈出新，模型结构快速迭代，但能写高性能算子的高阶人才总量极其有限。供需的错位，正是 KernelGen 要解决的核心问题。

  KernelGen —— 自动算子生成 + 自动性能优化 + 多芯片可迁移

  在2.1版本上，我们也全新升级了KernelGen 平台：新版本不再只是生成一段算子代码，而是模拟一个完整的开发工程师——自己写测试、跑编译、读错误日志、自动迭代调优、自动提交 PR、自动 Kernel Review。从「给你一段代码」变成了「跟你一起干活的工程师」。这一跃迁的关键是深度集成了 MCP 协议——以前的 AI 助手被关在对话窗口里，知道很多东西但看不到你的开发环境；MCP 像打开了一扇窗，让 Agent 可以读取代码、运行测试、调用工具链，把能力从「告诉你怎么做」变成「自己上手做」。

  

  在本次发布中，KernelGen新增对曦望芯片支持，累计覆盖 7 款 AI 芯片。平台已全面适配 Triton-TLE，在自动生成 TLE 算子时可以轻松获得初步性能收益。尤其在今年4月中旬 DeepSeek V4 发布后的十款AI芯片Day 0适配中，5 个DeepSeek V4的新增算子中有 3 个由 KernelGen 平台自动生成，且同时适配到 10 款芯片。

  算子	加速比
  FP8 MatMul	DS-V4原生版本的2.47倍
  Sparse Attention	DS-V4原生版本的1.89倍
  Hadamard Transform	DS-V4原生版本的1.13倍

  在 KernelBench 评测上，KernelGen 在 Level 1 达到 74.1%，Level 2 达到 92.9%，最难的 Level 3 达到 87.8%，相比其他基于Triton的算子生成工具有显著提升。

  Triton	Level 1	Level 2	Level 3
  DR.Kernel	39.3%	80.9%	29.8%
  Kernel smith	70%	93%	46%
  KernelGen (ours)	74.1%	92.9%	87.8%

  KernelGen 也已经支持 TLE 语言，自动生成 TLE 版本就能轻松拿到初步性能收益，我们找了两个算子做了测试结果如下。

  算子	加速比
  hc_head_fused_kernel	TLE vs Triton 1.30倍
  Top-K Radix Select	TLE vs Triton 大batch下 1.16-2.03倍

  KernelGenBench ——首个多来源、多芯片的算子生成评测基准

  当业界多数算子生成 Benchmark 仍停留在覆盖范围有限、难度偏低的阶段，FlagOS 社区基于过去三年跨芯算子开发经验，在FlagOS 2.1版本正式发布 KernelGenBench--首个多来源、多芯片的统一算子生成评测基准。

  

  KernelGenBench 全面覆盖PyTorch ATen基础算子（110 个）、vLLM 推理库核心高频算子（50 个）、cuBLAS 闭源算子（50 个），支持对华为、摩尔线程、海光、沐曦、天数、英伟达等六款异构芯片评测。集成 3 种 SOTA Agent 方法，通过 Pass@K 迭代验证和三层防作弊架构（Generator 层 + Sandbox/Verifier 层 + Benchmark 层）提供更贴近工业真实场景的评测标准。

  

  多来源评测结果

  在多来源评测结果中，效果在整体上优于SOTA的基于Opus4.6的方案，整体准确率达到了90%，加速比也达到了1.04。特别是在vLLM这类复杂融合算子上，达到了SOTA的准确率以及1.24的加速比。在闭源的cuBLAS算子上准确率也达到了98%，加速比也来到了0.78的水平。另外，还有一个很有意思的结论，不同来源算子的难度差异巨大——vLLM 推理库算子的成功率显著低于 ATen 算子，表明业界在工业级推理算子自动生成方向仍有较大提升空间。

  

  多芯片评测结果

  在多芯片评测上，整体效果也取得了SOTA的效果，准确率>=93%，加速比都在1.03以上。特别是在Plat.A上，我们的方法取得了93%的准确率以及1.28的加速比结果，远超其他基于Opus4.6的SOTA方案。同时跨芯片实验表明，不同Agent方法均具备较强泛化能力，展现了自动化算子生成技术的潜在价值。

  Release Notes — KernelGen v2.1.0

  https://github.com/flagos-ai/KernelGen/releases/tag/v2.1.0

  Release Notes — KernelGenBench v0.1.0

  https://github.com/flagos-ai/KernelGenBench/releases/tag/v0.1.0

  Part.05

  FlagScale 多芯插件系统：6 个插件 ，11 家芯片厂商，让适配更容易

  芯片不会收敛——场景和需求持续分化，芯片架构的多样性在 AI 时代反而在加剧。框架侧同样发散：vLLM、SGLang 等推理框架快速迭代，Agent 能力降低了系统软件的门槛，未来会有更多框架出现。模型结构每月更新，迭代速度已超过人工适配速度。芯片×框架×模型，这是一个靠人力无法收敛的 N×M×K 爆炸性问题。

  

  FlagOS 的解法分三层：

  第一层：多芯软件栈屏蔽底层芯片差异，确保算子精度对齐等工作一次做完、多芯片复用。

  第二层：标准化插件系统将这套多芯能力接入主流社区各框架——像插座一样，把下面多芯片的能力插到上面不同的框架上，保持用户习惯的同时演进多芯软件栈。

  第三层：用 AI Agent 解决爆炸性的迁移和适配。靠人解决不了 N×M×K 的问题，通过 AI Agent 解决。

  在这个插件系统里，推理时可以统一调用 FlagGems 算子库和厂商已有的 C 语言算子库，自动融合、优中选优。

  FlagOS 2.1 发布了已覆盖训练、推理、强化学习等场景的 6 个核心插件，其中vLLM-Plugin-FL已支持 10家芯片厂商：华为昇腾、海光、摩尔线程、沐曦、平头哥、昆仑芯、天数智芯、寒武纪、清微智能、燧原、英伟达等。SGLang-Plugin-FL 和PyTorch-Plugin-FL 是2.1版本新增的2个插件，VeRL-FL的贡献已经成功合入到字节跳动veRL框架里，跟随VeRL的下个新版本发布。我们对于插件体系的做一个汇总，方便大家了解：

  

  vLLM-Plugin-FL v0.2.0：基于vLLM empty模式的改造，升级至vLLM v0.20.0的正式支持。

  SGLang-Plugin-FL v0.1.0：为 SGLang 提供非侵入式多芯片适配。通过三层替换架构实现：Layer 1 将 ATen 算子替换为 FlagGems Triton kernels；Layer 2 通过 HookRegistry 的 AROUND 钩子在融合算子执行前后分发到 FlagGems、芯片原生库或 PyTorch 三条执行路径；Layer 3 将分布式通信从 NCCL 替换为 FlagCX。首批支持英伟达、华为、摩尔三款芯片。

  PyTorch-Plugin-FL v0.1.0：保持原生 PyTorch 使用习惯，在 Dispatch 层下统一动态分发与 Runtime 抽象，连接 FlagOS 与 Vendor 后端，为后续多后端扩展奠定基础。

  Megatron-LM-FL v0.2.0：完成 DeepSeek V4 完整训练支持（CSA/HCA、Hash Router、mHC、Engram、MTP），新增清微智能，Megatron Core 升级至 0.17.0，增设 lint gate（pylint ≥9.0）和 benchmark gate（Qwen3 TP2/PP2）。

  TransformerEngine-FL v0.2.0：升级至 TransformerEngine v2.14，完成了 DeepSeek V3 相关算子的接入与验证，完善了融合算子与混合精度能力。与 NVIDIA TransformerEngine 社区共建插件机制，已提交相关 PR，并为芯片厂商建立性能基线支持优化。

  VeRL-FL v0.2.0：基于字节跳动的开源强化学习框架VeRL，通过 Strategy Pattern 统一平台抽象层解耦 torch.cuda 硬编码，已支持沐曦和英伟达。集成 vLLM-Plugin-FL 和 Megatron-LM-FL、TransformerEngine-FL 作为可插拔训练/推理引擎。

  FlagCX v0.13.0：通信库在训推两端同步增强。推理侧新增 vLLM connector 支持、单边 RDMA 引擎用于 Prefill-Decode 分离场景。Device API 新增 CustomAllReduce（通过共享内存窗口 + LSA/Multicast 实现节点内 AllReduce，消除 host-side 调度开销）和 IR Bindings for Triton（通过 LLVM bitcode 将通信原语暴露给 Triton kernel）。

  Release Notes — vllm-plugin-FL v0.2.0

  https://github.com/flagos-ai/vllm-plugin-FL/releases/tag/v0.2.0

  Release Notes — sglang-plugin-FL v0.1.0

  https://github.com/flagos-ai/sglang-plugin-FL/releases/tag/v0.1.0

  Release Notes — pytorch-plugin-FL v0.1.0

  https://github.com/flagos-ai/pytorch-plugin-FL/releases/tag/v0.1.0

  Release Notes — Megatron-LM-FL v0.2.0

  https://github.com/flagos-ai/Megatron-LM-FL/releases/tag/v0.2.0

  Release Notes — TransformerEngine-FL v0.2.0

  https://github.com/flagos-ai/TransformerEngine-FL/releases/tag/v0.2.0

  Release Notes — VeRL-FL v0.2.0

  https://github.com/flagos-ai/VeRL-FL/releases/tag/v0.2.0

  Release Notes — FlagCX v0.13.0

  https://github.com/flagos-ai/FlagCX/releases/tag/v0.13.0

  Part.06

  FlagScale Agent：

  多芯片模型迁移的 AI 智能体

  算子库和插件系统奠定了技术基础，但模型从 PyTorch 迁移到 vLLM/SGLang 等推理框架、跨芯片迁移时的碎片化适配、框架版本迭代的持续跟进——这些工作即便在 FlagOS 技术栈之上仍有大量重复劳动。FlagOS 2.1 全新发布了 FlagScale Agent，针对这套流程构建了自动化智能体，能够在约束驱动下提供模型迁移、插件升级、精度对齐、性能优化等能力。

  为什么不用通用的 Agent 脚手架？通用 Agent 会遇到两个核心挑战：一是缺乏 AI Infra 领域知识，Skill 很难被可靠遵从；二是训推链路长，单点错误会雪崩。必须构建面向场景的专用脚手架，加入强约束和幻觉避免机制，保证工作流和最终结果可复现。

  

  FlagScale Agent框架图

  在与通用 Agent 方案（以 Claude Code 为代表）的对比测试中，FlagScale Agent 在三个关键维度上表现出显著差异：工作流步骤遵从率 75% vs 45%（此指标衡量 Agent 执行时按照预定工作流步骤完成的比例）；质量控制体系 6 层 vs 仅 loss 对比；跨芯片精度对齐方面，FlagScale Agent 在 100 步时两块芯片间 Loss 偏差为 0.12%，而 Claude Code 在 10 步时偏差已达 9.14%，且无法继续完成迁移任务。

  

  Release Notes — FlagScale v2.0.0

  https://github.com/flagos-ai/FlagScale/releases/tag/v2.0.0

  Part.07

  向新计算架构延伸：

  ARM CPU 与量子计算

  FlagOS 2.1 同步扩展了对 ARM CPU 和量子计算的支持。

  Arm64 CPU 后端：我们将FlagOS 的能力从云端 AI 加速器扩展到边缘 CPU 场景。基于 Triton-CPU的实现，FlagTree 新增 CPU 后端 FlagTree-CPU，并增加了面向 Arm64 CPU的指令级优化(NEON/SVE2/I8MM)，拓展Triton TLE到Arm64平台来支撑关键推理算子加速，性能提升指标见下表，可以看出Flash Attention Decode 相比 ATen 提升 9 倍。整套方案无厂商闭源算子库依赖，完全基于开源编译器栈。

  优化项	相对加速比
  RMSNorm	相比 ATen 实现提升 150%
  SwiGLU	相比 ATen 实现提升 40%
  INT8 GEMV	相比 Arm Compute Library 提升 30%
  Flash-Attn decode	相比 ATen 实现提升 9 倍
  OMP / 线程调优	相比默认线程配置提升超过 30%

  下图是基于Arm V9 架构的CIX P1开发板通过FlagOS进行边缘侧模型推理的示意图。
   

  

  FlagQuantum：量子计算与AI的融合是FlagOS要面对的新范式。这个判断基于一个事实：量子计算的硬件仍然稀缺，只能依赖于现有的AI加速卡来模拟量子计算。而当量子计算机真正就绪时，同一套技术栈应让开发者在经典的AI算力和量子算力之间无感切换。为此，FlagOS 2.1版本发布了基于FlagOS的分布式量子态矢量模拟--FlagQuantum。FlagQuantum是一个量子-经典混合AI框架，定位不是万能替代者，而是超级协处理器——经典AI芯片负责大规模并行计算，量子处理单元负责特定子任务的指数级加速，两者在同一个环境下协作。

  

  现有的量子计算框架普遍存在软硬割裂的局限。Qiskit 和 Cirq 等通用量子计算框架原生自动微分能力不足，难以适配变分量子算法（VQE/QAOA）的参数优化迭代。PennyLane 和 TorchQuantum 等混合 AI 框架虽在算法层引入了可微性，但底层通信架构仍基于静态 1D-MPI 或编译期硬编码网格，面对大比特状态向量模拟时缺乏多卡可扩展性。FlagQuantum 正是针对这两个短板设计的，也是目前唯一在量子模拟、可微性、加速器无关性、多卡可扩展性四个核心维度上均实现全面支持的框架。
   

  Release Notes — FlagQuantum v0.1.0

  https://github.com/flagos-ai/FlagQuantum/releases/tag/v0.1.0

  Part.08

  从开发到落地的完整链路

  FlagCICD：多芯片 CI/CD 质量基座

  代码写出来和能用起来之间，还有大量的工程工作。不同的芯片有不同的底层操作系统、SDK 版本、框架版本、算子库版本——中间的软件层适配矩阵极大，这也是多芯片生态"开箱即用"的最大障碍。为此，FlagOS 为整个社区构建了一个面向多芯片的 CI/CD 质量基座 FlagCICD：新的芯片厂商接入后，可以直接使用这套 CI/CD 流水线完成编译器适配测试、算子库精度验证、各开源框架的集成测试，以及版本的自动化构建和发布。

  

  到 AI Agent 时代，FlagCICD 的角色进一步延伸——它不仅保障传统软件质量，更成为 Agent 自动化工作流（FlagScale Agent 的迁移验证、KernelGen 的算子生成）的 Validation 层。Agent 生成的代码、迁移的模型、提交的 PR，通过 FlagCICD 进行跨芯片、跨框架的系统级验证，确保自动化产出达到生产级质量标准。

  FlagRelease：升级版本支持13 步零人工介入的自动化发布管线

  当新的开源大模型发布后，要在多款芯片上完成适配和发布——环境准备、精度评测、性能基准、故障隔离、多仓库发布，如果全程依靠人工操作，几乎无法高效落地。FlagRelease 将这一过程构建为 13 步自动化流水线，覆盖容器环境搭建、算子故障自动隔离（二分搜索定位崩溃或精度/性能下降算子）、自动 GitHub issue 报告、ModelScope + HuggingFace 多仓库发布，同时也支持批量执行和断点恢复。

  FlagRelease 产出的模型已发布到 HuggingFace 和魔搭，用户可以在对应链接上直接按芯片下载可运行的模型镜像。此次同步发布的FlagRelease Express 版本为跨芯迁移后的模型高速版本，在Express版本中，大模型在国产AI芯片上的推理性能达到英伟达同等算力（以H800为对比）的80%。在 Qwen3.6-27B 上沐曦 110% 相对性能、Qwen3.6-35B-A3B 上 105.55%、MiniCPM5-1B 上平头哥 144% 相对性能，部分实例的单位算力性能高于 NVIDIA 对应方案。

  模型	芯片	相对原生性能（total tok/s）	相对NV单位算力性能（total tok/s）
  Qwen3.6-27B	沐曦	110%	101.47%
  Qwen3.6-35B-A3B	沐曦	105.55%	109%
  MiniCPM5-1B	平头哥	144%	215%

  注：评测场景：4k-1k，64并发；对比NVH800单位算力

  Release Notes — FlagRelease v0.1.0

  https://github.com/flagos-ai/FlagRelease/releases/tag/v0.1.0

  Modelscope：

  https://www.modelscope.cn/organization/FlagRelease

  HuggingFace：

  https://huggingface.co/FlagRelease
   

  Part.09

  开放计算，面向全球：

  AI for Good 与教育

  FlagOS 作为开放 AI 计算基础设施，正在推动全球 AI 算力的普惠化。据估计全球约 70% 的 AI 算力集中在少数地区，发展中国家和地区面临严重的算力获取不平等。开放计算的核心理念 —— 搭建可兼容各类 AI 芯片的统一软件栈，本身就是解决这一难题的结构性方案：降低 AI 硬件的选型门槛，使更多地区能够以更低成本部署 AI 算力。

  

  2026 年 4 月FlagOS 启动的中国-非洲 AI 人才培养计划是这一理念的首次实践。依托 FlagOS 多芯异构硬件的技术特性，项目搭建了"Open Compute 在线实验室"，聚合来自三个国内AI芯片厂商的超过 100 台 AI 计算设备，向非洲学生提供跨芯片的 AI 实验环境。首期培训班已完成，来自非洲十个国家的大学教学参加培训，第二期已与非洲联盟科教理事会（AU-ASRIC）和联合国教科文组织（UNESCO）合作启动，计划 2026 年内覆盖超过 1,000 名学生。我们欢迎全球高校的老师联系我们，加入我们一起共建。

  Part.10

  官方下载渠道

  用户可以访问FlagOS官网（https://flagos.io/resourcedownload）获取 FlagOS 2.1 版本镜像，注册后可以直接下载，覆盖相关的芯片的镜像版本。

  

  鸣谢

  FlagOS 从第一天起就是社区驱动的开源项目。特别致谢华为、海光、摩尔线程、昆仑芯、天数智芯、燧原、清微智能——在 FlagOS 2.1 发布冲刺中，你们的工程师与我们现场协作、共同攻坚，是这个版本能够如期发布的关键力量。感谢每一家芯片厂商、每一个科研机构和机构、每一个开源社区和组织的深度协作、每一位参与贡献的开发者——从编译器后端的指令级适配，到插件系统的框架级集成，没有你们的信任和并肩投入，跨芯片的软件栈只能停留在纸面上。也感谢全球开发者社区的持续贡献——从算子库的日常迭代，到 CI/CD 的自动化建设，从 Issue 的耐心反馈，到 PR 的细致 Review。正是这些分散在全球的力量凝聚在一起，才让"一次开发，多芯运行"这个目标一步步走进现实。

  参与贡献机构

  高校和科研院所：北京智源人工智能研究院（BAAI）、北京科技大学、中国科学院计算技术研究所、先进编译实验室、国防科技大学、南京大学、郑州大学、北京邮电大学、中国科学院大学、中国科学院计算机网络信息中心、北京联合大学、清华大学、北京航空航天大学、南开大学、悉尼大学、武汉大学、沈阳大学、上海交通大学、北京大学、南京航空航天大学、西安电子科技大学

  企业单位：澎峰科技、硅基流动、卡姆派乐、中科加禾、百度、基流科技、商汤科技、字节跳动、数问科技、清程极智、阿里达摩院

  芯片厂商：摩尔线程、昆仑芯、海光信息、燧原科技、曦望、寒武纪、沐曦、进迭时空、华为、英伟达、天数智芯、清微智能、平头哥、辉羲智能

  合作社区：vLLM、SGLang、PyTorch、Megatron-LM、VeRL、TransformerEngine、Linux 基金会、Eclipse 基金会、HuggingFace、ModelScope（魔搭）、腾讯教育、ITU-T、超算互联网中心、焕新社区、此芯科技

  核心贡献者：

  FlagOS2.1版全球贡献者名单：

  

  @0x45f、@1016qqz、@103yiran、@AdvancedCompiler、@alex-spacemit、@AlexMa616、@Alvin-YCHEN、@Ankaluoer、@app、@armstrongttwalker-alt、@Artlesbol、@baoqiliu、@bin913、@BrianPei、@bwbwzzz、@Caozhou1995、@ceci3、@chaaa-a、@chai-xiaonan、@chen98038、@cheng874、@chenkc2025、@Chenyang409、@chongzhouyang、@creaspoggg、@cyber-pioneer、@cyx11111、@czy1101、@DannyP0、@Darryl233、@Dayrker、@dinghaodhd、@Dingxingdi、@Dongxu-H、@douxetpur、@factnn、@fangzexian、@Fattysand、@feiphoenix、@finneyyan、@FlagQuantum、@fpzh2011、@ftgreat、@Galaxy1458、@git-flyer、@gongxijun、@Hchnr、@heavyrain-lzy、@hellojack163、@huangxu0914、@huangyiqun、@i3wanna2、@iclementine、@Jennie1004、@Jonahmoon、@JosephNew、@kaiyuanm、@kevinzs2048、@KingsleyLiu-NV、@kuoihao、@Kylin1207、@lcthej、@legitnull、@leoda1、@li199959、@LiangJiabaoY、@lihongyang1990、@LiJunscs、@lindylin1817、@littlekid-zxt、@LittleShun1214、@liuxiao0909c、@lixuejing0606、@llaboon、@LoserCheems、@luoyc123、@lxd-cumt、@ly2zyl、@lzy-edu、@MC952-arch、@mikethegoblin、@monellz、@mygitljf、@NCIC-AlphaSparse、@nianqi-tian、@Oslomayor、@physics31415926、@qqjxzxq、@Richardyu114、@RobertLuobo、@Sans1J、@Schopenhauer-loves-Hegel、@sh1653487844、@ShawnXuan、@shh2000、@shiptux、@small-cat、@spring-wcb、@stringl1l1l1l、@sunge666-ui、@sunnycase、@tengqm、@tianxiao-baai、@Tijunwei、@tongxin、@tsingmicro-public-e、@w1120029931-bit、@wangxshuai、@wangziy1、@wbavon、@wenqingqian、@winfan1314、@wuhulalala、@XDYuanzhuLee、@xmhubj、@xup16、@Yanguan619、@yixiaodapeng、@youseeyouonedayday、@ywdzym、@YY4994、@yysheng26、@yzhang35、@yzw1128、@ZenithJoyH、@zhaoyinglia、@zhoujiamei、@zhzhcookie、@zihugithub、@zyq1105331849

  关于众智FlagOS社区

  为解决不同 AI 芯片大规模落地应用，北京智源研究院联合众多科研机构、芯片企业、系统厂商、算法和软件相关单位等国内外机构共同发起并创立了众智 FlagOS 社区，目前已经有 80多家成员单位。

  FlagOS 是一款专为异构 AI 芯片打造的开源、跨芯系统软件栈，支持 AI 模型一次开发即可无缝移植至各类硬件平台，大幅降低迁移与适配成本。它包括大型算子库、跨芯 AI 编译器、并行训推框架、跨芯通信库等核心开源项目，致力于构建「模型-系统-芯片」三层贯通的开放技术生态，通过"一次开发跨芯迁移"释放硬件计算潜力，打破不同芯片软件栈之间生态隔离。

  官方网站与下载：https://flagos.io/resourcedownload

  GitHub 项目地址：https://github.com/flagos-ai

  GitCode 镜像：https://gitcode.com/flagos-ai

  HuggingFace 模型：https://huggingface.co/FlagOS

  魔搭模型：https://modelscope.cn/organization/FlagOS