
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
2026 世界人工智能大会(WAIC)举办期间,由众智 FlagOS 社区与智谱联合主办的FlagOS 72 小时算子赏金挑战赛(上海站)正式启动全球招募。赛事聚焦 AI 底层高性能算子工程优化,以真实大模型线上业务场景命题,面向全球 AI 系统、计算优化领域开发者开放线上参赛通道。 FlagOS 赛事专场技术直播将于 2026 年 7 月 16 日(周四)19:00 在智源 FlagOpen 视

2023 年,一个仅用 C/C++ 编写的开源项目横空出世,彻底打破了“只有大厂显卡集群才能跑大模型”的垄断。 它就是 llama.cpp。如今,它在 GitHub 上斩获了近 12 万 Star,从个人电脑、手机、开发板甚至浏览器,它成为了全球 Local AI 生态中最坚实的底层推理引擎。 就在今年 2 月,GGML/llama.cpp 创始团队正式加入 Hugging Face,这一重磅信号

只需一句自然语言描述,它就能自动完成算子的生成、测试与性能优化,并支持多种主流 AI 芯片,实现真正意义上的“一次开发,到处运行”。我们构建了 FlagRelease,以 LLM Agent 为编排引擎,充当系统软件的粘合剂与润滑油:自主完成环境诊断、组件装配、算子替换、精度-性能闭环调优、故障归因与容器化发布,消除各层软件在真实部署场景中的摩擦,全程零人工交互。作为面向多元算力的开源系统软件栈,
在大模型时代,每一位 AI 开发者或许都经历过这样的“崩溃”瞬间: 为了跑通一个算子,先花三个小时解决环境依赖。 面对各种私有脚本、修改容器镜像,战战兢兢地敲下每一行编译命令,生怕由于版本不匹配导致前功尽弃。 为什么发展了几十年的传统操作系统(OS)包管理体系,能否向 AI 场景演进,实现大模型软件栈轻量化、标准化一键安装? 正是因为看透了这一层技术断层,

FlagOS Skills 1.0——首个面向异构 AI 芯片的 AI Agent 专业技能库——已发布到魔搭社区 Skills 中心,并在魔搭首页作为合集置顶首推,同步上线众智 FlagOS 社区平台。FlagOS Skills 覆盖模型迁移、算子开发、性能调优等场景,让 Claude Code、Cursor、Codex 等 AI 编程工具直接具备面向各种 AI 芯片的开发能力。图一 魔搭 Sk

为了能让基于vLLM的大模型推理能在各种AI芯片上都能获得更高的性能,FlagOS2.1版本新增了 FlagGems-vllm 融合算子库,包含 75 个 核心高频融合算子,覆盖 MoE routing、KV cache update、rotary embedding、FP8 量化、Sequence pack/unpack、DeepSeek V4 attention helper kernels
为了能让基于vLLM的大模型推理能在各种AI芯片上都能获得更高的性能,FlagOS2.1版本新增了 FlagGems-vllm 融合算子库,包含 75 个 核心高频融合算子,覆盖 MoE routing、KV cache update、rotary embedding、FP8 量化、Sequence pack/unpack、DeepSeek V4 attention helper kernels
为了能让基于vLLM的大模型推理能在各种AI芯片上都能获得更高的性能,FlagOS2.1版本新增了 FlagGems-vllm 融合算子库,包含 75 个 核心高频融合算子,覆盖 MoE routing、KV cache update、rotary embedding、FP8 量化、Sequence pack/unpack、DeepSeek V4 attention helper kernels
同时,FlagGems 新增 6 大领域算子库——FlagDNN、FlagBlas、FlagSparse、FlagFFT、FlagTensor、FlagAudio,覆盖科学计算与信号处理场景,共计 102 个领域算子,从"大模型专用"走向全领域覆盖。厂商目录放置后由插件自动发现加载,vLLM-Plugin-FL、SGLang-Plugin-FL、Megatron-LM-FL、Transformer
FlagOS 2.0 版本由北京智源研究院、中科加禾、中科院计算所、澎峰科技、清程极智、清华大学、北京大学、中科院软件所、硅基流动、先进编译实验室、华为、清微智能、海光信息、中电信人工智能公司、北京邮电大学、摩尔线程、沐曦股份、天数智芯、燧原科技、基流科技、苦芽科技、晶隆智算等23家核心机构共同完成。它包括大型算子库、统一AI编译器、并行训推框架、统一通信库等核心开源项目,致力于构建「模型-系统-








