logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

72 小时极限对决!FlagOS算子赏金挑战赛登陆 WAIC

2026 世界人工智能大会(WAIC)举办期间,由众智 FlagOS 社区与智谱联合主办的FlagOS 72 小时算子赏金挑战赛(上海站)正式启动全球招募。赛事聚焦 AI 底层高性能算子工程优化,以真实大模型线上业务场景命题,面向全球 AI 系统、计算优化领域开发者开放线上参赛通道。 FlagOS 赛事专场技术直播将于 2026 年 7 月 16 日(周四)19:00 在智源 FlagOpen 视

文章图片
Star 破 12万!llama.cpp主创拆解项目崛起之路

2023 年,一个仅用 C/C++ 编写的开源项目横空出世,彻底打破了“只有大厂显卡集群才能跑大模型”的垄断。 它就是 llama.cpp。如今,它在 GitHub 上斩获了近 12 万 Star,从个人电脑、手机、开发板甚至浏览器,它成为了全球 Local AI 生态中最坚实的底层推理引擎。 就在今年 2 月,GGML/llama.cpp 创始团队正式加入 Hugging Face,这一重磅信号

文章图片
免费报名|技术大咖面对面授课,2026 智源大会 FlagOS 技术开发工作坊来袭!

只需一句自然语言描述,它就能自动完成算子的生成、测试与性能优化,并支持多种主流 AI 芯片,实现真正意义上的“一次开发,到处运行”。我们构建了 FlagRelease,以 LLM Agent 为编排引擎,充当系统软件的粘合剂与润滑油:自主完成环境诊断、组件装配、算子替换、精度-性能闭环调优、故障归因与容器化发布,消除各层软件在真实部署场景中的摩擦,全程零人工交互。作为面向多元算力的开源系统软件栈,

#人工智能#开源
AI Infra 正悄悄融入传统 OS 生态

在大模型时代,每一位 AI 开发者或许都经历过这样的“崩溃”瞬间:   为了跑通一个算子,先花三个小时解决环境依赖。 面对各种私有脚本、修改容器镜像,战战兢兢地敲下每一行编译命令,生怕由于版本不匹配导致前功尽弃。   为什么发展了几十年的传统操作系统(OS)包管理体系,能否向 AI 场景演进,实现大模型软件栈轻量化、标准化一键安装?   正是因为看透了这一层技术断层,

文章图片
众智 FlagOS Skills:让 AI Agent 一句话搞定国产芯片开发

FlagOS Skills 1.0——首个面向异构 AI 芯片的 AI Agent 专业技能库——已发布到魔搭社区 Skills 中心,并在魔搭首页作为合集置顶首推,同步上线众智 FlagOS 社区平台。FlagOS Skills 覆盖模型迁移、算子开发、性能调优等场景,让 Claude Code、Cursor、Codex 等 AI 编程工具直接具备面向各种 AI 芯片的开发能力。图一 魔搭 Sk

文章图片
#人工智能#驱动开发
众智FlagOS 2.1 正式发布:面向 AI Agent设计,让适配更轻松,让芯片更高效

为了能让基于vLLM的大模型推理能在各种AI芯片上都能获得更高的性能,FlagOS2.1版本新增了 FlagGems-vllm 融合算子库,包含 75 个 核心高频融合算子,覆盖 MoE routing、KV cache update、rotary embedding、FP8 量化、Sequence pack/unpack、DeepSeek V4 attention helper kernels

#人工智能
众智FlagOS 2.1 正式发布:面向 AI Agent设计,让适配更轻松,让芯片更高效

为了能让基于vLLM的大模型推理能在各种AI芯片上都能获得更高的性能,FlagOS2.1版本新增了 FlagGems-vllm 融合算子库,包含 75 个 核心高频融合算子,覆盖 MoE routing、KV cache update、rotary embedding、FP8 量化、Sequence pack/unpack、DeepSeek V4 attention helper kernels

#人工智能
众智FlagOS 2.1 正式发布:面向 AI Agent设计,让适配更轻松,让芯片更高效

为了能让基于vLLM的大模型推理能在各种AI芯片上都能获得更高的性能,FlagOS2.1版本新增了 FlagGems-vllm 融合算子库,包含 75 个 核心高频融合算子,覆盖 MoE routing、KV cache update、rotary embedding、FP8 量化、Sequence pack/unpack、DeepSeek V4 attention helper kernels

#人工智能
FlagOS Day 0 跨芯适配 GLM-5.2:发布即覆盖四款芯片,支持 vLLM + SGLang双插件

同时,FlagGems 新增 6 大领域算子库——FlagDNN、FlagBlas、FlagSparse、FlagFFT、FlagTensor、FlagAudio,覆盖科学计算与信号处理场景,共计 102 个领域算子,从"大模型专用"走向全领域覆盖。厂商目录放置后由插件自动发现加载,vLLM-Plugin-FL、SGLang-Plugin-FL、Megatron-LM-FL、Transformer

#sglang
众智FlagOS 2.0正式发布:32款AI芯片、497算子、Skills专业技能库首发

FlagOS 2.0 版本由北京智源研究院、中科加禾、中科院计算所、澎峰科技、清程极智、清华大学、北京大学、中科院软件所、硅基流动、先进编译实验室、华为、清微智能、海光信息、中电信人工智能公司、北京邮电大学、摩尔线程、沐曦股份、天数智芯、燧原科技、基流科技、苦芽科技、晶隆智算等23家核心机构共同完成。它包括大型算子库、统一AI编译器、并行训推框架、统一通信库等核心开源项目,致力于构建「模型-系统-

#人工智能
    共 130 条
  • 1
  • 2
  • 3
  • 13
  • 请选择