logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

众智 FlagOS Skills:让 AI Agent 一句话搞定国产芯片开发

FlagOS Skills 1.0——首个面向异构 AI 芯片的 AI Agent 专业技能库——已发布到魔搭社区 Skills 中心,并在魔搭首页作为合集置顶首推,同步上线众智 FlagOS 社区平台。FlagOS Skills 覆盖模型迁移、算子开发、性能调优等场景,让 Claude Code、Cursor、Codex 等 AI 编程工具直接具备面向各种 AI 芯片的开发能力。图一 魔搭 Sk

文章图片
#人工智能#驱动开发
Day 0 实现 MiniMax M2.7 六芯落地,众智FlagOS 又双叒叕让大模型多芯可用了!

当下,"异构算力协同、大模型普惠落地"已成为全球开源开发者社区的核心热点,打破硬件生态隔离、让大模型在不同算力平台高效低成本运行,是无数开发者的核心诉求。FlagGems 作为 FlagOS 核心的高性能通用大模型算子库,基于 Triton 语言实现,针对 MiniMax M2.7 推理链路的核心算子进行了深度适配与优化,包括 MoE 专家调度、Attention 计算、RMSNorm 等关键计算

文章图片
#人工智能
大模型新拐点:FlagOS+Engram 开启算存协同新时代

本文首先介绍 Engram 的核心思想,然后阐述基于 FlagOS 系统软件栈中的训练插件完成的 Engram 架构全链路复现。在此基础上,重点展示 FlagOS 针对 Engram 进行的三大工程优化。实验量化结果表明,FlagOS 对 Engram 的优化在保持额外负载为零的前提下,使吞吐最高提升近 150%。

#驱动开发
别再盲目调优算子!细粒度设备侧 profiling 实战来了

日常模型开发中,我们依赖的常规 Python 调试手段,仅能覆盖上层代码逻辑,根本无法穿透到设备侧,获取真实、细粒度的运行时数据。 一方面,性能调优无依据:无法精准定位 Kernel 内部各操作的耗时节点,优化只能靠经验、靠猜测,低效且盲目; 另一方面,数值 bug 难溯源:算子计算出现数值异常时,无法追溯中间计算步骤,排查耗时翻倍,问题反复复现。 更棘手的是,各芯片厂商设备接口不统一、功能支持参

文章图片
FlagOS 技术直播预告 | 别再盲目调优算子!细粒度设备侧 Profiling 实战来了

FlagOS团队在FlagTree组件中开发了一套统一的设备侧Profiler&Debugger工具,旨在解决AI算子开发中的性能调优和数值bug排查难题。该工具突破传统调试局限,提供细粒度Kernel耗时分析(精确到内部操作)和全流程数值追踪能力,并设计抽象层适配不同芯片厂商接口。直播将分享工具架构设计、核心功能演示(8月6日19:00),展示如何实现算子开发从"盲调"到"可观测"的转变。该方案

文章图片
#人工智能#开源
众智FlagOS推动新一代智算系统高校教育,全国教师研修班即将启动!

2026年8月4-8日,北京智源人工智能研究院等机构将联合举办全国高校人工智能自主软硬件知识公益研修班。研修班面向高校教师,依托FlagOS在线实验平台开展线下实操培训,聚焦AI系统软件与异构计算五大核心模块,通过“讲授+实操”模式助力AI教学升级。这是继2026年4月成功实施“中非人工智能人才培养计划”后,FlagOS社区将国际验证的“种子教师”培育模式引入国内的实践。FlagOS2.1开源技术

文章图片
#人工智能#开源
FlagOS技术工作坊:当AI开始“自己部署自己”,大模型基础设施进入“无人驾驶”时代

纵观全天的 FlagOS 技术开发工作坊,一条清晰的脉络浮现出来:FlagOS 正在从"提供若干正确的单体组件",转向"用AI让这些组件在真实场景中协同运转"。全天高密度的理论拆解与手把手的真机实操交织,让这场工作坊不再是纸上谈兵。一方面,Triton-TLE、FlagTree CPU 扩展与 FlagIR 编译器基建,展示了打通多芯片孤岛、榨干硬件性能的硬核底力;

文章图片
#人工智能
不可不知小技巧|H800 上基于 Triton-TLE 优化 FlashKDA,长文本推理性能提升超 40%

本文对比了FlashKDA与Triton-TLE在处理线性注意力机制时的性能优化方案。FlashKDA通过将计算拆分为并行准备阶段(K1)和顺序递推阶段(K2),实现了每16个token一次的状态依赖处理。Triton-TLE在此基础上进一步优化:K1阶段利用显式共享内存和异步加载减少线程等待;K2阶段将FP32主状态保留在寄存器中,减少数据搬运。在H800配置测试中,该方案获得了1.38倍的几何

文章图片
#人工智能#机器学习#算法
重磅预告|AutoSoft 特别会议:车上AI基础软件生态研讨会,7月31日上海见!

随着AI大模型加速上车,2026年车载智能体将迎来爆发,但芯片适配成本高、周期长成为行业痛点。智能汽车多芯片异构架构导致底层软件需重复适配,而车载芯片代际更迭(算力跃升至千TOPS、供应商多元化)进一步加剧挑战。FlagOS开源系统提出解决方案,通过统一软件栈实现"一次开发、多芯部署",助力车企摆脱单一生态绑定。7月31日上海将举办行业研讨会,集结车企、芯片商、软件公司共议AI基础软件生态建设,推

文章图片
#人工智能#开源
72小时算子挑战赛对决收官!获奖选手复盘制胜秘诀

72小时算子挑战赛对决收官!获奖选手复盘制胜秘诀

文章图片
    共 140 条
  • 1
  • 2
  • 3
  • 14
  • 请选择