此外团队还进一步发现了门控机制能消除注意力池（Attention Sink）和巨量激活（Massive Activation）等现象，提高模型的训练稳定性，极大程度减少了训练过程中的损失波动（loss spike）。团队在各个尺寸、架构、训练数据规模上验证了方法的有效性，并最终成功运用到了 Qwen3-Next 模型中。已在 NeurIPS、ICLR、ACL、EMNLP、NAACL 等会议发表十余

KernelGen 构建了一套基于 Agent 的自动化算子优化 pipeline：以初始 Triton kernel 和 reference 实现为起点，Agent 在每轮迭代中自主分析当前 kernel 的性能瓶颈与历史优化数据，自动实施优化策略，并完成正确性验证与性能 benchmark，全程无需人工干预，持续迭代直至达到目标性能，能够从朴素实现逐步逼近甚至超越手工调优的 TileLang

在人工智能领域快速发展的今天，大模型技术引发了前所未有的热潮。然而，在这股浪潮之下，我们是否真正理解了人工智能的本质？是否存在被忽视的根本性问题？作为上海交通大学副教授、国内人工智能领域的资深研究者，张拳石对这些问题有着独到的见解。他认为，深度学习的成功虽带来了前所未有的性能提升，但长期以来以深度学习为代表的AI所奉行的自底向上范式，也逐渐走入了自底向上的“端到端”效率陷阱。深度学习范式放弃了人们

导读：为了启发青年学者研究思路，激发科研灵感，智源社区推出青年学者访谈栏目。北京邮电大学副教授王啸是国内图学习领域的佼佼者。回顾他的科研历程，从探寻网络研究的本质，到在物理学家的论文中寻找灵感，他对图神经网络研究的热情未曾衰减。未来，他还将继续从基础理论入手，深入探索图神经网络中的不变性。王啸，北京邮电大学副教授。研究方向为图神经网络、数据挖局与机器学习。天津大学博士，美国圣路易斯华盛顿大学联合培

2022年北京智源大会自动驾驶论坛，清华大学车辆与运载学院李升波教授分享了题为《混合型强化学习及其高级别自动驾驶应用》的主题报告。该报告主要探讨了如何将强化学习应用于自动驾驶汽车的问题，目标是让自动驾驶汽车具备自我学习、自我进化的能力，即与人类驾驶员的开车学习过程类似，达到越学越好、越开越好的特点。该报告首先介绍了自动驾驶与强化学习结合的必要性，分析了现有强化学习算法的特...

【专栏：研究思路】奥卡姆剃刀是由14世纪方济会修士奥卡姆的威廉提出的逻辑学法则，他在《箴言书注》2卷15题说“切勿浪费多余功夫去做本可以较少功夫完成之事”。而在神经网络方面，「奥卡姆剃刀」...

在 AI Open 杂志 2020 年第一卷中，清华大学周杰等人发表了综述性论文《Graph neural networks: A review of methods and applic...

【栏目：关键问题】近年来我们不断见证了越来越强大的神经网络模型，如 AlexNet，VGG，GoogleNet，ResNet，DenseNet 以及最近大火的 Transformer 等。...

No.16智源社区强化学习组强化学习研究观点资源活动关于周刊强化学习作为人工智能领域研究热点之一，多智能强化学习的研究进展与成果也引发了众多关注。为帮助研究与工程人员了解该领域的相关进展...

智源导读：目前，强化学习技术在游戏、围棋等任务中得到了广泛应用，并在一些复杂场景下取得了优于人类的效果。南京大学机器学习与数据挖掘研究所教授俞扬近期在北京智源大会上发表了题为《环境模型学习...