
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
大语言模型(LLM)智能体通常使用强化学习(RL)进行训练,但由于依赖人工整理的数据,其可扩展性受到限制,并将人工智能束缚于人类知识。现有的自进化框架提供了一种替代方案,但通常受限于模型的固有能力和单轮交互,阻碍了涉及工具使用或动态推理的复杂课程的开发。我们提出了 **Agent0**,这是一个完全自主的框架,它通过多步协同进化和无缝工具集成,在无需外部数据的情况下进化出高性能智能体。Agent0

摘要 本文探讨了长期运行AI智能体面临的挑战及解决方案。主要问题在于智能体在离散会话中工作时会丢失上下文记忆,导致效率低下。研究提出了双重解决方案:初始化智能体负责首次运行时设置环境(包括脚本、进度文件和Git提交),编码智能体则在后续会话中逐步推进任务。通过增量开发、严格测试和进度记录等方法,智能体能在多个上下文窗口中持续工作。实验表明,该方法能显著提升智能体在复杂任务(如Web应用开发)中的表
深度搜索能力已成为前沿大语言模型(LLM)智能体不可或缺的核心能力,然而,由于缺乏透明、高质量的训练数据,高性能搜索智能体的开发仍然被行业巨头所主导。这种持续的数据匮乏从根本上阻碍了更广泛的研究群体在该领域的开发和创新。为了弥合这一差距,我们推出了 **OpenSeeker**,这是首个完全开源的搜索智能体(包括模型和数据),它通过两项核心技术创新实现了前沿级别的性能:(1)基于事实的可扩展可控问

视觉理解和编码是前沿多模态大语言模型的两大核心能力——然而,它们与人类能力相比,表现却截然不同。在编码方面,模型已经远远超越了专家级水平,能够生成、调试和优化复杂的项目。但在视觉方面,差距依然巨大:正如我们之前的项目 BabyVision 所展示的那样,模型仍然难以完成人类能够轻松解决的任务。这种不对称性引出了一个自然的问题:编码能否用于提升视觉能力?

我们推出了 Kimi K2.5,这是一个开源的多模态 Agent 模型,旨在提升通用智能体的性能。K2.5 强调文本和视觉的联合优化,使两种模态相互增强。这包括一系列技术,例如联合文本-视觉预训练、零视觉 SFT 和联合文本-视觉强化学习。基于这种多模态基础,K2.5 引入了 Agent Swarm,这是一个自导向的并行智能体编排框架,能够动态地将复杂任务分解为异构子问题并并行执行。大量的评估表明

摘要: GLM-5是新一代基础模型,通过智能体、推理和编码(ARC)能力提升,结合DSA降低训练成本并保持长上下文保真度。采用异步强化学习基础设施和新型算法,显著提升模型对齐与自主性。在多个基准测试中表现优异,如AI指数v4.0得分50分,开源模型首次达到此水平。GLM-5在长期任务(如Vending-Bench 2)中展现卓越规划能力,参数扩展至744B,训练token达28.5万亿。技术亮点包

本文介绍了 **Qwen3.5-Omni**,它是 Qwen-Omni 模型家族的最新进展。Qwen3.5-Omni 相较于其前代产品有了显著的提升,可扩展至数千亿参数,并支持 256k 的上下文长度。该模型利用包含异构文本-视觉对和超过 1 亿小时音视频内容的海量数据集,展现了强大的全模态能力。**Qwen3.5-Omni-Plus** 在 215 项音频和音视频理解、推理和交互子任务及基准测试

基于大语言模型 (LLM) 的嵌入模型在通用文本嵌入任务(包括基于密集向量的检索)中的表现开始超越基于 BERT 或 T5 的嵌入模型。本文介绍了 **NV-Embed** 模型,引入了新的架构设计、训练流程和精选数据集,显著提升了 LLM 作为通用嵌入模型的性能,同时保持了其简单性和可复现性。在模型架构方面,我们提出了一个潜在注意力层来获取池化嵌入,与均值池化或使用 LLM 中的最后一个 $\t

知识蒸馏(KD)是一种很有前景的技术,可以降低大语言模型(LLM)的高计算需求。然而,以往的 KD 方法主要应用于白盒分类模型或训练小型模型来模仿黑盒 API 模型,例如 ChatGPT。如何有效地将白盒 LLM 的知识蒸馏到小型模型中仍然是一个有待探索的问题,而随着开源 LLM 的蓬勃发展,这个问题变得愈发重要。**本文提出了一种将 LLM 蒸馏成小型语言模型的 KD 方法**。首先,我们将标准

LLMS从根本上改变了我们在所有行业中使用AI的方式。但是,实际上为这些模型提供服务是具有挑战性的,即使在昂贵的硬件上也可能会具有很慢的推理速度。今天,我们很高兴介绍vLLM,这是一个用于快速LLM推理和服务的开源库。vLLM利用了,这是我们能有效地管理注意力key和value的新的注意力算法。配备了PagedAttention的vLLM重新定义了LLM服务中的SOTA:它比HuggingFace








