logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

基于VeRL的ReactAgentLoop实践

VeRL框架提供了基于LangGraph的Agent训练方案,通过多轮交互状态图实现动态工具调用能力。本文基于Verl的ReactAgentLoop功能,针对数学表达式计算场景,使用Qwen2.5-3B-Instruct模型进行了完整的训练实践,记录了环境配置、数据准备、训练过程和问题解决方案。

#人工智能#语言模型
EAGLE-3投机推理原理

摘要 本文系统介绍了大语言模型推理中的投机解码(Speculative Decoding)技术,重点分析了EAGLE系列方法的演进与创新。投机解码通过"小模型预测+大模型验证"的并行机制,显著降低推理延迟。文章详细对比了MEDUSA、EAGLE、EAGLE-2等方法的优劣,其中EAGLE利用目标模型特征和token自回归预测多步输出,EAGLE-2引入动态树剪枝优化候选token选择。最新提出的E

#人工智能#语言模型
基于VeRL的ReactAgentLoop实践

VeRL框架提供了基于LangGraph的Agent训练方案,通过多轮交互状态图实现动态工具调用能力。本文基于Verl的ReactAgentLoop功能,针对数学表达式计算场景,使用Qwen2.5-3B-Instruct模型进行了完整的训练实践,记录了环境配置、数据准备、训练过程和问题解决方案。

#人工智能#语言模型
到底了