一、执行计划定义

      在 Agent 的上下文中,执行计划(Execute Plan)是指:Agent 在接收到用户需求后,通过推理生成的一系列有序、可执行的步骤序列,用以系统性地达成最终目标,通常执行计划被建模为有向无环图(DAG)。我们实现的任务型 Agent 框架是一个多智能体系统,核心采用“中枢”转发的模式(还有另一种P2P模式),由“中枢 Agent”将用户需求拆解为多个适合子 Agent 独立负责的任务,并由“中枢 Agent”统一协调,同时子 Agent 执行时会生成内部执行计划。如下图所示:

图片

图中以基于 Reflection 的自主规划模式为例说明 AEP 和 EP 两个概念:

  • Agent 级别的任务执行计划:简称 AEP,用于将用户需求拆解为多个子 Agent 能独立解决的任务,这些子任务组成 Agent 级别的任务执行计划。

  • Agent 内部的执行计划:简称 EP,子 Agent 将负责的任务进一步拆解成更细粒度、可执行的执行计划。EP 中节点的类型可以工具、工具组等。

二、GraphViz 可视化工具在执行计划中的应用

     Graphviz(全称:Graph Visualization Software)是一个开源的图形可视化软件包,它主要用于将结构化信息(特别是图和网络)以清晰、美观的图形方式展现出来。Graphviz 使用 DOT 语言作为输入语言,图中的节点属性可自定义,示例如下:

图片

     执行计划要找到一种表达方式,不仅让大模型能方便理解,也能让产品、运营和技术人员能快速理解和修改执行计划结构。执行计划被建模为有向无环图,天然适合于使用 Graphviz 协议来表达。目前 Agent 支持的所有模型涉及的执行计划均采用这种方式实现,比如基于 Reflection 的自主规划模式的动态 EP 和 workflow 模式下的 EP 模板,前者会动态修改 EP 结构,后者采用人工预设模板不通动态修改。另外 EP 中的节点可以分工具、多工具等类型,同时节点也包含了丰富的属性(参考领域模型设计),示例如下:

digraph G {   1 [label = "节点A" shape=record type="function" status="待初始化" toolCode="functionA" toolInput="xx" toolOutput="xx" question=""];   2 [label = "节点B" shape=ellipse type="confirm" status="待初始化" question="xx" answer="xx"];   3 [label = "节点C" shape=record type="function" toolCode="functionC"  status="待初始化" toolInput="xx" toolOutput="xx" question="xx"];   4 [label = "节点D" shape=ellipse type="confirm" status="待初始化" component="xx" payload="xx" question="请查收xx"  answer="xx"];   1 -> 2; 2 -> 3; 3 -> 4;}

三、执行计划领域模型

3.1 领域模型

图片

  1. 执行计划模板:ExecutePlanTemplate

   执行计划模板应用于 workflow 模式,template 属性存放人工预设的模板内容(使用 graphviz 协议表示的工作流)。

b. 执行计划:ExecutePlan

   workflow 模式下,ExecutePlan 是 ExecutePlanTemplate 的实例。基于 Reflection 的自主规划模式或者 ReAct 模式下,ExecutePlan 是一个可动态变化的实例。

c. 执行计划节点:ExecutePlanNode

   执行计划节点是一个抽象的概念,不同 Agent 模式下节点对应不同的业务概念。核心的属性如下(每种节点类型的属性不一样,这里只做部分属性说明):

  • graphId:节点图 id, graphviz 协议 dot 语言中节点的 id

  • label:节点展示名称

  • shape:节点图形类型,graphviz 协议 dot 语言支持的类型

  • status:EP 节点的状态,详细见状态机描述。

  • type:节点类型,枚举如下:

  1. function:表示函数类型,此时节点是一个函数工具节点,适用于 workflow 模式和基于 Reflection 的自主规划模式。

  2. multiFunction:表示多函数类型,此时节点可以包含多个函数,适用于 ReAct模式,在 ReAct 模式下一轮推理结束后,大模型可能会推理出多个函数工具。

  3. confirm:表示待用户输入节点,该节点通常用于依赖更多输入(用户输入和上游节点执行结点等)来综合评估做出下一步待执行的决策(比如反问用户)。 

  4. agent:AEP 下的节点类型,此时代表一个 agent 执行任务节点,适用于多智能体。

3.2 EP 及 EP 节点状态机

图片

     基于 Reflection 的自主规划模式下的 EP 节点是 function 类型,即一个节点对应一个工具。该模式下每次对话或者工具执行结束后会动态刷新 EP 结构(包括节点的状态),在设计之初未严格区分节点状态的驱动职责,导致节点状态未按照预设的流程流转,为了解决这个问题,把节点的状态的驱动职责一拆为二:大模型驱动和异步框架驱动(如图示),既减轻大模型理解成本,又能明确职责界限和简化系统。另外,为了防止更多的状态出现复杂系统,特意简化了 EP 状态机。

3.3 EP调度执行

EP 调度执行由三方异步框架来完成,结合产品交互设计了两个调度任务:

  • EP 调用执行任务:每 30 s 轮询一次,轮询过程中找出“待运行”状态节点来执行。

  • 待用户输入任务:考虑到任务型 agent 长周期特点,当节点进入到“待用户输入中”状态时,该任务会把大模型反问的问题通知到用户,除在对话框通知外,该任务会小时级别通过钉钉形式异步提醒用户。

四、Prompt

下面是对动态刷新 EP 的输出规范示例摘要:

▌ 最终输出规范
最终需要输出两部分指定格式的内容
** 第一部分是EP的更新说明,格式要求如下:
使用\"@epupdatelog@\"作为起始符和结束符包裹更新信息,采用markdown格式,严格遵守以下格式:
@epupdatelog@
{更新内容说明}
@epupdatelog@

** 第二部分是最终更新后的EP内容,其中EP结构说明、EP节点属性说明、更新说明格式要求参考下面的描述,
,使用\"@EP@\"作为特殊符号包裹更新信息,严格遵守以下格式:
@EP@
*id=1
*graph=digraph G {
1 [label = "标题1" shape=record type="function" toolCode="" status="待用户输入中" toolInput="" toolOutput="", question=""];
2 [label = "标题2" shape=ellipse type="confirm" status="待初始化"];
3 [label = "标题3" shape=record type="function"  toolCode="samplePreAnalysis" status="待初始化" toolInput="" toolOutput="" profile="" question=""];
1 -> 2; 2 -> 3;
}
@EP@

** EP结构说明 **
其中@EP@是起始标识符,@EP@是结束表示符
其中*id是当前EP的ID,更新EP时需要输出,新增EP不需要输出
其中*graph=digraph G {} 表示Graphviz格式的编排EP图,里面包含节点和节点之间的边关系,EP图中每个节点都代表一个EPNode

** EP节点属性说明 **
//......

 AI大模型从0到精通全套学习大礼包

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

只要你是真心想学AI大模型,我这份资料就可以无偿共享给你学习。大模型行业确实也需要更多的有志之士加入进来,我也真心希望帮助大家学好这门技术,如果日后有什么学习上的问题,欢迎找我交流,有技术上面的问题,我是很愿意去帮助大家的!

如果你也想通过学大模型技术去帮助就业和转行,可以点扫描下方👇👇
大模型重磅福利:入门进阶全套104G学习资源包免费分享!
在这里插入图片描述

01.从入门到精通的全套视频教程

包含提示词工程、RAG、Agent等技术点
在这里插入图片描述

02.AI大模型学习路线图(还有视频解说)

全过程AI大模型学习路线

在这里插入图片描述

​​在这里插入图片描述

03.学习电子书籍和技术文档

市面上的大模型书籍确实太多了,这些是我精选出来的

在这里插入图片描述

04.大模型面试题目详解

在这里插入图片描述

在这里插入图片描述

05.这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理,鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位,在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利,同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

所有的视频由智泊AI老师录制,且资料与智泊AI共享,相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

在这里插入图片描述
在这里插入图片描述

智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念‌,通过动态追踪大模型开发、数据标注伦理等前沿技术趋势‌,构建起"前沿课程+智能实训+精准就业"的高效培养体系。

课堂上不光教理论,还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作,把课本知识变成真本事‌!

在这里插入图片描述
如果说你是以下人群中的其中一类,都可以来智泊AI学习人工智能,找到高薪工作,一次小小的“投资”换来的是终身受益!

应届毕业生‌:无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。

零基础转型‌:非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能 ‌突破瓶颈:传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型‌。

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

在这里插入图片描述

Logo

更多推荐