在这里插入图片描述

网罗开发 (小红书、快手、视频号同名)

  大家好,我是 展菲,目前在上市企业从事人工智能项目研发管理工作,平时热衷于分享各种编程领域的软硬技能知识以及前沿技术,包括iOS、前端、Harmony OS、Java、Python等方向。在移动端开发、鸿蒙开发、物联网、嵌入式、云原生、开源等领域有深厚造诣。

图书作者:《ESP32-C3 物联网工程开发实战》
图书作者:《SwiftUI 入门,进阶与实战》
超级个体:COC上海社区主理人
特约讲师:大学讲师,谷歌亚马逊分享嘉宾
科技博主:华为HDE/HDG

我的博客内容涵盖广泛,主要分享技术教程、Bug解决方案、开发工具使用、前沿科技资讯、产品评测与使用体验。我特别关注云服务产品评测、AI 产品对比、开发板性能测试以及技术报告,同时也会提供产品优缺点分析、横向对比,并分享技术沙龙与行业大会的参会体验。我的目标是为读者提供有深度、有实用价值的技术洞察与分析。

展菲:您的前沿技术领航员
👋 大家好,我是展菲!
📱 全网搜索“展菲”,即可纵览我在各大平台的知识足迹。
每周定时推送干货满满的技术长文,从新兴框架的剖析到运维实战的复盘,助您技术进阶之路畅通无阻。


引言

过去两年,Agent 发展经历了一个非常明显的阶段变化。

最开始大家都在追求:

更大的模型
更长的上下文
更强的推理能力

后来慢慢发现,一个 Agent 很难完成复杂任务。

例如:

开发一个网站

背后可能涉及:

需求分析
架构设计
前端开发
后端开发
测试验证
部署发布

如果全部交给一个 Agent:

Prompt 越来越长
上下文越来越大
错误越来越多

最终出现:

性能下降
成本上升
稳定性下降

于是行业开始进入 Multi-Agent 阶段。

一个负责规划:

Planner Agent

一个负责代码:

Coding Agent

一个负责测试:

Testing Agent

一个负责部署:

Ops Agent

看起来非常合理,但很快大家又发现一个问题:

Agent 数量增加之后,整个系统越来越像十年前的微服务系统。

甚至很多 AI Infra 团队开始发现:

Agent Runtime
≈
Microservice Runtime

这并不是巧合,而是因为:

多智能体本质上正在重演微服务架构的发展历史。

一、单 Agent 为什么一定会走向拆分?

最早的大模型应用其实非常简单。

User
 ↓
LLM
 ↓
Answer

所有能力都放进一个 Prompt。

这种模式类似:

单体应用(Monolith)

优点:

开发简单
部署简单
维护简单

但随着需求增加:

工具越来越多
任务越来越复杂
上下文越来越长

Agent 开始变成:

超级 Agent

内部塞满:

Memory

Tool

Workflow

Planner

Reasoning

最终出现经典问题:

一个模块出错
整个系统崩溃

这和早期单体架构几乎一模一样,因此:

Agent 必然会走向能力拆分。

二、Agent 拆分之后发生了什么?

例如一个代码开发 Agent。最开始:

Code Agent

后来:

Code Review Agent
Code Generate Agent
Code Test Agent

再后来:

Frontend Agent

Backend Agent

Database Agent

DevOps Agent

系统逐渐变成:

Agent Network

结构:

          Planner
              │
    ┌─────────┼─────────┐
    │         │         │
 Coding    Testing    DevOps
    │
 ┌──┴──┐
Front  Back

看到这里很多架构师会突然发现:

这不就是微服务吗?

没错,只是:

Service
↓
Agent

换了个名字而已。

三、Agent 与微服务的相似性

我们对比一下,传统微服务:

订单服务

库存服务

支付服务

物流服务

Agent 世界:

Planner Agent

Research Agent

Coding Agent

Review Agent

共同特点:

单一职责

微服务:

一个服务只负责一个领域

Agent:

一个 Agent 只负责一个目标

例如:

Research Agent

不负责:

Coding

这就是:

Single Responsibility Principle

独立扩容

微服务:

支付压力大

扩容 Payment Service

Agent:

Coding 请求暴涨

扩容 Coding Agent

本质完全一样。

异步协作

微服务:

Service A
↓
MQ
↓
Service B

Agent:

Agent A
↓
Event
↓
Agent B

越来越多 Agent Runtime 已经开始采用 Event Driven 模式。

原因和微服务时代完全一致:

解耦

四、多智能体开始出现“服务治理问题”

当 Agent 数量超过:

10个
20个
50个

新的问题出现了。例如:

Agent 调用了谁?

Agent 是否成功?

Agent 是否超时?

Agent 是否失败重试?

这时候大家突然发现,这些问题早就有人解决过。

答案就是:

微服务治理

因此 Agent Runtime 开始出现:

Service Discovery

Load Balance

Retry

Circuit Breaker

Health Check

甚至名字都没变。

五、Agent Registry ≈ 服务注册中心

微服务时代:

Nacos
Eureka
Consul

作用:

记录服务位置

例如:

Order Service
10.1.1.2

Agent 世界同样需要:

Agent Registry

记录:

Coding Agent

Research Agent

Planner Agent

Planner 在执行任务时:

先发现 Agent
再调用 Agent

这其实就是:

Service Discovery

六、Agent Bus ≈ 消息总线

微服务为什么需要 MQ?因为:

服务之间不能强耦合

所以出现:

Kafka
RocketMQ
RabbitMQ

Agent 系统越来越大之后,同样需要:

Agent Bus

例如:

Research Agent

完成任务:

发布事件
ResearchCompleted

然后:

Coding Agent

自动消费,结构:

Agent
 ↓
Event Bus
 ↓
Agent

越来越像:

EDA
(Event Driven Architecture)

七、Agent Scheduler ≈ Kubernetes

这是最有意思的地方,很多团队做到后面发现,真正难的不是 Agent。

而是:

Agent 调度

例如:

1000 个任务

500 个 Agent

100 台 GPU

如何分配?

如何优先级管理?

如何失败恢复?

如何动态扩容?

这时候,很多设计思路开始直接借鉴:

Kubernetes

例如:

Agent Instance

Agent Pod

Agent Cluster

甚至已经有团队提出 Agent Orchestration 概念。

本质上:

K8s 调度容器

Agent Runtime 调度智能体

八、为什么未来 Agent Runtime 会越来越像 Kubernetes?

因为两者解决的是同一个问题,微服务时代:

管理服务

Agent 时代:

管理智能体

核心挑战高度一致:

发现
调度
监控
治理
扩容
容错

未来企业级 Agent 系统很可能演化为:

+----------------------+
| Agent Runtime        |
+----------+-----------+
           |
+----------v-----------+
| Scheduler            |
| Registry             |
| Event Bus            |
| Memory Manager       |
+----------+-----------+
           |
  --------------------
  |    |    |    |
Agent Agent Agent Agent

本质:

Agent Runtime
=
AI 时代的 Kubernetes

九、真正的变化:服务执行变成了目标执行

不过两者也有一个根本区别,微服务时代:

输入请求
执行逻辑
返回结果

服务不会思考。

Agent 时代:

输入目标
自主规划
自主执行
返回结果

例如,微服务:

创建订单

Agent:

帮我完成这次采购

中间过程:

分析需求
搜索商品
比价
审批
下单
跟踪物流

全部自主完成,因此:

微服务管理的是“函数”,Agent 管理的是“目标”。

这也是 AI 系统最大的变化。

总结:多智能体正在重走微服务的演化路线

回顾整个过程:

单 Agent
↓
能力膨胀
↓
职责拆分
↓
Multi-Agent
↓
Agent Network
↓
Agent Runtime

这条路线几乎与当年的:

单体应用
↓
服务拆分
↓
微服务
↓
Service Mesh
↓
Kubernetes

完全一致,一句话总结全文:

多智能体越来越像微服务,不是因为它们设计相似,而是因为当系统规模扩大后,所有复杂系统都会面临相同的问题:拆分、协作、调度与治理。

最终结论:

微服务解决:
如何管理大量服务

Agent Runtime 解决:
如何管理大量智能体

未来三到五年,Agent Runtime、Agent Scheduler、Agent Registry、Agent Bus 很可能会成为 AI 基础设施领域最重要的新赛道。

而今天的 Multi-Agent,或许正站在当年 Kubernetes 爆发前夜的位置。

更多推荐