多智能体为什么越来越像微服务?

大家好,我是 展菲,目前在上市企业从事人工智能项目研发管理工作,平时热衷于分享各种编程领域的软硬技能知识以及前沿技术,包括iOS、前端、Harmony OS、Java、Python等方向。在移动端开发、鸿蒙开发、物联网、嵌入式、云原生、开源等领域有深厚造诣。
图书作者:《ESP32-C3 物联网工程开发实战》
图书作者:《SwiftUI 入门,进阶与实战》
超级个体:COC上海社区主理人
特约讲师:大学讲师,谷歌亚马逊分享嘉宾
科技博主:华为HDE/HDG
我的博客内容涵盖广泛,主要分享技术教程、Bug解决方案、开发工具使用、前沿科技资讯、产品评测与使用体验。我特别关注云服务产品评测、AI 产品对比、开发板性能测试以及技术报告,同时也会提供产品优缺点分析、横向对比,并分享技术沙龙与行业大会的参会体验。我的目标是为读者提供有深度、有实用价值的技术洞察与分析。
展菲:您的前沿技术领航员
👋 大家好,我是展菲!
📱 全网搜索“展菲”,即可纵览我在各大平台的知识足迹。
每周定时推送干货满满的技术长文,从新兴框架的剖析到运维实战的复盘,助您技术进阶之路畅通无阻。
文章目录
引言
过去两年,Agent 发展经历了一个非常明显的阶段变化。
最开始大家都在追求:
更大的模型
更长的上下文
更强的推理能力
后来慢慢发现,一个 Agent 很难完成复杂任务。
例如:
开发一个网站
背后可能涉及:
需求分析
架构设计
前端开发
后端开发
测试验证
部署发布
如果全部交给一个 Agent:
Prompt 越来越长
上下文越来越大
错误越来越多
最终出现:
性能下降
成本上升
稳定性下降
于是行业开始进入 Multi-Agent 阶段。
一个负责规划:
Planner Agent
一个负责代码:
Coding Agent
一个负责测试:
Testing Agent
一个负责部署:
Ops Agent
看起来非常合理,但很快大家又发现一个问题:
Agent 数量增加之后,整个系统越来越像十年前的微服务系统。
甚至很多 AI Infra 团队开始发现:
Agent Runtime
≈
Microservice Runtime
这并不是巧合,而是因为:
多智能体本质上正在重演微服务架构的发展历史。
一、单 Agent 为什么一定会走向拆分?
最早的大模型应用其实非常简单。
User
↓
LLM
↓
Answer
所有能力都放进一个 Prompt。
这种模式类似:
单体应用(Monolith)
优点:
开发简单
部署简单
维护简单
但随着需求增加:
工具越来越多
任务越来越复杂
上下文越来越长
Agent 开始变成:
超级 Agent
内部塞满:
Memory
Tool
Workflow
Planner
Reasoning
最终出现经典问题:
一个模块出错
整个系统崩溃
这和早期单体架构几乎一模一样,因此:
Agent 必然会走向能力拆分。
二、Agent 拆分之后发生了什么?
例如一个代码开发 Agent。最开始:
Code Agent
后来:
Code Review Agent
Code Generate Agent
Code Test Agent
再后来:
Frontend Agent
Backend Agent
Database Agent
DevOps Agent
系统逐渐变成:
Agent Network
结构:
Planner
│
┌─────────┼─────────┐
│ │ │
Coding Testing DevOps
│
┌──┴──┐
Front Back
看到这里很多架构师会突然发现:
这不就是微服务吗?
没错,只是:
Service
↓
Agent
换了个名字而已。
三、Agent 与微服务的相似性
我们对比一下,传统微服务:
订单服务
库存服务
支付服务
物流服务
Agent 世界:
Planner Agent
Research Agent
Coding Agent
Review Agent
共同特点:
单一职责
微服务:
一个服务只负责一个领域
Agent:
一个 Agent 只负责一个目标
例如:
Research Agent
不负责:
Coding
这就是:
Single Responsibility Principle
独立扩容
微服务:
支付压力大
扩容 Payment Service
Agent:
Coding 请求暴涨
扩容 Coding Agent
本质完全一样。
异步协作
微服务:
Service A
↓
MQ
↓
Service B
Agent:
Agent A
↓
Event
↓
Agent B
越来越多 Agent Runtime 已经开始采用 Event Driven 模式。
原因和微服务时代完全一致:
解耦
四、多智能体开始出现“服务治理问题”
当 Agent 数量超过:
10个
20个
50个
新的问题出现了。例如:
Agent 调用了谁?
Agent 是否成功?
Agent 是否超时?
Agent 是否失败重试?
这时候大家突然发现,这些问题早就有人解决过。
答案就是:
微服务治理
因此 Agent Runtime 开始出现:
Service Discovery
Load Balance
Retry
Circuit Breaker
Health Check
甚至名字都没变。
五、Agent Registry ≈ 服务注册中心
微服务时代:
Nacos
Eureka
Consul
作用:
记录服务位置
例如:
Order Service
10.1.1.2
Agent 世界同样需要:
Agent Registry
记录:
Coding Agent
Research Agent
Planner Agent
Planner 在执行任务时:
先发现 Agent
再调用 Agent
这其实就是:
Service Discovery
六、Agent Bus ≈ 消息总线
微服务为什么需要 MQ?因为:
服务之间不能强耦合
所以出现:
Kafka
RocketMQ
RabbitMQ
Agent 系统越来越大之后,同样需要:
Agent Bus
例如:
Research Agent
完成任务:
发布事件
ResearchCompleted
然后:
Coding Agent
自动消费,结构:
Agent
↓
Event Bus
↓
Agent
越来越像:
EDA
(Event Driven Architecture)
七、Agent Scheduler ≈ Kubernetes
这是最有意思的地方,很多团队做到后面发现,真正难的不是 Agent。
而是:
Agent 调度
例如:
1000 个任务
500 个 Agent
100 台 GPU
如何分配?
如何优先级管理?
如何失败恢复?
如何动态扩容?
这时候,很多设计思路开始直接借鉴:
Kubernetes
例如:
Agent Instance
Agent Pod
Agent Cluster
甚至已经有团队提出 Agent Orchestration 概念。
本质上:
K8s 调度容器
Agent Runtime 调度智能体
八、为什么未来 Agent Runtime 会越来越像 Kubernetes?
因为两者解决的是同一个问题,微服务时代:
管理服务
Agent 时代:
管理智能体
核心挑战高度一致:
发现
调度
监控
治理
扩容
容错
未来企业级 Agent 系统很可能演化为:
+----------------------+
| Agent Runtime |
+----------+-----------+
|
+----------v-----------+
| Scheduler |
| Registry |
| Event Bus |
| Memory Manager |
+----------+-----------+
|
--------------------
| | | |
Agent Agent Agent Agent
本质:
Agent Runtime
=
AI 时代的 Kubernetes
九、真正的变化:服务执行变成了目标执行
不过两者也有一个根本区别,微服务时代:
输入请求
执行逻辑
返回结果
服务不会思考。
Agent 时代:
输入目标
自主规划
自主执行
返回结果
例如,微服务:
创建订单
Agent:
帮我完成这次采购
中间过程:
分析需求
搜索商品
比价
审批
下单
跟踪物流
全部自主完成,因此:
微服务管理的是“函数”,Agent 管理的是“目标”。
这也是 AI 系统最大的变化。
总结:多智能体正在重走微服务的演化路线
回顾整个过程:
单 Agent
↓
能力膨胀
↓
职责拆分
↓
Multi-Agent
↓
Agent Network
↓
Agent Runtime
这条路线几乎与当年的:
单体应用
↓
服务拆分
↓
微服务
↓
Service Mesh
↓
Kubernetes
完全一致,一句话总结全文:
多智能体越来越像微服务,不是因为它们设计相似,而是因为当系统规模扩大后,所有复杂系统都会面临相同的问题:拆分、协作、调度与治理。
最终结论:
微服务解决:
如何管理大量服务
Agent Runtime 解决:
如何管理大量智能体
未来三到五年,Agent Runtime、Agent Scheduler、Agent Registry、Agent Bus 很可能会成为 AI 基础设施领域最重要的新赛道。
而今天的 Multi-Agent,或许正站在当年 Kubernetes 爆发前夜的位置。
更多推荐
所有评论(0)