前面几个问题讲的都是「混合调度」（Prefill 和 Decode 在同一个 GPU 上混合执行）。V1 的统一 Token 调度 + Chunked Prefill 已经解决了大部分问题：长 prompt 被切成小块，不会一次性占光 budget，Decode 请求不会被完全阻塞。但"不会被完全阻塞"不等于"没有影响"。Step N 的 GPU 批次:│ 请求A: 算 prompt 的第 0~2

modifier 模块的 tools.md 里只放 modify_traffic、add_bucket、remove_bucket、offline_experiment，create_experiment 不出现在它的白名单中，即使 Agent"想"调用也没有依据。这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。多模块同存时，路由表的"场景示例"列就是模块级的

不要为了Agent而Agent：斯坦福课程明确指出过度设计的问题从简单开始：先用单一LLM+工具，发现限制后再考虑Agent问题优先：先搞清楚真正要解决的问题，再选择架构务实胜过炫酷：能稳定运行的简单架构，胜过无法维护的复杂设计这个问题用简单的方式能解决吗？如果不用Agent会失去什么？用Agent会引入什么新问题？如果第一个答案是"不用"或"不会"，那先别上Agent。

ContextBench的发布，标志着代码Agent的评测进入了「过程可解释」的新阶段。该工作表明，端到端成功率不足以刻画代码Agent的真实能力。未来的代码Agent不仅需要具备代码生成能力，更需要具备稳定且精确的代码定位能力。只有当Agent能够精准地定位、检索并有效利用代码上下文时，它们才能真正成为开发者值得信赖的助手。

这就是 Self-Consistency 方法。Self-Consistency 的做法是：对同一个问题，让模型用 CoT 的方式生成多条不同的推理链（通过调高 temperature 来引入随机性），每条链都会得出一个最终答案，然后对所有答案进行。

RAG是好人，帮你查资料；Agent记忆是知己，记住你是谁。两者不冲突，可以配合使用。但如果你要的是一个真正能帮你干活、能理解你的AI，那记忆这一环省不掉。这就是为什么我说——2026年之后，不带记忆的AI Agent，都会显得有点残疾。

我们的核心系统是 Java 微服务架构，所以 Spring AI Alibaba 是企业级场景的首选，它把 Agent、Function Calling、RAG 等能力整合进了 Spring 生态，和现有系统集成成本最低。但部分 AI 密集型的子模块我们用 Python 实现，这里选了 LangGraph——因为我们的 Agent 流程涉及多步推理、条件分支和人工审批节点，LangGraph 的有

但 Agent 场景下的重试和传统服务的重试有一个重要区别：LLM 调用的成本很高（每次都消耗 token），而且由于输出的不确定性，重试不一定能得到更好的结果。但 Agent 服务除了这些硬故障之外，还有一大类传统服务里几乎不存在的软故障：服务在技术层面完全正常运行、没有任何报错，但 Agent 的行为已经出了问题——它可能在重复调用同一个工具、可能生成了格式错误的参数导致下游静默失败、可能在推

其实，写这篇文章的过程中我自己也有新的感悟。这个时代，大家都在聊 Agent 有多强、模型有多厉害、工具有多好用。你怎么管好这些强大的工具？说实话，我现在已经不关心模型后面怎么进化了，因为光现在第一梯队模型的能力，就够我们消化至少五年时间了。真正的瓶颈早就不是模型，那些天天说模型能力不行的、动不动降智的，其实有很多时候是自己成为了整个工作流的瓶颈，比如 prompt 上下文没有控制好、妄想一个 p

Subagent 的价值，不是让系统看起来更热闹，而是让任务边界、上下文边界和能力边界更清楚。把一个独立任务交给子智能体，是为了隔离。把多个任务并行派出去，是为了效率。让专业角色长期存在，是为了协作。让团队内部直接沟通，是为了降低主智能体的协调负担。每一种模式都有价值，也都有代价。所以，在设计多智能体系统时，最值得反复问的不是“要不要更多智能体”，而是：这个任务到底需要多少自治？我又准备好了多少控