不是写一个 Prompt,调用 Api,加上几个函数处理,就叫“Agent 应用”

Agent is all you need我想抛出一个“暴论”:沉淀足够深的“领域专家”,配合“Ai应用工程师”,进行Agent开发,能够自动化一切该领域人能完成的开发工作

一、什么是Agent

狭义上的Agent:完全无人监督、自主拆解目标、寻找资源、使用工具,完成全部工作的系统广义上的Agent:指以 LLM(大语言模型)为核心驱动,具备基础任务响应与外部交互能力的系统市面上百分之99的Agent应用,其实只属于广义-简单Agent的范畴在这里插入图片描述

一个真正完整且智能的智能Agent系统,以下五个能力缺一不可

  • Planning:自行对任务进行详细拆解,完成执行方案规划
  • Action:根据方案,按流程一步步执行
  • Observation:在Action过程中,应当能动态感知环境反应,动态调整规划
  • Tool_call:具备精准调用外部工具来解决任务的能力
  • Learning:能自主学习好坏case、外部新知识、新工具,不断进化

在目前的Ai Coding领域:

  • 目前图形化的cursor和命令行claude-code,在前4个能力上已做的相当完备
  • 但是最后一个——Agent的自主学习能力,尚任重道远
  • 它要求Agent能自动学习新知识、调用新工具、学习交互的good case、bad case转化为经验

二、怎么做出一个Agent

广义上的功能性Agent开发流程大体上可以分为三个阶段****架构选择、功能实现、工程优化

  1. 架构选择阶段:根据业务特点、QPS、准确率、稳定性等需求选择合适的编程语言/工作流平台、后端服务架构
  2. 功能实现阶段:实现业务的Agent解决方案
  3. 工程优化阶段:
  4. 准确率优化
  5. 效率优化
  6. 成本问题

这里我想重点讨论功能实现和工程优化;怎么才能做好这两个阶段呢?

2.1功能实现阶段

2.1.1How?Why?

如何让Agent能够完美地完成任务?

多项研究表明——因为Transformer架构固有局限,随上下文逐步增长,LLM注意力逐渐分散,回归能力逐渐下降大模型的生成过程本质是预测,会根据用户给出的信息,逐渐去“预测”最优质的回答大模型接收到的上下文,本质上就是一种信息,用于消除预测过程中的不确定性,降低其信息熵

我认为,在Agent开发过程中**,完美遵守下面两个原则,就可以——开发出一个可用、高效的Agent**

  • 最小上下文原则:每次交互中,给大模型的上下文尽可能小
  • 最低信息熵原则:需要清晰、精确、完整地表述需要大模型完成的任务

因此:和大模型交互,其实就是一种语言的艺术——最少的词语,完成最完整意图的表述

2.1.2How to do?

应该怎么做才能完美遵守上面的原则呢?

  1. 工具调用:正确指导LLM在合适的时候用对应的工具,而不是给多个工具让它选择

  2. 上下文管理

  3. 只给主agent最重要的关键信息,sub agent去filter其他信息

  4. 不重要的信息/当下用不到的历史信息,不代入上下文

  5. 使用外部存储技术,存储在文件/数据库/临时变量中;在需要时再做回归

  6. 非必要,不Ai:固定的流程使用固定函数完成,不要为了用Agent而用

  7. 在需要LLM动态执行的模块,一定要给出最精致的prompt——最准确的上下文信息

2.2工程优化阶段

功能完整后,如何让Agent在线上环境稳定、高效、低成本地运行

  1. 准确率/稳定性优化:整个工作流必须以高准确率完成用户的需求
  2. 效率优化:步骤合并、任务并行
  3. 成本问题:更小的模型、更小的上下文窗口、蒸馏后的模型

2.2.1准确率/稳定性优化

大模型每次输出都不稳定,Agent的多次调用,会导致结果更加不稳定可以用一个不太严谨的计算方式来理解假设单轮回答符合对的期望是0.8,那经过10次迭代,0.8^10,正确回答的期望就是0.1074

实用技巧——完成Agent输出的超高准确率

  • 任务拆解:将复杂任务拆分别更细粒度子步骤,减少单步误差累计

  • 多轮校验机制:关键的中间结果增加校验,无效则重新规划&生成

  • 异常兜底策略:预设每一个节点的故障处理方案

  • 工具超时、接口报错、多轮准确率不达标等问题;都要建立流程上的兜底或信息上的兜底

  • 定制化微调:总结Agent历史调用链中的good case,合并为数据集,进行微调

2.2.2效率优化

  • 步骤合并与剪枝:剔除冗余步骤,简化非必要流程;固定步骤函数化
  • 任务并行处理:支持多工具/子任务同时执行
  • 预处理缓存:缓存高频复用数据(避免重复请求、计算)
  • 模型优化:使用更小参数的模型
  • 响应优先级调度:高实时性任务实时调用,近线任务采用离线推理

2.2.3成本优化

  • 模型优化:

  • 轻量化:在能完成任务的前提下,尽量选小参数模型(我实践中:小参模型迭代多次,效果一般好过大参模型一次生成)

  • 模型蒸馏:对模型微调后再蒸馏

  • 上下文窗口压缩:通过摘要、关键词提取、文本精简、无关信息filter等

  • 资源动态调度:非高峰时段减少算力节点,高峰时段动态扩容

2.3如何让agent乖乖听话

一个Agent其实是由多个小模块组成的,其实Agent的开发过程和“搭积木”很像在搭积木过程中,需要不断地回过头去检查当下的结果——是否多用了零件、桌子有没有少一个腿、房间会不会太小了那么,想用积木搭好一个城堡,我们应该怎么做呢?

  1. 建筑图纸:整个城堡应该有多少层、多少个房间、最终是什么样子、什么设计风格
  2. 完成小模块:先拼接好书桌、床、电视机等一个又一个小模块
  3. 模块协同:将一个又一个小模块“协同”起来,成为一个大城堡

完成整个城堡的过程其实和Agent常用也是最有效的工作模式ReAct几乎一摸一样:Reasoning、Action、ObservationReAct 模式的核心是通过 “推理 - 行动 - 感知” 的闭环循环,让 Agent 具备处理复杂任务的能力其设计逻辑可拆解为三个核心环节及闭环机制:

  1. Reasoning(推理):Agent 会先解析用户需求,拆解目标为可执行的步骤,并判断当前是否需要调用工具。
  2. Action(行动):按推理阶段的规划执行具体操作,包括直接生成内容或调用外部工具
  3. Observation(观察):接收并解析行动阶段的输出(如工具返回结果、错误信息),判断是否符合预期
  4. 若数据完整,则将结果反馈给推理环节,进入下一轮规划;若出现异常,则触发推理环节重新决策

还有其他很多设计模式,但是其实核心思想都类似,这里不再展开:Cot、AutoGPT…

三、最近很火的上下文工程是啥

上下文工程来源

  1. 对经典的文本这单一模态而言,使用llm的唯一方式是一次性的一问一答
  2. 为了提出更好的问题引导更好的回答,发展出了提示词工程
  3. 为了多轮对话、多模态支持、信息更全面、与环境交互,在提示词工程上发展出来上下文工程

研究表明:当关键信息位于文本中段时,召回率下降40%以上LLM 的本质是概率预测模型,若输入的冗余信息过多,必然会干扰其对核心逻辑的判断,导致精准度与召回率下降。我在 Agent 应用开发实践中对此深有体会:每次与 LLM 交互时,传递的信息必须经过筛选,只保留 “足够必要” 的内容因此,Agent 开发其实就是在进行上下文工程 —— 在 LLM 需要输出的每个阶段,精准供给它完成任务所需的关键信息;无论是 tool_call 的返回结果、用户的原始输入,还是环境变量,本质上都是需纳入考量的上下文,并无主次之分,唯有全面且精简地整合,才能让 LLM 高效输出

  • 上下文工程的本质:就是模型输入整理
  • 无论是:user_prompt、system_prompt、tool_call_para、tool_call_result、env_state都是chat_history
  • 在每个需要交互的节点,应当从chat_history中拿出哪些内容,经过拼接、优化、整理后
  • 给到模型,就是上下文工程要做的工作

四、如何用好提示词

OpenAI 提到 6 条大的原则
1.Write clear instructions(写出清晰的指令)
2.Provide reference text(提供参考文本)
3.Split complex tasks into simpler subtasks(将复杂的任务拆分为更简单的子任务)
4.Give the model time to “think”(给模型时间「思考」)
5.Use external tools(使用外部工具)
6.Test changes systematically(系统地测试变更)

4.1先激活再思考

先通过精准提问,让对应领域上下文信息,加入LLM的chat_history,再提出问题样例1

q:请你告诉我什么是shiro550漏洞,一般攻击者怎么利用它a:这漏洞是因为低版本shiro框架中..q:我测试一个靶机,存在shiro550漏洞,你帮我看看,我这个请求包为什么没有work,请求包如下:..

样例2

q:请你帮我总结/my_path/to_test_file/test.py文件中的代码逻辑a:这是一个爬虫的工具类,它通过..q:请你帮我修改代码,增强他的反爬绕过能力

4.2结构化提示词

类似XML格式

<instruction>你希望 Claude 执行的主要任务或目标</instruction><context>任务的背景信息,比如涉及的框架、业务逻辑、团队规范等</context><code_example>可以参考的代码片段、接口规范或已有实现</code_example>

JSON格式提示词样例

{  "task": "generate_product_review","parameters": {    "product_type": "智能手机",    "product_name": "XPhone Pro",    "key_features": ["6.7英寸OLED屏幕", "5000mAh电池", "1亿像素摄像头", "骁龙8 Gen3处理器"],    "review_perspective": ["性能体验", "续航能力", "拍照效果", "性价比"],    "tone": "客观中立,略带专业分析",    "word_count": "500-800",    "structure": {      "include_introduction": true,      "include_feature_analysis": true,      "include_pros_cons": true,      "include_conclusion": true    },    "requirements": [      "避免使用夸张修辞",      "针对每个核心功能给出具体评价",      "对比同价位机型的优势与不足",      "数据支撑评价(如续航具体时长、跑分数据等)",      "提及目标用户群体适配性",      "分析系统优化对硬件性能的影响"    ]  }}

4.3提示词工程

  1. few shot (少样本学习)

  2. 人工给出几个示例激活模型在特定任务的思考模式

  3. Chain of thought(思维链COT)

  4. 概念:通过中间推理步骤——实现复杂推理能力

  5. 因为大模型本质是预测下一个词出现的概率,通过中间步骤引导,增加向正确方向预测的概率

  6. Few-Shot + Cot:少样本学习配合思维链

  7. Zero-Shot-Cot:在样本结尾加入引导逐步思考的Prompt

  8. eg:买了10个苹果,给了邻居2个苹果和修理工2个苹果,又买了5个苹果吃了1个,还剩下多少苹果?让我们逐步思考

  9. Auto-Cot:对用户问题聚类后,抽样出每类中心问题,使用简单启发式Zero-Shot-Cot生成推理链

  10. 准备步骤:问题聚类、抽样、用简单启发式Zero-Shot-Cot生成推理链

  11. 回答步骤:问题分类、回归该类问题的cot_prompt、合并user_prompt和cot_prompt、llm.invoke(merge_prompt)

  12. 自我一致性

  13. 概念:通过少样本思维链,采样多个不同推理路径、用多个推理结果进行多轮投票

  14. 角色扮演

  15. ReACT

五、Api调用Tips

  1. 通过动态步长温度、随机数种子,增加多轮投票中的随机性&强制不使用缓存
  2. 模型回复被截断,并不是上下文不够,很多模型有默认输出 token限制,需要设置 maxtokens参数
  3. 在逻辑性强的任务里,用 json 格式的提示词效果很好
  4. few-shot 在标准化输出任务中表现很好
  5. 根据不同任务特性调节温度
  6. 有时模型怎么都不能满足好一个需求,可能是这个模型能力不够 or 模型不适合这个任务
  7. 动态化提示词.format/.replace
  8. 做提示词版本管理很重要

六、最后聊两句

最后,我想抛出一个观点:在当下LLM既没有想象中那么强,归根结底,他只是一个工具,使用者水平决定了他的能力边际LLM更没有我们想的那么菜,我们可以完全相信算法工程师迭代基座模型的速度和大模型应用工程师的工程能力但是我对ai的发展十分有信心,在可预见的将来,他能够替代掉绝大部分的编码工作Agent is all you need到时候作为工程师的技术护城河,我想除了足够深刻的垂类领域知识,就是超越常人的LLM工具驾驭能力

普通人如何抓住AI大模型的风口?

领取方式在文末

为什么要学习大模型?

目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。

目前,开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景,其中,应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过 30%。
在这里插入图片描述

随着AI大模型技术的迅速发展,相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业:
在这里插入图片描述

人工智能大潮已来,不加入就可能被淘汰。如果你是技术人,尤其是互联网从业者,现在就开始学习AI大模型技术,真的是给你的人生一个重要建议!

最后

只要你真心想学习AI大模型技术,这份精心整理的学习资料我愿意无偿分享给你,但是想学技术去乱搞的人别来找我!

在当前这个人工智能高速发展的时代,AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长,真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料,能够帮助更多有志于AI领域的朋友入门并深入学习。

真诚无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发

在这里插入图片描述

大模型全套学习资料展示

自我们与MoPaaS魔泊云合作以来,我们不断打磨课程体系与技术内容,在细节上精益求精,同时在技术层面也新增了许多前沿且实用的内容,力求为大家带来更系统、更实战、更落地的大模型学习体验。

图片

希望这份系统、实用的大模型学习路径,能够帮助你从零入门,进阶到实战,真正掌握AI时代的核心技能!

01 教学内容

图片

  • 从零到精通完整闭环:【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块,内容比传统教材更贴近企业实战!

  • 大量真实项目案例: 带你亲自上手搞数据清洗、模型调优这些硬核操作,把课本知识变成真本事‌!

02适学人群

应届毕业生‌: 无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。

零基础转型‌: 非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈: 传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型‌。

image.png

vx扫描下方二维码即可
在这里插入图片描述

本教程比较珍贵,仅限大家自行学习,不要传播!更严禁商用!

03 入门到进阶学习路线图

大模型学习路线图,整体分为5个大的阶段:
图片

04 视频和书籍PDF合集

图片

从0到掌握主流大模型技术视频教程(涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向)

图片

新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路(不吹牛,真有用)
图片

05 行业报告+白皮书合集

收集70+报告与白皮书,了解行业最新动态!
图片

06 90+份面试题/经验

AI大模型岗位面试经验总结(谁学技术不是为了赚$呢,找个好的岗位很重要)图片
在这里插入图片描述

07 deepseek部署包+技巧大全

在这里插入图片描述

由于篇幅有限

只展示部分资料

并且还在持续更新中…

真诚无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发

在这里插入图片描述

Logo

更多推荐