本文详细介绍了在Agentic AI技术背景下,如何构建可靠高效的AI Agent应用。核心聚焦于三大关键领域:提示词工程、工作流设计和知识库构建(RAG)。文章从Agent核心架构出发,阐述了各组件的功能与重要性,并深入探讨了提示词工程中的角色设定、上下文、例子和输出规范等要素,以及如何利用工具优化提示词。同时,文章强调了工作流设计中采用DSL描述的必要性,以及知识库构建中向量数据库的应用和挑战。此外,还涉及了AI Agent的安全性问题,包括提示词注入攻击的防范策略,以及如何确定有价值的AI项目。对于想要入门AI Agent开发的小白程序员来说,本文提供了宝贵的实战经验和实用建议。

一、Agent核心架构定义

Agent系统由五个关键组件构成:

  • 大语言模型(LLM)
  • 提示词(Prompt)
  • 工作流(Workflow)
  • 知识库(RAG)
  • 工具(Tools)

LLM和工具调用已经形成了相对标准化的技术栈。LLM方面,无论选择云端大模型(如阿里百炼平台、IdeaLab)还是本地部署(如Ollama),都有成熟的解决方案;工具调用方面,MCP协议的普及让工具集成变成了配置问题而非开发问题。因此,业务开发的核心竞争力在于提示词 + 工作流 + 知识库上。

二、Prompt工程:给AI写"需求文档"

提示词分为系统提示词和用户提示词,用户提示词就是我们的问题。系统提示词,是agent的背景/角色,设置了agent需要完成什么类型的任务。系统提示词主要包括:身份(Role)+ 上下文(Context)+ 例子(Examples) + 输出规范(Output Format)。

现在已经有了很多帮助我们生产提示词的工具,如:

  • https://prompt.always200.com/
  • https://prompts.chat/

我们可以使用工具简单生成初版,再进行后续优化。

以下是https://prompt.always200.com/的系统提示词,可以直接拿过来构建一个自己的系统提示词生成agent,简单场景可以直接使用生成结果。

提示词优化的系统提示词

你是一个专业的AI提示词优化专家。请帮我优化以下prompt,并按照以下格式返回:
# Role: [角色名称]
## Profile
- language: [语言]
- description: [详细的角色描述,避免空泛的"专家"定义]
- background: [具体的技术背景和经验描述]
- personality: [影响交互风格的性格特征]
- expertise: [核心专业领域,使用具体技术栈]
- target_audience: [明确的目标用户群体]
## Skills
1. [核心技能类别]
- [具体技能]: [可量化的能力描述]
- [具体技能]: [包含输入输出格式]
2. [辅助技能类别]
- [具体技能]: [与核心技能的协同关系]
## Rules
1. [基本原则]:
- [具体规则]: [可执行的约束条件]
2. [行为准则]:
- [具体规则]: [明确的行为边界]
3. [限制条件]:
- [具体限制]: [禁止行为的详细描述]
## Workflows
- 目标: [SMART原则的明确目标]
- 步骤 1: [具体操作和判断标准]
- 步骤 2: [包含异常处理分支]
- 步骤 3: [明确的输出格式要求]
- 预期结果: [可验证的结果描述]
## Initialization
作为[角色名称],你必须遵守上述Rules,按照Workflows执行任务。

生成效果

我在Cherry Studio(一款功能强大的多模型 AI 客户端软件)中就创建了很多agent,满足我在不同场景下的需求。

在提示词中,对于一些重要的内容,可以使用XXXX标记(markdown的加粗语法);对于一些特殊说明,可以使用统一的特殊符号如“”进行标记。这些标记都可以增强agent对于重要或特殊内容的识别精度和执行优先级。

这里以ideaLab(阿里巴巴集团内部的一个专注于 AI 应用方向的平台)的使用举例:

1.创建一个智能助手

2.粘入提示词,就可以按照需求生成专业的提示词,可以满足日常大部分场景。

接下来,我会列举一些Prompt实际使用时的一些个人经验。

2.1. Role/System

若使用agent不是发散性场景(如创作、讨论)或答疑场景,而是严格按照workflow执行任务,那么在角色中,就不要说是“架构师”,“专家”这类更偏向于人类的角色,而是“机器”,“pipeline”这类更偏向执行流水线步骤的角色。

若使用agent是学习场景,可以设置角色为“善于深入浅出的教学者”,在提问时说“我现在要学习某知识,我对这方面的知识一窍不通,你向我提问n个问题,当我搞懂这n个问题后就可以完全掌握某知识”。通过提问的方式,带着目的的学习,效果非常好。

2.2. Examples

设置少量examples(few-show Learning)可以极大保证agent的回答质量,特别是需要agent按照某种指定格式(如JSON)生成答案的场景。

few-show Learning:小样本学习是一种机器学习框架,在该框架中,AI 模型通过使用极少量的标记示例进行训练来学习作出准确的预测。它通常用于在缺乏合适的训练数据时训练分类任务的模型。

设置examples时,要尽量遵循规范,即:

  1. 保证示例的质量;

  2. 示例是否正确需要标注清楚,不要模棱两可的示例,不要把对的说成错的;

  3. 示例要乱序,不要把正确的回答放一起,错误的回答放一起;

  4. 示例格式要统一;

  5. 正确回答和错误回答的数量要均衡,通俗说就是数量一致;

  6. 设置相似的示例,只有非常小的差别,但是回答的结果却不一样;

  7. 尽量保证示例覆盖全面;

examples可以先只设置成Q&A形式,若效果不好,可以添加过程解释,但尽量不要使用自然语言描述过程,因为自然语言的描述很可能不符合指定的workflow,造成歧义。

2.3. Output Format

我们可以在提示词中指定agent的输出规范,但仅仅只有输出规范,agent也不是一定会按照规范输出,所以通常还需要约束条件(Constraints)约束。

在工程结合agent时,通常要求agent返回标准JSON,在工程中进行后续的解析处理。如何要求agent一定返回符合要求的JSON是一个问题。以下提供一个思路:

  1. 结合Role的内容,给agent的角色定位远离人类的角色,减少其解释与输出废话的概率;

  2. 提示词中增加Constraints,并在提示词开头和结尾反复强调;

  3. 增加badcase,把agent不符合预期的输出直接写到提示词中;

  4. 工程保障:拿到agent的结果时,可以截取第一个"{“和最后一个”}"之间的内容。

# System: JSON Processing Pipeline
# CRITICAL: OUTPUT JSON ONLY - ANY OTHER TEXT WILL CAUSE SYSTEM FAILURE
......
**FORBIDDEN**:
- ❌ NO explanations
- ❌ NO "I will process..."
- ❌ NO "Let me..."
- ❌ NO thinking out loud
- ❌ NO markdown code blocks
......
# FINAL REMINDER
Your ENTIRE response must be valid JSON. Start with { and end with }.
No text before {, no text after }.
If you output anything else, the system will fail.

三、工作流:选择DSL描述而非自然语言

自然语言描述的工作流程,往往会携带一些口语习惯,并且对于复杂的流程难以描述清楚。DSL(Domain-Specific Language,领域特定语言)通过结构化语法,能比自然语言更准确地描述业务流程。Mermaid就是一种非常适合的绘制流程图的语言,并且与Markdown完美集成。不会写或者觉得麻烦?没关系,使用上述的提示词优化工具制作一个mermaid agent,将工作流程描述给他,让agent生成流程图。我们只需要简单了解基础语法,对生成的结果进行简单修改即可。

Mermaid 是一个用于绘制图表的 JavaScript 工具库,它允许你使用类似 Markdown 的文本语法来创建和修改图表。

这个能力也非常适合在提问后,让agent输出自己对于问题理解或解答方式的思维流程,这就是一种COT(Chain-of-thought)。通过查看流程,可以快速定位到agent理解不到位的地方并修正。

我的建议是,先用自然语言描述流程。如果agent执行效果不佳,或者流程难以描述,那么就考虑使用mermaid。

提问举例:

“我的问题巴拉巴拉”

请重新梳理用户的问题,使问题更加的清晰和明确,如果问题有多个细节和要求,需要全部梳理出来,使用mermaid清晰列出问题的所有细节,然后再回答的问题。

使用举例

四、知识库:关系型数据库的妙用

4.1. RAG与向量数据库

4.1.1. 背景

首先介绍一下RAG。大模型幻觉是指agent生成虚假、不准确或完全编造的信息的现象。在业务场景中,往往需要agent结合业务知识回答问题,但这些业务知识agent又通常不知道,那么直接把相关文档和问题一起发给agent不就好了?貌似没问题,但是随着文档越来越大,答案可能只是文档中的一小部分,agent看到庞大的输入,就很容易找不到重点。那么只把和问题相关的文档发给agent是不是就可以了?没错,这就是RAG(Retrieval-Augmented Generation)。

怎么判断用户的问题和文档的关系?这就需要Embedding模型了。Embedding模型的输入是一段文字,而输出是一段固定长度的数组,也就是向量。通过计算向量之间的距离,离得越近,相关性就越强。

对于文档过长的问题,需要对文档进行处理。首先对文档进行片段切分(Chunking),可以按照字数、段落、符号、语义等维度切分;切分完成后,对每个chunk都进行Embedding处理;最后,把向量结果和chunk保存到向量数据库中。

用户提问时,会先用相同的Embedding模型把问题转换成向量,然后从向量数据库中找到距离最近的几个内容,最后把检索到的内容和问题一起发给agent。在实际使用时,还需结合top-N、意图模型、reRank重排模型等部分功能提高检索的准确性,这就要求对知识库的内容要:

1.切的对:切分不要按字符切,要按语义切(难点,可以用agent辅助切文档);

2.排的准:不只靠相似度,还要加回答导向排序;

3.喂的巧:要引导模型引用内容,而不是召回了内容但不用;

4.1.2. 问题

RAG本身是也有许多问题的:

  1. 文章应该怎么分块?文章的结构五花八门,不能按照一种分块方式力大砖飞,并且可能会有关键的内容刚好被截断,比如“那头猪是佩奇,那头猪爱玩泥巴”,而这句话被拆成了“那头猪是佩奇”和“那头猪爱玩泥巴”这两部分,第二句的“那头猪”就失去了和“佩奇”的指代关系,当提问“佩奇爱干什么”时,问题和“那头猪爱玩泥巴”的向量距离可能变远而无法匹配。

  2. RAG缺乏全局视角。比如提问“文章中有多少个"我"字”,这种和每个chunk都沾边但又都不是特别相关的问题,RAG就没办法解决了。

4.2. 关系型数据库的一种使用思路

向量数据库中适合保存的内容是文档类型,如一本书、一个Q&A文档等。但对于一些映射关系较强的场景,就不太适合保存到向量数据库了。

我有遇到一个场景:要使用agent进行网页操作。通过配置一个定时任务,当任务触发时,若有要执行的网页子任务,就让agent使用Playwright MCP进行相应的网页操作,返回JSON结果。对于不同子任务,都要有不同的流程、补充信息以及结果格式,甚至为了保证结果质量需要给每个场景设置exemples(比如场景1的结果返回给同学A,场景2的结果返回给群B)。在这个场景下,若直接把子任务信息放到提示词中,随着子任务数量的增多,必然会造成提示词冗余;若配置子任务信息到向量知识库中,不同子任务的配置信息各不相同,无法解决合理分块的问题。这个场景的本质,就是精准找到子任务的所有信息,辅助agent完成任务,而关系型数据库就可以完美应用到这个场景中。

定义表结构如下,通过Postgres MCP,让agent在执行任务前,把用户的提问与表中的keywords进行匹配,找到符合场景的详细信息,就可以实现精准的“RAG”。(若使用ideaLab,可以在项目中提供查表接口,在ideaLab中封装成工具)

表数据

最后

对于正在迷茫择业、想转行提升,或是刚入门的程序员、编程小白来说,有一个问题几乎人人都在问:未来10年,什么领域的职业发展潜力最大?

答案只有一个:人工智能(尤其是大模型方向)

当下,人工智能行业正处于爆发式增长期,其中大模型相关岗位更是供不应求,薪资待遇直接拉满——字节跳动作为AI领域的头部玩家,给硕士毕业的优质AI人才(含大模型相关方向)开出的月基础工资高达5万—6万元;即便是非“人才计划”的普通应聘者,月基础工资也能稳定在4万元左右

再看阿里、腾讯两大互联网大厂,非“人才计划”的AI相关岗位应聘者,月基础工资也约有3万元,远超其他行业同资历岗位的薪资水平,对于程序员、小白来说,无疑是绝佳的转型和提升赛道。
图片
图片
对于想入局大模型、抢占未来10年行业红利的程序员和小白来说,现在正是最好的学习时机:行业缺口大、大厂需求旺、薪资天花板高,只要找准学习方向,稳步提升技能,就能轻松摆脱“低薪困境”,抓住AI时代的职业机遇。

如果你还不知道从何开始,我自己整理一套全网最全最细的大模型零基础教程,我也是一路自学走过来的,很清楚小白前期学习的痛楚,你要是没有方向还没有好的资源,根本学不到东西!

下面是我整理的大模型学习资源,希望能帮到你。

图片

👇👇扫码免费领取全部内容👇👇

在这里插入图片描述

最后

1、大模型学习路线

img

2、从0到进阶大模型学习视频教程

从入门到进阶这里都有,跟着老师学习事半功倍。

在这里插入图片描述

3、 入门必看大模型学习书籍&文档.pdf(书面上的技术书籍确实太多了,这些是我精选出来的,还有很多不在图里)

在这里插入图片描述

4、 AI大模型最新行业报告

2026最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

img

5、面试试题/经验

img

【大厂 AI 岗位面经分享(107 道)】

img

【AI 大模型面试真题(102 道)】

img

【LLMs 面试真题(97 道)】

img

6、大模型项目实战&配套源码

img

适用人群

在这里插入图片描述

四阶段学习规划(共90天,可落地执行)
第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型

  • 带你了解全球大模型

  • 使用国产大模型服务

  • 搭建 OpenAI 代理

  • 热身:基于阿里云 PAI 部署 Stable Diffusion

  • 在本地计算机运行大模型

  • 大模型的私有化部署

  • 基于 vLLM 部署大模型

  • 案例:如何优雅地在阿里云私有部署开源大模型

  • 部署一套开源 LLM 项目

  • 内容安全

  • 互联网信息服务算法备案

  • 👇👇扫码免费领取全部内容👇👇

    在这里插入图片描述

3、这些资料真的有用吗?

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
在这里插入图片描述
在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

Logo

小龙虾开发者社区是 CSDN 旗下专注 OpenClaw 生态的官方阵地,聚焦技能开发、插件实践与部署教程,为开发者提供可直接落地的方案、工具与交流平台,助力高效构建与落地 AI 应用

更多推荐