说实话，写这篇文章之前我犹豫了很久。

并非是畏惧写得不好, 而是担忧写得太过“教程化”。在市面上, 讲述AI智能体的文章数量众多, 一则是堆砌术语使得人被劝退, 二则是讲得过于玄乎如同明天便能够统治世界。我计划转变一种方式, 就是去聊聊我所跨越的坑以及摸索出的门道。

什么是AI智能体？它和聊天机器人有啥区别

这个问题我被人问过不下五十次。

较为简易容易的理解模式大致是这样的: 聊天机器人呈现出的是“你向其发问, 它予以回应 ”的情形, 智能体展现的态势则是“你为它设定目标, 它依靠自身想方设法达成 ”的状况。举例来讲, 当你与聊天机器人表述“帮我预订机票”的时候, 它仅仅只是给你罗列一份步骤清单这么简单就结束了。然而智能体会凭借自身去查询航班情况、比较价格高低差异、填写相关信息事项、进行付款操作行为, 最终把电子票发送至你的电子邮箱里面。

区别在哪？在于有没有"手"和"脚"。

智能体并非仅仅具备说话的能力, 它还能够进行工具调用, 能够实施软件操作, 能够实现数据库访问。这种情况恰似从“仅会理论空谈的军师”转变成为“能亲身投入战斗的士兵”。

开发一个AI智能体需要什么技术栈

很多人一上来就问我："我不会编程，能做吗？"

能做，但上限有限。就像你会开车和会修车是两码事。

要是你就想着借助现成的平台去搭建一个简易的智能体, 那实际上是不需要编写代码的。当下在市面上占据主流地位的低代码平台存在着几十个, 通过拖拖拽拽的方式便能够达成基础配置。可是要是你打算去做那些真正具有实用价值的事物, 起码得对有所了解才行。

具体来说，你需要掌握这几样东西：

基础语法，这个大概花两周能入门

大模型API调用，包括怎么传参数、怎么处理返回结果

函数进行调用, 该行为是促使智能体拥有所谓“动手实践能力”的核心要点。

向量数据库的基本概念，用于长期记忆

工作流设计能力，把复杂任务拆解成步骤

看着挺多，但每一项都不需要精通，够用就行。

怎么设计一个靠谱的智能体工作流

我见过太多人栽在这一步。

他们获取到需求后立即着手编写代码, 然而在编写过程中却发觉逻辑完全紊乱了。恰当的做法是首先于纸上绘制流程图, 将每一个步骤清晰明白地书写出来。

比如说, 去构建一个充当“将邮件自动进行整理同时予以回复”角色的智能体, 该智能体的实际工作流程大概是如此这般的有如下这些情况:

接收到新的邮件, 接着对邮件类型予以判断, 此类型涵盖咨询、投诉、广告、其他等, 随后从中提取关键的信息, 再去匹配知识库, 进而生成回复方面的草稿, 而后展开人工审核, 最后予以发送。

依次地、逐个地, 都得将输入输出格式予以清晰界定, 否则的话, 智能体在运行进程中, 便随时会陷入“迷失方向”的状况之中。

智能体的记忆功能怎么实现

这是新手最容易忽略的部分。

智能体若是缺乏记忆, 那就如同金鱼一般, 你前一秒告知它的信息, 转瞬间它便忘却了。然而, 大模型的上下文窗口存在着限制, 你绝对没办法将全部的对话历史都填充进去。

目前主流的做法是引入向量数据库。

简而言之, 是要将信息转变成数学向量予以存储, 待有需求之时, 再借助相似度计算把相关内容“捞出”, 如此一来, 既化解了记忆难题, 又不会突破上下文的限定范围。

以我个人所拥有的经验来讲, 就是, 当涉及到短期记忆之时要运用对话历史, 而针对长期记忆则需借助向量数据库, 对于重要信息要取用固定存储。这三层架构相互配合, 所产生的效果乃是最佳的。

开发过程中最常见的坑有哪些

坑太多了，我挑几个典型的说。

第一个坑在于, 过度依赖大模型所呈现出的“智能”, 不少人觉得大模型似乎无所不能, 然而实际上它常常会一本正经地进行毫无根据的乱说, 因此在关键环节务必要增添人工校验, 而不能够完全是全自动的状态。

有第二个坑, 那便是忽略了错误处理, 网络出现超时状况, API返回呈现异常, 数据格式存在不对的情形, 这些情况你通通都得考虑到, 不然智能体在运行一半的时候卡住了, 你根本都不知道它究竟卡在哪。

存在第三个坑, 那便是测试不够全面充分。智能体并非传统意义上的软件, 相同的输入情况之下, 却能够获取不一样的输出结果。你必须准备数量众多的边界测试用例, 并且反复进行运行测试, 如此才能够确保系统的稳定性。

第四个存在的问题是成本控制, 每一回进行API调用都会需要花费钱财, 要是智能体相当频繁出现错误进而进行重试, 那么账单将会呈现出极其难看的状况。

怎么评估你的智能体好不好用

评估标准跟传统软件完全不同。

对于传统软件而言, 需审视其功能是否得以实现, 以及其中存在的 bug数量到底多寡。而智能体所关注的要点, 则是要考量任务完成率的高低, 平均耗时的长短, 用户满意度的程度, 错误率的占比, 成本消耗的多少。我提议你构建起一套评分体系, 针对每个指标去设定相应权重, 并且定期为智能体做出打分。

另外存在一个易于被忽略的指标, 此指标为“回退率”, 所谓“回退率”, 指的是智能体处理不了从而转向人工处理操作的比例, 这个数字倘若过高, 那就表明了智能体自身在能力方面存在欠缺之处, 但若这个数字过低, 那就意味着有不少本应该能够凭借自动化去完成的任务被无端浪费掉了。

未来智能体会取代程序员吗

这个问题几乎每次分享都会被人问到。

短期内不会出现这种情况, 长期的话不确定, 然而一个确定无疑的情况是, 不会运用人工智能的程序员将会被会运用人工智能的程序员所替代, 智能体开发本身就是一个全新的职业方向, 它所需要的是将业务问题转化为人工智能能够理解的任务, 这样的能力在未来会变得越来越有价值。

写到这里突然想起一个事。

上月, 我为友人调试一智能体, 折腾至凌晨两点, 最终发觉问题乃代码里一标点符号有误写错。那般感受, 既气又觉好笑。然目睹智能体最终顺畅运行起来的那一瞬间, 又感一切皆有价值了。

技术此类事物便是这般情形, 进入门槛简易, 然而要达精通却颇具难度, 不过只要你心甘情愿投入时间, 终归能够探寻到技巧窍门。

愿这篇文对正处途中的你有所助益, 若有问题, 欢迎于评论区展开交流, 一旦我瞧见, 便会予以回复。