logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型工具调用能力之一——FunctionCalling:大模型的外部能力接口,实现工具调用与任务执行

摘要: FunctionCalling(函数调用)是LLM工程化的核心协议,通过结构化JSON格式实现大模型与工具的交互。核心包含两部分:工具定义格式(描述函数名、参数等)和模型返回格式(调用指令)。使用流程为:定义工具→封装JSON→模型调用→执行函数→返回结果。关键点包括:工具描述决定调用成功率、参数类型需明确定义、需限制调用次数防止循环。框架如LangChain可自动处理JSON封装,简化开

文章图片
#人工智能#AI
大模型记忆工程体系之五——记忆融合与工程落地实战:五大模块协同,打造生产级智能体

摘要:本文阐述了生产级智能体的五大记忆模块协同工作机制,重点解决开发者常见误区——单独使用某种记忆导致的问题。文章提出"分层存储、按需检索、动态优化"的工业级协同标准,详细解析了会话、任务、长期、知识和记忆清理模块的定位与协作流程,并提供了可直接复用的养老智能体示例代码。关键点包括:1)五大模块各司其职又相互支撑;2)工业级落地技巧(Token控制、记忆精度优化等);3)生产环

文章图片
#人工智能
大模型记忆工程体系之三——长期记忆:跨会话、跨任务的“永久存储”,实现个性化交互

长期记忆通过向量存储实现跨会话、跨任务保存关键信息,解决智能体"重启即遗忘"问题。核心采用语义检索技术,将用户偏好、任务总结等信息转为向量存入数据库,支持后续精准检索复用。工业界常用LangChain的VectorStoreRetrieverMemory结合Chroma等向量数据库实现,建议只存储关键信息并控制检索数量(k=2-3)。实际应用中需结合会话记忆,并定期更新清理过期

文章图片
#人工智能
大模型工具调用能力之二——MCP 模型上下文协议 :AI 生态的标准化连接协议,打通模型与外部系统

FastMCP是基于FunctionCalling标准的Python框架,通过装饰器自动完成工具服务开发。它将Python函数自动转换为标准JSON格式,支持本地(stdio)和远程(SSE)两种传输方式,实现LLM与工具服务的无缝对接。开发者只需用@mcp.tool()装饰函数,无需手动处理JSON,即可快速构建可被LLM调用的工具服务,大幅降低开发复杂度。

文章图片
#人工智能#AI#MCP
大模型记忆工程体系概述

大模型智能体的记忆体系通过工程化设计实现智能交互,核心在于语义存储、结构管理和分层适配。记忆分为会话级(短期缓存)、任务级(流程驱动)、长期记忆(跨会话个性化)和知识记忆(专业支撑)四大层级,各具不同生命周期和功能定位。工程化落地需平衡Token控制、检索精度与业务适配性,避免记忆混淆或资源浪费。实际应用需根据场景需求组合模块,如简单咨询只需会话记忆+RAG,复杂场景则需全模块协同。关键原则包括分

文章图片
#人工智能
大模型记忆工程体系之二——任务级记忆:智能体自主执行任务的“核心大脑”

任务级记忆是智能体实现自主性的核心能力,它通过结构化存储任务全流程(步骤、状态、结果、工具调用等),使智能体能够自主规划、跟踪进度和处理异常。文章介绍了三种实现方式:1)简易的系统消息存储,适合新手验证;2)自定义TaskMemory类,工业级标准方案;3)LangChain内置Agent,适合快速落地。重点强调任务记忆与会话记忆的区别和互补性,指出开发者应避免用会话记忆替代任务记忆,否则会导致智

文章图片
#算法#人工智能#python
大模型能力的标准化扩展体系——FunctionCalling + MCP + Skills

摘要:大模型工具模块是连接模型思考与实际执行的关键桥梁,主要包括三大核心工具:FunctionCalling作为基础底座,实现标准化外部系统调用;MCP扩展多模态处理能力,支持图文语音等交互;Skills封装专业业务逻辑,提升复杂任务执行效率。三者形成"基础-拓展-赋能"的协同体系,分别解决"能执行"、"能感知"和"能专业执行&

文章图片
#人工智能#AI
大模型记忆工程体系之一——会话级记忆:智能体交互的“临时缓存”,解决对话连贯痛点

本文介绍了大模型智能体开发中会话级记忆的四种实现方式:1)会话缓冲记忆,适合5轮以内的短对话;2)滑动窗口记忆,保留最近3-5轮对话,是工业界主流选择;3)会话令牌缓冲记忆,按Token数量精准控制,适合生产环境;4)会话摘要记忆,自动总结对话内容,适合超长对话场景。开发者应根据对话长度和场景需求选择合适方案,短对话用缓冲记忆,中长对话用滑动窗口或摘要缓冲记忆,长对话用摘要记忆,生产环境优先考虑令

文章图片
#人工智能#交互
大模型工具调用能力之三——Skills:模型能力的模块化专家技能,实现专业能力复用与扩展

摘要: ClaudeSkills是Anthropic推出的模块化能力扩展工具,通过YAML配置+Markdown流程+可选脚本封装复杂操作为可复用“能力包”,支持联动外部系统和业务工具。其核心价值在于高效复用(避免重复编写Prompt)、降低使用门槛(无需代码)、功能扩展(集成业务系统)和稳定输出(流程化配置)。适用于开发者、运营等需高频处理标准化任务的用户。 与传统Prompt和MCP相比,Cl

文章图片
#人工智能#AI
大模型记忆工程体系之四——知识记忆:结构化知识的“专属存储”,支撑专业场景落地

摘要:大模型智能体的知识记忆与长期记忆存在本质区别。知识记忆存储结构化通用知识(如行业政策、专业常识),而长期记忆保存用户交互信息。知识记忆通过检索增强(RAG)和知识图谱两种主流方式实现:RAG将外部文档转化为向量存储,适合政策解读等场景;知识图谱通过实体关系构建结构化知识网络,适用于医疗诊断等需要逻辑推理的领域。最佳实践建议将知识记忆与会话记忆、长期记忆相结合,实现个性化与专业性的统一。关键点

文章图片
#人工智能
    共 34 条
  • 1
  • 2
  • 3
  • 4
  • 请选择