
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
2024年被很多人称为"AI Agent 元年"。从 AutoGPT 到 Devin,从智能客服到自动化运维,AI Agent 正在从概念走向落地。但你是否思考过:这些 Agent 背后,究竟是如何"思考"和"行动"的?Agent 的推理范式,本质上就是 AI 系统处理任务的"思维方式"和"行动蓝图"。它的核心是"认知架构"(大脑如何思考与规划)与"执行闭环"(如何将想法变为行动)的组合设计。架构
探讨了构建实用Agent记忆系统关键作用。文章提出三层记忆架构:工作记忆(处理当前任务)、情景记忆(记录历史事件)和语义记忆(存储长期知识),并分析了HER机制如何从失败中学习。通过医疗问答,展示不同记忆层协同工作:工作记忆保持上下文连贯,情景记忆召回相似对话,语义记忆提供专业知识,HER则优化后续响应策略。还给出工程实现建议,包括Redis存工作记忆、MySQL+Milvus管理情景记忆、知识图
探讨了构建实用Agent记忆系统关键作用。文章提出三层记忆架构:工作记忆(处理当前任务)、情景记忆(记录历史事件)和语义记忆(存储长期知识),并分析了HER机制如何从失败中学习。通过医疗问答,展示不同记忆层协同工作:工作记忆保持上下文连贯,情景记忆召回相似对话,语义记忆提供专业知识,HER则优化后续响应策略。还给出工程实现建议,包括Redis存工作记忆、MySQL+Milvus管理情景记忆、知识图
2024年被很多人称为"AI Agent 元年"。从 AutoGPT 到 Devin,从智能客服到自动化运维,AI Agent 正在从概念走向落地。但你是否思考过:这些 Agent 背后,究竟是如何"思考"和"行动"的?Agent 的推理范式,本质上就是 AI 系统处理任务的"思维方式"和"行动蓝图"。它的核心是"认知架构"(大脑如何思考与规划)与"执行闭环"(如何将想法变为行动)的组合设计。架构
2024年被很多人称为"AI Agent 元年"。从 AutoGPT 到 Devin,从智能客服到自动化运维,AI Agent 正在从概念走向落地。但你是否思考过:这些 Agent 背后,究竟是如何"思考"和"行动"的?Agent 的推理范式,本质上就是 AI 系统处理任务的"思维方式"和"行动蓝图"。它的核心是"认知架构"(大脑如何思考与规划)与"执行闭环"(如何将想法变为行动)的组合设计。架构
通过一个简单的生成器模式,我们不仅解决了RAG索引阶段的内存爆炸问题,还顺便提升了整体吞吐量。这再次印证了在处理大规模数据时惰性求值的重要性。当然,生成器只是众多优化手段之一。随着数据量进一步增长(千万级切片),我们可能需要引入:分布式任务队列(Celery + Redis)更加激进的稀疏向量压缩(如量化)Milvus的批量导入工具(但至少现在,我们的RAG服务可以在单台32GB内存的机器上平稳运
"""自定义中间件,记录每个步骤的输入和输出"""print(f'步骤 {self.step_count}: agent正在处理请求...')print(f'步骤 {self.step_count}: agent处理完成...')用户输入 → before_model() → LLM 推理 → after_model() → 返回结果钩子1:记录开始钩子2:记录结束继承基类,重写和两个钩子方法
2024年被很多人称为"AI Agent 元年"。从 AutoGPT 到 Devin,从智能客服到自动化运维,AI Agent 正在从概念走向落地。但你是否思考过:这些 Agent 背后,究竟是如何"思考"和"行动"的?Agent 的推理范式,本质上就是 AI 系统处理任务的"思维方式"和"行动蓝图"。它的核心是"认知架构"(大脑如何思考与规划)与"执行闭环"(如何将想法变为行动)的组合设计。架构
随着大模型从简单问答转向复杂业务系统,仅靠提示词工程(任务表达)和上下文工程(信息供给)已不足以保证稳定执行。Harness工程成为关键,它通过构建模型外部的“驾驭系统”(包括上下文管理、工具调用、任务编排、状态记忆、结果验证及失败恢复等六大核心层),确保模型在真实场景中可靠完成任务。Harness与模型结合形成完整Agent系统,前者提供流程与边界,后者负责智能生成。该框架适用于长链路、低容错的
模型需要知道“要做什么”。例如:总结、分类、改写、提取字段、生成代码、判断风险、输出建议。可以让模型每隔几轮对话生成一次状态摘要。请用 5 条以内总结当前对话状态:1. 用户目标;2. 已确认信息;3. 待确认问题;4. 已做决定;5. 下一步行动。后续请求中,把这段摘要作为上下文重新提供给模型。基础提示词解决的是“能不能让模型完成任务”的问题,进阶提示词工程解决的是“能不能稳定、可控、可复用地完







