
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
互(Late Interaction)通过独立编码查询和文档,在匹配阶段计算细粒度的交互分数,在 MS MARCO 等基准上已超越单一向量检索;而 Multi-Vector 方法(如 HyDE)则通过为同一文档生成多个视角的向量,大幅提升语义覆盖的全面性。 4.4 文档的检索 检索环节的优化重点在于引入混合检索(Hybrid Search)和重排序(ReRank)。单一向量检索(Dense Ret

文章摘要: LangChain的PIIMiddleware为LLM应用提供隐私保护中间件,通过声明式配置自动检测并脱敏个人身份信息(PII)。内置支持邮箱、信用卡号等常见类型,支持替换(redact)、遮盖(mask)、哈希(hash)和拦截(block)四种策略。用户可通过正则表达式或自定义函数扩展检测规则,灵活适配业务场景。该方案将隐私逻辑集中管理,避免分散处理导致的遗漏或策略不一致问题,实现

摘要 LoRA(低秩适配)是一种高效的大模型微调方法,通过将权重更新约束在低秩子空间内,显著减少训练参数量而不影响推理速度。其核心思想是将微调产生的权重更新矩阵ΔW分解为两个小矩阵乘积(ΔW=BA),其中r≪min(d,k)。LoRA在Transformer的自注意力层(如Q、K、V、O矩阵)应用效果最佳,典型配置r=8时参数量仅为原模型的0.1%-1%。相比Soft Prompt方法,LoRA具

本文探讨了Deep Agents框架中的记忆系统设计,该系统借鉴人类认知模型将记忆分为短期记忆和长期记忆。短期记忆用于维护会话上下文,具有容量有限、访问快速的特点,适用于对话管理和实时决策;长期记忆则存储跨会话的持久化信息,容量大但检索复杂,适合保存用户偏好和历史交互模式。文章详细分析了两者的代码实现、应用场景及对比特征,并提供了混合架构设计建议,包括短期记忆的deque实现和长期记忆的数据库存储

本文系统解析了LangChain Agent的核心架构与应用实践。作为大语言模型从对话到自主执行的范式跃迁,Agent由模型、工具、系统提示和结构化输出四大核心组件构成,实现了任务规划与外部工具调用的结合。文章深入探讨了Agent调用中的状态管理与上下文传递机制,强调thread_id与context_schema的双通道设计对多租户支持的重要性。同时分析了流式输出在过程透明性和用户体验方面的价值

本文介绍了LangChain Deep Agents Permissions这一AI代理细粒度权限控制系统。该系统通过定义工具权限、参数权限、资源权限和操作权限,实现精确的操作边界控制。文章详细阐述了其核心概念、架构设计和工作流程,包括白名单/黑名单策略、权限上下文和分层验证机制。通过代码示例展示了如何配置文件系统、网络和Shell权限,并演示了与Deep Agents的集成方式。该系统提供运行时

上下文工程:构建高效智能体的核心框架 本文系统阐述了上下文工程作为深度智能体(Deep Agents)核心架构的关键作用。上下文工程通过四大支柱构建智能体的认知体系:输入上下文提供任务执行的初始信息(用户指令、系统提示等);运行时上下文动态记录任务执行轨迹(思维链、工具调用等);上下文压缩技术(摘要、提取、重排序)突破模型窗口限制;长期记忆系统(向量存储、知识图谱)实现跨会话个性化服务。文章详细分

摘要:本文深入解析LangChain框架中的短期记忆(Short-term Memory)机制,这一智能对话系统的核心组件。短期记忆通过会话线程隔离实现多轮对话的上下文管理,面临上下文窗口溢出、注意力稀释等挑战。文章系统介绍了检查点持久化、自定义状态扩展、长对话处理策略(精简/删除/摘要/滑动窗口)以及多维度内存访问方法,包含内存检查点和数据库持久化的代码示例。短期记忆与会话线程绑定,与跨会话的长

DeepAgents是一个基于大型语言模型(LLM)的智能体开发框架,提供快速构建智能应用的解决方案。它内置任务规划、上下文管理、子智能体生成和长期记忆等功能,支持复杂多步骤任务处理。开发者可以通过简单API创建智能体,集成自定义工具(如网络搜索),并通过自然语言指令控制其行为。框架还提供上下文工程、异步子智能体、人工干预、权限控制、记忆系统、技能库、沙箱环境、事件流和评估标准等核心功能,支持构建

摘要: Sandbox(沙箱)是AI和软件开发中的关键安全隔离环境,通过独立空间实现代码运行的安全性、可复现性、资源管控和敏捷实验。主流Sandbox提供商(如E2B、Runnable、Bearly等)提供不同特性的解决方案,需根据隔离强度、启动速度等需求选择。企业也可构建自定义OpenSandbox,结合容器或MicroVM技术实现自主可控的隔离环境,如DeepAgents平台通过标准化镜像、安








