logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

RAG系统降低大模型幻觉的个人思考:从原理到工程体系的四层防御架构

互(Late Interaction)通过独立编码查询和文档,在匹配阶段计算细粒度的交互分数,在 MS MARCO 等基准上已超越单一向量检索;而 Multi-Vector 方法(如 HyDE)则通过为同一文档生成多个视角的向量,大幅提升语义覆盖的全面性。 4.4 文档的检索 检索环节的优化重点在于引入混合检索(Hybrid Search)和重排序(ReRank)。单一向量检索(Dense Ret

文章图片
#人工智能
深度解析 LangChain PIIMiddleware:守护大模型应用的隐私边界

文章摘要: LangChain的PIIMiddleware为LLM应用提供隐私保护中间件,通过声明式配置自动检测并脱敏个人身份信息(PII)。内置支持邮箱、信用卡号等常见类型,支持替换(redact)、遮盖(mask)、哈希(hash)和拦截(block)四种策略。用户可通过正则表达式或自定义函数扩展检测规则,灵活适配业务场景。该方案将隐私逻辑集中管理,避免分散处理导致的遗漏或策略不一致问题,实现

文章图片
#人工智能
LoRA:低秩适配——大模型参数高效微调深度解析

摘要 LoRA(低秩适配)是一种高效的大模型微调方法,通过将权重更新约束在低秩子空间内,显著减少训练参数量而不影响推理速度。其核心思想是将微调产生的权重更新矩阵ΔW分解为两个小矩阵乘积(ΔW=BA),其中r≪min(d,k)。LoRA在Transformer的自注意力层(如Q、K、V、O矩阵)应用效果最佳,典型配置r=8时参数量仅为原模型的0.1%-1%。相比Soft Prompt方法,LoRA具

文章图片
#人工智能
LangChain核心组件深入理解第四篇 -- Tool Agent运行的手和脚

摘要:本文深入解析LangChain Tools如何赋能AI Agent实现主动执行能力。从工具创建基础到高级Schema定义,详述参数设计与保留命名规范;重点探讨上下文管理机制(State短期记忆/Context配置/Store长期存储/流写入实时反馈),剖析工具返回值类型与错误处理策略,并讲解动态工具选择的运行时装配逻辑。通过代码示例演示如何将工具从简单函数升级为具备环境感知能力的智能模块,帮

文章图片
#人工智能#大数据
LangChain核心组件深入理解第二篇 -- Model Agent的推理核心

大语言模型是当代人工智能领域最具变革性的技术之一,它能够像人类一样理解并生成自然语言文本。凭借极强的通用性,大语言模型可胜任内容撰写、语言翻译、文本总结、问题解答等多元化任务,开发者无需再为每一项具体任务单独训练专用模型。在现代 LLM 应用架构中,模型远不止是一个“文本生成器”。工具调用:模型能够主动请求调用外部工具(如数据库查询、API 调用),并将获取的结果融入自身的推理与输出中。结构化输出

文章图片
#人工智能
DeepAgents Grading Rubrics:结构化评估的体系、原理与实践

本文介绍了AI Agent评估框架DeepAgents中的Grading Rubrics(评分量规)系统。该系统通过预先定义多维度的评估标准(如准确性、完整性、可读性等),为每个维度设置评分等级和描述性准则,实现了结构化、透明化的Agent能力评估。评分量规解决了传统评估中主观性强、可解释性差的问题,能够生成诊断式报告,为迭代优化提供明确方向。文章详细阐述了其实现原理,包括配置层、评估引擎层、Ju

文章图片
#人工智能
LangChain ModelCallLimitMiddleware与ToolCallLimitMiddleware:限制模型调用与防止Agent工具无限调用

本文介绍了LangChain中的ModelCallLimitMiddleware和ToolCallLimitMiddleware两个调用限制中间件,它们能有效控制模型和工具调用次数,解决成本不可控和死循环问题。文章从核心问题出发,分析了中间件的实现原理和拦截机制,并提供了实践示例,展示了如何配置双层限制来同时控制模型调用和工具执行次数。这些中间件通过声明式、可插拔的方式,在不修改原有代码的情况下实

文章图片
LangChain HumanInTheLoopMiddleware:为智能代理嵌入人类判断

本文介绍了LangChain框架中的HumanInTheLoopMiddleware中间件,它解决了大语言模型代理(Agent)在自主性与安全性之间的平衡问题。该中间件通过在关键节点(如工具调用和消息生成)插入人工审批,实现了细粒度控制、状态透明和可编程的人类反馈回路。文章详细解析了其核心机制,提供了代码集成示例,并探讨了高风险工具调用审批、内容审核和多级审批等典型应用场景。这种设计使LangCh

文章图片
#人工智能
LangChain SummarizationMiddleware:解决上下文腐败的主要手段

本文介绍了LangChain框架中的SummarizationMiddleware中间件,它通过智能对话摘要解决大语言模型在长对话场景中的上下文管理问题。该中间件会在对话历史超过预设阈值时自动触发摘要生成,压缩历史记录为关键信息,从而控制token消耗、提升响应速度并减少模型幻觉。文章包含实现原理、代码示例(展示如何集成到对话链)以及典型应用场景(如客服机器人、多步任务规划等),帮助开发者在保持对

文章图片
#人工智能
LangChain SummarizationMiddleware:解决上下文腐败的主要手段

本文介绍了LangChain框架中的SummarizationMiddleware中间件,它通过智能对话摘要解决大语言模型在长对话场景中的上下文管理问题。该中间件会在对话历史超过预设阈值时自动触发摘要生成,压缩历史记录为关键信息,从而控制token消耗、提升响应速度并减少模型幻觉。文章包含实现原理、代码示例(展示如何集成到对话链)以及典型应用场景(如客服机器人、多步任务规划等),帮助开发者在保持对

文章图片
#人工智能
    共 32 条
  • 1
  • 2
  • 3
  • 4
  • 请选择