logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Embedder 接口 + 缓存层源码:一个把 key 撑大 3 倍的实现(第71篇-E57)

本文揭示了企业级AI Agent实现中RAG模块的关键问题与优化点。主要内容包括: 接口设计:Embedder接口仅保留核心功能,token用量等元数据通过回调机制获取,体现了最小接口原则。 缓存架构:采用三接口分工模式(Embedder包装层/Cacher存取层/Generator键生成层),其中键生成策略被抽象为独立接口,支持灵活扩展。 性能问题:实测发现HashGenerator生成的Red

文章图片
#缓存#RAG
Embedding 模型怎么选:别看榜单,测你自己的文档(第70篇-E56)

企业级AI Agent实现拆解:RAG篇之向量化模型选型指南 本文是「企业级AI Agent实现拆解」系列的第56篇,聚焦RAG(检索增强生成)中的向量化模型选择问题。文章提出核心观点:不要盲目依赖公开榜单的跑分结果,而应基于自身业务数据构建专属评测集。 核心内容 评测指标解析: Recall@1/3和MRR三个指标各有侧重,需根据实际TopK值选择主指标 实测显示不同模型在不同指标下表现可能完全

文章图片
#人工智能#RAG
Embedding 模型怎么选:别看榜单,测你自己的文档(第70篇-E56)

企业级AI Agent实现拆解:RAG篇之向量化模型选型指南 本文是「企业级AI Agent实现拆解」系列的第56篇,聚焦RAG(检索增强生成)中的向量化模型选择问题。文章提出核心观点:不要盲目依赖公开榜单的跑分结果,而应基于自身业务数据构建专属评测集。 核心内容 评测指标解析: Recall@1/3和MRR三个指标各有侧重,需根据实际TopK值选择主指标 实测显示不同模型在不同指标下表现可能完全

文章图片
#人工智能#RAG
ChatModel 组件:一个接口,装下所有大模型

本文介绍了企业级AI Agent框架Eino中的核心组件ChatModel,重点解析其设计理念与使用方式。文章分为四个部分: 基础用法:通过OpenAI示例展示ChatModel的三步调用流程(构建模型、组织消息、获取回复),强调其接口化的设计思想。 接口设计: 定义BaseModel泛型接口,包含Generate(同步获取完整响应)和Stream(流式输出)两个核心方法 区分普通消息(*sche

文章图片
#数据库
Document 组件源码:Loader / Transformer / Parser 为什么分成三个接口(第67篇-E53)

本文拆解了企业级 AI Agent 中 RAG 实现的三个核心组件(Loader、Parser、Transformer)的设计原理与边界划分: 分层设计价值 通过Loader/Parser/Transformer分离实现3+4=7种组合(替代传统的3×4=12种实现) Loader专注数据源获取(文件/URL/S3),Parser处理格式解析(PDF/CSV等),Transformer负责后处理

文章图片
#transformer#人工智能
Document 组件源码:Loader / Transformer / Parser 为什么分成三个接口(第67篇-E53)

本文拆解了企业级 AI Agent 中 RAG 实现的三个核心组件(Loader、Parser、Transformer)的设计原理与边界划分: 分层设计价值 通过Loader/Parser/Transformer分离实现3+4=7种组合(替代传统的3×4=12种实现) Loader专注数据源获取(文件/URL/S3),Parser处理格式解析(PDF/CSV等),Transformer负责后处理

文章图片
#transformer#人工智能
ToolsNode 源码拆解:工具并行执行、中间件洋葱与 HITL Rerun(第65篇-E51)

本文是「企业级 AI Agent 实现拆解」系列第51篇,聚焦 ToolsNode 的底层实现。文章详细拆解了工具注册表结构(toolsTuple)、4种工具接口类型(普通/增强×流式/非流式)及其自动转换机制,并深入探讨了并行调度、中间件洋葱模型、人工干预断点续跑(HITL Rerun)和幻觉工具兜底等核心功能。关键设计包括:通过索引映射实现高效工具查找,四种工具接口的自动派生机制,中间件倒序包

文章图片
#中间件#人工智能
ToolsNode 源码拆解:工具并行执行、中间件洋葱与 HITL Rerun(第65篇-E51)

本文是「企业级 AI Agent 实现拆解」系列第51篇,聚焦 ToolsNode 的底层实现。文章详细拆解了工具注册表结构(toolsTuple)、4种工具接口类型(普通/增强×流式/非流式)及其自动转换机制,并深入探讨了并行调度、中间件洋葱模型、人工干预断点续跑(HITL Rerun)和幻觉工具兜底等核心功能。关键设计包括:通过索引映射实现高效工具查找,四种工具接口的自动派生机制,中间件倒序包

文章图片
#中间件#人工智能
ReAct Agent 源码拆解:Eino 如何把 Graph 变成 Agent(第64篇-E50)

本文是《企业级 AI Agent 实现拆解》系列第50篇,主要讲解如何用Graph构建ReAct循环的Agent实现。文章首先回顾了ReAct模式的基本原理(Reason-Act循环),然后重点解析了Eino框架中ReAct Agent的Graph结构设计,包括2个核心节点(ChatModel和Tools)、2个分支判断逻辑以及1个Lambda函数。 文章详细说明了几个关键技术点: State机制

文章图片
ReAct Agent 源码拆解:Eino 如何把 Graph 变成 Agent(第64篇-E50)

本文是《企业级 AI Agent 实现拆解》系列第50篇,主要讲解如何用Graph构建ReAct循环的Agent实现。文章首先回顾了ReAct模式的基本原理(Reason-Act循环),然后重点解析了Eino框架中ReAct Agent的Graph结构设计,包括2个核心节点(ChatModel和Tools)、2个分支判断逻辑以及1个Lambda函数。 文章详细说明了几个关键技术点: State机制

文章图片
    共 135 条
  • 1
  • 2
  • 3
  • 14
  • 请选择