logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

公司让我搭一套大模型,我用 8 张 RTX 5090 干了一天——踩了 7 个坑后才明白:自建 AI 不是花钱就能办的事

我的 DeepSeek-V4-Flash 模型权重 149GB 还躺在硬盘上,但已经确定**永远没法运行**——除非把 8 张 RTX 5090 全卖了,换 4 张 H100,再花 ¥80 万。原因:modelscope 命令行的 `--include "transformer/*"` 通配符**不递归**匹配深层文件。这次任务公司给我两周时间,看起来够,实际上**前两天就过去了**——大部分是我

#人工智能
ChatModel 组件:一个接口,装下所有大模型

本文介绍了企业级AI Agent框架Eino中的核心组件ChatModel,重点解析其设计理念与使用方式。文章分为四个部分: 基础用法:通过OpenAI示例展示ChatModel的三步调用流程(构建模型、组织消息、获取回复),强调其接口化的设计思想。 接口设计: 定义BaseModel泛型接口,包含Generate(同步获取完整响应)和Stream(流式输出)两个核心方法 区分普通消息(*sche

文章图片
#数据库
Eino devops 调试系统源码:GraphCompileCallback 怎么工作(第50篇-E36)

本文深入解析了企业级AI Agent实现中编译期和运行期钩子机制的关键实现。文章聚焦于devops.Init这行代码背后的源码设计,主要揭示了五个核心知识点: GraphCompileCallback接口定义了钩子触发时机(编译期/运行期) InitGraphCompileCallbacks实现了全局注册与单Graph注册的差异 GraphInfo结构体捕获了图的完整静态结构信息 通过runtim

文章图片
#devops#数据库#golang +1
Manus Agent:一个全能 AI,和一支研究团队

本文摘要介绍了企业级AI Agent的两种实现模式:单Agent全能模式(OpenManus)和多Agent团队协作模式(deer-go)。OpenManus通过五节点图结构(ChatModel→分支→ToolsNode/Human→循环)实现全能AI助手功能,强调Human-in-the-Loop设计的重要性。而deer-go研究团队采用分工协作模式,包含Coordinator、Planner、

文章图片
#人工智能
Checkpoint 源码:Agent 执行到一半怎么保存(第80篇-E66)

系列「企业级 AI Agent 实现拆解」E66 篇,Part 14 记忆篇第四章。上一篇讲记忆多了怎么衰减淘汰——那是长期知识。这篇讨论另一种持久化:Agent 正在执行时被中断了(用户关页面、服务器重启、手动暂停),怎么保存状态、下次从哪接着跑。这篇回归 Eino 主线代码。compose.CheckPointStore 是 Eino 框架里正式定义的接口(不像前几篇记忆那样是项目自己设计的)

文章图片
#RAG#AIGC#人工智能
Checkpoint 源码:Agent 执行到一半怎么保存(第80篇-E66)

系列「企业级 AI Agent 实现拆解」E66 篇,Part 14 记忆篇第四章。上一篇讲记忆多了怎么衰减淘汰——那是长期知识。这篇讨论另一种持久化:Agent 正在执行时被中断了(用户关页面、服务器重启、手动暂停),怎么保存状态、下次从哪接着跑。这篇回归 Eino 主线代码。compose.CheckPointStore 是 Eino 框架里正式定义的接口(不像前几篇记忆那样是项目自己设计的)

文章图片
#RAG#AIGC#人工智能
Memory 三层设计:为什么 [“session“,id] 最后写成了四元组(第78篇-E64)

本文摘要:文章探讨了企业级AI Agent中记忆系统的分层设计问题。原设计将所有用户记忆混存导致生命周期管理困难,新方案通过动态层级tuple(如["user",uid,"project",pid])实现记忆隔离,由记忆类型自动决定存储层级而非依赖调用方指定。关键设计包括: 采用变长数组而非枚举实现可扩展命名空间 9种记忆类型中有3类特殊处理(身份信息不走相似度/约束条件恒注入/任务过期自动清除)

文章图片
#RAG
Memory 三层设计:为什么 [“session“,id] 最后写成了四元组(第78篇-E64)

本文摘要:文章探讨了企业级AI Agent中记忆系统的分层设计问题。原设计将所有用户记忆混存导致生命周期管理困难,新方案通过动态层级tuple(如["user",uid,"project",pid])实现记忆隔离,由记忆类型自动决定存储层级而非依赖调用方指定。关键设计包括: 采用变长数组而非枚举实现可扩展命名空间 9种记忆类型中有3类特殊处理(身份信息不走相似度/约束条件恒注入/任务过期自动清除)

文章图片
#RAG
Memory 三层设计:为什么 [“session“,id] 最后写成了四元组(第78篇-E64)

本文摘要:文章探讨了企业级AI Agent中记忆系统的分层设计问题。原设计将所有用户记忆混存导致生命周期管理困难,新方案通过动态层级tuple(如["user",uid,"project",pid])实现记忆隔离,由记忆类型自动决定存储层级而非依赖调用方指定。关键设计包括: 采用变长数组而非枚举实现可扩展命名空间 9种记忆类型中有3类特殊处理(身份信息不走相似度/约束条件恒注入/任务过期自动清除)

文章图片
#RAG
最简记忆:让 Agent 记住你的名字(第77篇-E63)

本文是「企业级 AI Agent 实现拆解」系列的第 14 篇,聚焦 Agent 的记忆功能实现。文章指出 Eino 框架没有官方 memory 组件,记忆功能需开发者自行实现。核心要点包括: 记忆与 RAG 的关键区别:记忆存储用户个性化对话内容,需严格隔离避免隐私泄露 记忆本质是三步操作:读取历史消息、拼接到当前 prompt、整体写回存储 提供了 40 行 PostgreSQL 实现方案,采

文章图片
#postgresql#RAG
    共 94 条
  • 1
  • 2
  • 3
  • 10
  • 请选择