logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Go语言实现LLM推理图:有状态多步Agent执行引擎

特性DAG引擎(第一篇)StateGraph(本篇)节点间流转固定拓扑动态路由状态传递input map全局State对象循环不允许(检测到报错)允许(有防护上限)适用场景确定性任务编排不确定性Agent推理复杂度O(V+E)拓扑排序步数上限控制。

#golang#网络#人工智能 +2
Java实现异步工作流编排:AI Agent流水线与事件驱动

/ 背压 executor . initialize();} }// 背压 executor . initialize();} }// 背压 executor . initialize();} }// 背压 executor . initialize();} }Bean;import org// 背压 executor . initialize();} }

#java#人工智能#开发语言 +3
多 Agent 协作系统:任务分解、通信协议与并行编排

│ 多 Agent 协作 (第5篇) │ ← 编排层│ 任务分解 · 通信 · 辩论 · Map-Reduce ││ 工作流引擎 (第4篇) │ ← 执行层│ DAG 编排 · 动态路由 · 重试 · 可观测 ││ Graph RAG (第3篇) │ MCP 协议 (第2篇) │ ← 能力层│ 知识图谱增强推理 │ 标准化工具调用 ││ RAG 进阶 (第1篇) │ ← 基础层│ 混合检索 · 重

#spring boot#spring cloud#后端 +2
500 行 Go 代码实现多 Agent 编排引擎:Coordinator、Worker 与 Debate 模式

指标本文实现代码行数~500,000+~500启动时间2-5s< 0.1s依赖数量50+0自定义能力需要读源码直接改调试难度高(层层包装)低(透明的消息传递)多 Agent 编排的本质就是消息路由。三个模式对应三种拓扑——星型、全连接、线性,50 行一个模式就够。当你的需求超出这 500 行能承载的范围时,再考虑引入框架也不迟。代码依赖:仅 Go 标准库 + 一个你自己实现的LLMClient(对

#windows#java#linux +3
AI Agent 记忆系统设计:短期、长期与情节记忆的工程实现

最基础的方案是保留最近 N 轮对话。但当对话超过上下文窗口时,需要压缩。"""短期记忆:滑动窗口 + 自动摘要压缩"""self,):"""添加消息,自动触发压缩""""""获取当前上下文"""ctx = []"content": f"[对话历史摘要]\n。

#人工智能#网络#系统架构 +2
AI Agent 工具调用中间件:Go 实现截断、超时与熔断

中间件解决的问题适用场景性能开销Truncate输出过大撑爆上下文文件读取、数据库查询、API 调用低(仅字符串操作)Timeout工具卡死不返回网络调用、慢查询、外部 API低(一个 goroutine + channel)连续失败雪崩外部依赖不可靠时极低(原子操作 + 锁)Metrics无感知,问题发现滞后所有工具低(日志 I/O 开销)

#中间件#golang#开发语言 +3
Go实现DAG工作流引擎:AI Agent任务编排内核

特性实现方式工程价值依赖管理Kahn拓扑排序声明式任务编排,消除硬编码并行执行层级分组+goroutine充分利用多核,减少端到端延迟超时控制防止单个节点卡死整个流程重试机制指数退避处理瞬时故障环检测拓扑排序visited计数启动时即发现配置错误。

#golang#数据库#开发语言 +3
大模型应用开发实战:LLM API 网关 — 多模型路由、限流、降级与成本优化

路由层— 多模型注册 + 策略选择,业务无感知限流层— 全局限流 + 模型限流 + 用户限流,保护配额容错层— 熔断 + 退避重试 + fallback 链,高可用成本层— 全局成本追踪,自动选便宜模型。

#java#算法#开发语言 +2
大模型应用开发实战:LLM 应用 CI/CD — 自动化测试、评估门禁与灰度发布

LLM 应用 CI/CD 的核心差异在于评估门禁— 50-100 条代表性用例,覆盖安全/正确性/上下文/边界— GPT-4o 自动评分,替代人工 review— CI 中自动运行,Score < 8.0 拒绝合并— 5% → 15% → 50% → 100%, 每步观察— 错误率 >2% 自动回滚20 条 Golden Dataset + CI Gate 脚本 = 30 分钟搭建。

#ci/cd#windows#人工智能 +3
大模型应用开发实战:语义缓存 — 降低 LLM 调用成本 70%

L1 精确缓存— MD5 hash, <1ms, 命中率 ~15%L2 语义缓存— Embedding cosine sim, ~10ms, 命中率 ~25%组合命中率 ~40%— 年省 $4 万+ (百万日活)

#缓存#安全#网络 +3
    共 24 条
  • 1
  • 2
  • 3
  • 请选择