logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Function Calling 工程化:避开 5 个生产环境陷阱

陷阱无修复有修复Schema 模糊30%+ 工具选择错误< 5%无参数校验下游服务不定期崩溃Pydantic 拦截所有非法参数无重试网络波动导致 10%+ 失败指数退避后成功率 > 99%串行执行3 个独立 tool call 耗时 6s并行耗时 2.5sStreaming 截断参数解析失败率 ~8%< 1% (含 JSON 修复)

#windows#java#linux +2
MCP 协议深入解析:构建生产级 AI Agent 工具链

1. 标准化 → JSON-RPC 2.0 + 统一工具描述格式2. 解耦 → 工具实现与 Agent 代码分离,换模型不改工具3. 可复用 → 一次编写 MCP Server,所有 Agent 共享关键代码回顾MCPServer:处理 JSON-RPC 请求,注册/调用工具:路径白名单、速率限制、审计日志MCPClient:启动 Server 子进程,发现工具,转换 LLM 格式下一篇:Grap

#人工智能#java#系统架构 +3
MCP 协议深度解析:Java 实现 JSON-RPC 传输与工具注册

要点实现方式为什么重要传输隔离stdout 只用于 JSON-RPC,日志全走 stderr防止日志污染协议通道导致解析失败独立读取线程stdin 用 daemon 线程异步读避免 I/O 阻塞事件循环状态机标志控制生命周期防止未初始化的非法调用错误友好工具调用失败返回而非抛异常LLM 可以看到错误信息并自我纠正阻塞队列解耦读写生产者-消费者模式,天然线程安全。

#java#json#rpc +4
Java构建图数据库驱动的知识图谱Agent

本文用Java+Spring Boot 3 + Neo4j + Spring AI,从零搭建一个GraphRAG Agent。纯向量检索可能召回语义相似但逻辑无关的实体,GraphRAG结合图结构做。传统RAG的局限非常明显:它只能找到。

#java#数据库#知识图谱
Go+Java混合架构:分布式AI工作流调度系统

这是Go和Java之间的契约// 工作流调度服务// Worker向Scheduler注册// Scheduler向Worker下发任务(双向流)// Worker心跳上报// 能力标签: ["llm","embedding","search"]// 所属工作流ID// 优先级 1-10// 任务参数// 超时毫秒FAILED = 3;// 任务输出(JSON序列化)组件语言核心能力Schedul

#golang#java#架构 +3
AI Agent 的插件化工具系统:动态注册、热加载与安全沙箱

*** 标记一个方法为 Agent 可调用的工具。* 框架会自动提取注解信息生成 function calling schema。/** 工具名称,LLM 通过此名称调用 */ String name();/** 工具描述,会出现在 system prompt 的 tool description 中 */ String description();/** 调用示例,帮助 LLM 理解如何使用 *

#安全#python#开发语言
AI Agent 的插件化工具系统:动态注册、热加载与安全沙箱

*** 标记一个方法为 Agent 可调用的工具。* 框架会自动提取注解信息生成 function calling schema。/** 工具名称,LLM 通过此名称调用 */ String name();/** 工具描述,会出现在 system prompt 的 tool description 中 */ String description();/** 调用示例,帮助 LLM 理解如何使用 *

#安全#python#开发语言
AI Agent 的插件化工具系统:动态注册、热加载与安全沙箱

*** 标记一个方法为 Agent 可调用的工具。* 框架会自动提取注解信息生成 function calling schema。/** 工具名称,LLM 通过此名称调用 */ String name();/** 工具描述,会出现在 system prompt 的 tool description 中 */ String description();/** 调用示例,帮助 LLM 理解如何使用 *

#安全#python#开发语言
构建生产级 LLM API 网关:多模型路由、限流与故障转移

能力实现方式价值统一接口Provider 抽象层 + 适配器模式切换模型零代码改动限流保护滑动窗口,按租户+模型维度防止 API 费用失控熔断降级单点故障不影响整体服务可观测性结构化日志 + Prometheus 指标每次调用可追溯、可告警成本控制Token 计量 + 按量计费清楚知道钱花在哪完整代码约 500 行,直接可编译运行。在生产环境,你可以进一步加上:请求去重(幂等键)、响应缓存、优先级

#git#golang#github +3
Java实现异步工作流编排:AI Agent流水线与事件驱动

/ 背压 executor . initialize();} }// 背压 executor . initialize();} }// 背压 executor . initialize();} }// 背压 executor . initialize();} }Bean;import org// 背压 executor . initialize();} }

#java#人工智能#开发语言 +3
    共 44 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择