logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

MCP 架构从 C/S 模式到动态工具发现:为什么我劝你别把所有工具塞给大模型?

动态工具发现并不是银弹。如果拆得过碎,会增加一轮或多轮模型交互的开销(先挑工具再填参数),对于超简单的单步操作(比如只问个天气)可能会多出 1 次 RTT(往返时延)。因此,工程架构的本质始终是权衡(Trade-off): -工具数 $\le 8$ 个:直接全量灌入,响应链路最短,开发最省心。工具数 $> 15$ 个:果断切入动态注册、分层路由与渐进式发现。你在做智能体接入外部 API 或编写 M

#架构#c语言#开发语言
大模型 Prompt Cache 降本实战:明明命中了缓存,为什么费用没降、延迟反而更长?

一句话总结Prompt Cache 拼的从来不是配置参数,而是架构层面对提示词“绝对静态”与“动态上下文”的严格分离与对齐治理。你在落地大模型应用或智能体开发时,是否也观察过 Prompt Cache 的真实命中率?你们的 System Prompt 里有没有悄悄塞进动态变量?欢迎在评论区分享你踩过的坑或优化心得!

#缓存#spring#人工智能
AI智能体接入外部API,为什么一到生产环境就崩溃?聊聊 Tool Schema、超时熔断与脏数据治理

天下没有免费的午餐,引入防御型治理管道同样存在取舍: 1.单次调用的首轮延迟微增:增加了 Pydantic 校验和出参投影处理,CPU 计算通常多耗费 2~5ms(相比大模型几百毫秒的推理,这完全微不足道)。2.多轮自愈消耗 Token:如果让大模型根据校验错误自我修正,每次纠错会额外消耗一次 LLM 调用。工程上必须给每个工具调用设定最大自愈次数(建议最多 2 次),超过 2 次直接宣布失败,防

#人工智能#后端开发
AI Agent 崩溃后怎么满血复活?别只把对话存数据库,聊聊 Checkpointer 与状态持久化

这是什么:这是一篇讲透 AI Agent 运行时状态持久化(Checkpointer / State Persistence) 的工程实战解析。 学了有什么用:搞清楚为什么把 LLM 对话存进 MySQL 根本不算「会话恢复」,彻底解决智能体在执行多步任务时遭遇断网、重启或工具超时后任务直接死锁丢失的问题。 读完能干啥:掌握 Thread 状态快照机制与生产级断点恢复设计,能在自己的 AI Age

#人工智能#数据库#阿里云
Harness Engineering 爆火背后:AI Agent 从「能跑」到「敢上线」,真正的工程门禁到底卡在哪?

2024 年大家在拼 Agent 谁能跑通复杂任务(Demo 炫技);2025 年大家在拼谁能接更多外部工具;而到了 2026 年,所有真正把 Agent 推向生产团队的核心竞争力,都在于Harness Engineering(工程门禁体系)。能跑只是玩具,可控才是产品。你们团队在把 AI Agent 接入内部系统或生产数据库时,是依然裸跑靠 Prompt 约束,还是自研了类似拦截器和沙箱?欢迎在

#人工智能#后端开发
GitHub Copilot 学生认证详细教程

GitHub Copilot 学生认证教程,一步到位,不懂地方可跳转至文章中给出的up主的视频链接进行学习

文章图片
#github#copilot
GitHub Copilot 学生认证详细教程

GitHub Copilot 学生认证教程,一步到位,不懂地方可跳转至文章中给出的up主的视频链接进行学习

文章图片
#github#copilot
到底了