logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

当智能体学会“放下手里的活“,一文读懂异步智能体架构

本文以“不靠谱的幕僚长”比喻当前AI智能体的同步阻塞问题,指出随着任务复杂度提升,传统ReAct循环架构已难堪重负。借鉴软件工程中的异步思想,主流厂商纷纷转向“编排者+异步子智能体”架构,实现任务并行与实时响应。LangChain的Deep Agents框架通过async: True等机制,支持任务启动、状态查询、中途更新与灵活通知,显著提升智能体的可用性与吞吐量。这一转变标志着智能体从“做完就行

文章图片
#架构
Harness递归自演进架构,当一个 Agent 开始修改另一个 Agent

调试传统代码如对质证人,错误清晰可循;而调试Agent却像听一个逻辑自洽的谎言——它每步都合理,却在隐秘处偏离目标。论文提出Harness²,通过“自我改进”机制,将优化从单次修复升级为可复用的经验积累:外层优化器分析轨迹、更新改进库,内层执行者据此迭代工具描述、提示词与上下文策略。关键在于,不仅记录“改了什么”,更保存“为何改”,并以机制标签替代场景标签,提升经验迁移性。但递归演进有边界:需防经

文章图片
#架构
从 LLM 到业务执行者,一张逻辑网看懂 AI 智能员工背后整套工程

本文以“招AI Agent进公司”为隐喻,打破传统技术分层的叙述,从面试、入职、上岗到交付全流程,揭示AI项目落地的核心逻辑。强调真实问题驱动而非术语堆砌:模型能力之外,数据质量、证据链、工具权限与流程管控才是成败关键。通过实战案例说明,小模型+严约束常胜于大模型+盲目微调;RAG瓶颈在文档治理,而非算法;Agent真正价值在于可控的自主循环与人机协同。最终指出:技术选型要服务于“可交付、可审计、

文章图片
#人工智能
Agentic RAG 不是循环调用,构建具备缺口感知的多跳取证推理系统

当知识库“开口说话”,关键不在于找到相关文本,而在于精准识别有效证据。面对多份混杂的文件,传统检索易被表面相似误导,导致过时或错误结论。RAG 正在演变为一场有组织的“取证”过程:通过精细切块、证据覆盖评估、多向量匹配与融合策略,确保模型不仅“找得到”,更“用得对”。向量非魔法,需区分长度、维度与压缩阶段;相似≠有效,必须警惕排名陷阱。真正的智能,在于让每一份证据都经得起溯源与验证。

文章图片
#人工智能
国产卡真的不行吗?我把 910C 从 14 毫秒榨到 5 毫秒,聊聊背后的真相

国产算力“慢”的真相并非算力不足,而是调度系统低效。以昇腾910C为例,其计算核心强大,但在线推理中因host侧指令开销大、通信同步频繁,导致性能严重浪费。通过版本升级、通信优化、静态kernel、内存调优及MoE预取等零成本优化,单token延迟可降低15%以上;进一步深入源码,实现多流并行与去同步,性能再翻倍。关键在于:瓶颈不在芯片,而在“指挥系统”效率。实测验证比盲目套参数更重要,每一步优化

文章图片
#java#android#数据库 +1
国产卡真的不行吗?我把 910C 从 14 毫秒榨到 5 毫秒,聊聊背后的真相

国产算力“慢”的真相并非算力不足,而是调度系统低效。以昇腾910C为例,其计算核心强大,但在线推理中因host侧指令开销大、通信同步频繁,导致性能严重浪费。通过版本升级、通信优化、静态kernel、内存调优及MoE预取等零成本优化,单token延迟可降低15%以上;进一步深入源码,实现多流并行与去同步,性能再翻倍。关键在于:瓶颈不在芯片,而在“指挥系统”效率。实测验证比盲目套参数更重要,每一步优化

文章图片
#java#android#数据库 +1
深度拆解AI Agent,从核心原理、运行机制到工程落地与风险治理

本文系统解析AI Agent的底层逻辑,揭示其并非简单升级版聊天机器人,而是具备自主感知、决策、执行与迭代能力的闭环智能系统。通过六层架构(目标、认知、运行、行动、信息、治理)全面拆解其运行机制,厘清与Chatbot、Workflow、RPA的本质区别,并深入剖析Agent Loop核心循环,提供可落地的伪代码模板,助力开发者精准选型与高效实践。

文章图片
#人工智能
KV Cache还能这么玩?解锁大模型推理降本提速的核心密码

本文深入解析大模型推理中的核心优化技术——KV Cache,从实际应用场景出发,揭示其在减少重复计算、降低延迟与成本方面的关键作用。文章系统阐述了KV Cache的生成机制、显存占用瓶颈,并提出分层存储、硬件加速压缩(KV Shrink)、缓存融合(KV Fuse)与级联推理(KV Cascade)等创新方案,结合Intel至强平台软硬件协同能力,实现“以存代算”的高效优化,为AI应用高并发、长上

文章图片
#人工智能
读懂AI Infra,撑起大模型落地的幕后核心基建

AI Infra已成为大模型时代的核心竞争壁垒,超越传统运维,贯穿训练、推理全生命周期。它通过优化通信、调度、数据管线与显存管理,实现算力高效利用,支撑千亿级模型稳定训练与低成本高并发推理。前沿方向如RL Infra、异构推理、超节点架构持续演进,推动算法落地商业化。其高复杂度、高风险、高价值特性,使岗位薪资远超普通开发,成为AI产业不可或缺的硬核工程底座。

文章图片
#人工智能
彻底搞懂Agent Harness与Agent Runtime,终结AI Agent领域的概念混淆

本文深入剖析AI Agent开发中Harness与Runtime概念混淆的根源,基于硬件工程与编程底层语义,厘清二者本质:Harness是策略约束层,负责定义智能体“想什么、能做什么”;Runtime是执行底座层,保障“在哪跑、怎么稳运行”。结合OpenClaw、QwenPaw等项目实践,提出“三问判别法”,提供可落地的分层标准,助力开发者精准划分代码边界,规避架构陷阱,实现Agent系统的可控、

文章图片
#人工智能
    共 387 条
  • 1
  • 2
  • 3
  • 39
  • 请选择