logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Agent 每次“看到”什么——上下文组装管线全景

本文揭示了LLM上下文组装的复杂管线:一次调用涉及十类信息源,按“稳定前缀+动态尾部”排列,确保缓存命中率;通过Pin保护保留上轮结论、工具去重、压缩干预与域级工具过滤,优化窗口使用。强调顺序决定缓存、裁剪与注意力分布,提出五大实践:分区提示词、结论保底、去重、计算固定开销、插入省略占位符。对比ClaudeCode、LangGraph等方案,凸显内建管线的系统性优势。

文章图片
#人工智能#编辑器
认知结算——Run 结束时 Agent 的“做笔记”

TaskMemoryAgent在完成任务后必须执行“认知结算”——强制性的闭环阶段,通过一次主模型调用产出四类认知产物:会话快照(SessionState)、长期记忆(MemoryEntries)、自我反思(Reflections)和经验教训(Learnings)。此举确保关键决策、模式识别与教训不随上下文丢弃而流失。不同于依赖模型主动记笔记的松散设计,认知结算是架构级强制机制,覆盖正常结束、中断

文章图片
#人工智能#编辑器
TaskMemory 的五种制品——Plan 的四个兄弟

TaskMemory设计五种核心制品:Plan(任务结构)、Findings(事实发现)、Decisions(决策理由)、Checkpoints(确认点)与Learnings(经验总结),实现任务状态的解耦与持久化。每类制品有独立写入纪律与消费方式,避免消息压缩导致信息丢失。强制记录“无发现”消除歧义,决策理由不可压缩,关键节点设Checkpoint保障恢复效率,任务结束后提炼Learnings供

文章图片
#安全#网络#web安全 +2
Agent 的三种记忆——上下文窗口装不下的东西去哪里了

本文揭示了长任务中Agent“变蠢”的根源:上下文压缩导致关键状态丢失。提出Agent需三层记忆——工作记忆(上下文窗口)、结构化工作便签(核心执行状态)与长期记忆。其中,工作便签最易被忽视却至关重要,它应独立于对话消息、结构化存储、强制写入并持久化,以确保任务连续性。当前主流框架多忽略此层,导致200轮任务中信息系统性遗忘。建议开发者主动维护scratch.md文件,将发现、决策等关键信息写入独

文章图片
#人工智能#编辑器
Plan 作为外部工作记忆——长对话中 Agent 如何不忘事

在长任务中,LLM上下文窗口有限,压缩不可避免,导致“遗忘”问题。本文提出:Plan是Agent的外部工作记忆,用于恢复决策链。通过“推”(每轮注入摘要)与“拉”(主动读取文件)两种模式平衡效率与完整性。结合认知结算、机械降级与TaskMemory五类制品(Plan、Findings、Decisions等),构建多层冗余机制,确保信息在压缩、失败或会话中断后仍可恢复。关键在于:不依赖上下文,而将核

文章图片
#人工智能#编辑器
Plan 的前端呈现——进度条还是设计文档?

Plan的前端呈现不仅是视觉问题,更是产品信任的核心。不同产品对Plan的可视化差异(如Cursor四层视图、ClaudeCode活动流、Codex可转移蓝图等)反映了对“人机协作”关系的不同理解。关键在于:进度必须准确(用分数3/5而非易误导的百分比)、状态需真实(避免虚假推进)、错误要可区分(可重试与不可重试)。事件payload的丰富度决定前端能力上限,而进度条若不准确,比无进度更毁信任。最

文章图片
#前端#人工智能#编辑器
“完成”是什么意思——Plan 步骤状态机的七个 Bug

本文剖析了Agent系统中“Plan步骤从pending到done”状态迁移的七个真实Bug,揭示其背后深层设计问题:状态机语义复杂、终态不闭合、状态与事件脱节、生命周期未递归终结等。教训聚焦于:终态应使用枚举而非布尔组合,同状态迁移需幂等,状态变更与事件发射必须原子化,父生命周期结束时须收口子状态,错误提示应引导模型行为。这些原则适用于任何多参与者、异步执行的智能工作流系统。

文章图片
#状态模式#人工智能#编辑器
为什么 Agent 需要 Plan——以及为什么大多数 Plan 实现都是错的

Plan系统本质是外部工作记忆,而非进度条或流程图。它解决模型在上下文压缩后遗忘决策链的问题,通过限制行动能力迫使“先思考后执行”,并作为人与模型间关于目标与完成标准的契约。成功实现需将Plan定位为承载设计决策的容器,保持步骤为可独立执行的决策描述,避免DAG依赖、自动回滚等误用。真正有效的Plan应持久化、自包含,支持跨会话恢复认知状态。

文章图片
#人工智能#数据库#编辑器
CycleDetector 升级为 HITL——两阶段协议的完整旅程

人机协同Agent陷入死循环时,应采用两阶段协议:先注入纠正消息并重置计数器(自愈),若无效再触发HITL(人类在环),超时则安全终止。按状态、调用、模式、文本四维度独立检测,避免误判;终止后保存进度、执行认知结算、标记可恢复,并提供精准前端提示。相比硬性轮次限制,该机制更智能高效,可避免$47K级事故,实现“不中断正常任务,不放过真循环”的平衡。

文章图片
#人工智能#机器学习#算法 +1
超时必须是拒绝——为什么 HITL 必须 fail-closed

在人机协同Agent系统中,超时应默认为“拒绝”而非“同意”,这是基于安全工程的fail-closed原则。若超时=同意,攻击者可通过不响应实现恶意操作(如循环删除),且合规审计将视为无效审批。统一处理HITL所有非明确同意结局(超时、取消、错误等)为拒绝,可简化逻辑、避免遗漏,并确保系统在不确定时选择最安全选项。超时后应保存进度,实现“安全暂停”而非丢弃工作。物理操作例外无超时,其他场景超时不少

文章图片
#网络#人工智能#编辑器
    共 16 条
  • 1
  • 2
  • 请选择