logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI Agent 安全防护实战:最小权限与 Human-in-the-loop 的工程防线

本文深入剖析Agent安全核心风险——OWASP 2025新列的“LLM06 过度代理”,指出其本质是攻击面从文本升级为真实动作。文章系统梳理六大风险(含提示注入放大、输出处理不当等),提出“功能过多、权限过大、自主过高”三大根因,并给出四道工程化防线:最小权限工具收敛、人工审批闸门、输出校验与成本熔断,强调安全须内生于架构设计。

文章图片
#AI#安全#人工智能
AI Agent 安全防护实战:最小权限与 Human-in-the-loop 的工程防线

本文深入剖析Agent安全核心风险——OWASP 2025新列的“LLM06 过度代理”,指出其本质是攻击面从文本升级为真实动作。文章系统梳理六大风险(含提示注入放大、输出处理不当等),提出“功能过多、权限过大、自主过高”三大根因,并给出四道工程化防线:最小权限工具收敛、人工审批闸门、输出校验与成本熔断,强调安全须内生于架构设计。

文章图片
#AI#安全#人工智能
AI Agent 安全防护实战:最小权限与 Human-in-the-loop 的工程防线

本文深入剖析Agent安全核心风险——OWASP 2025新列的“LLM06 过度代理”,指出其本质是攻击面从文本升级为真实动作。文章系统梳理六大风险(含提示注入放大、输出处理不当等),提出“功能过多、权限过大、自主过高”三大根因,并给出四道工程化防线:最小权限工具收敛、人工审批闸门、输出校验与成本熔断,强调安全须内生于架构设计。

文章图片
#AI#安全#人工智能
DeepSeek Harness :当“一切皆插件“成为 Agent 的新底座

DeepSeek Harness(dsh)是DeepSeek开源的Agent执行底座,以MIT协议发布。它提出“Agent = Model + Harness”理念,采用Cordis内核与“一切皆插件”架构,支持模型、工具、沙箱等全组件热插拔。可接入多模型(含OpenAI/Claude),提供标准、PTC、极简、创造四种运行模式,并内置轨迹追踪与安全沙箱。

文章图片
#AI#人工智能
DeepSeek Harness :当“一切皆插件“成为 Agent 的新底座

DeepSeek Harness(dsh)是DeepSeek开源的Agent执行底座,以MIT协议发布。它提出“Agent = Model + Harness”理念,采用Cordis内核与“一切皆插件”架构,支持模型、工具、沙箱等全组件热插拔。可接入多模型(含OpenAI/Claude),提供标准、PTC、极简、创造四种运行模式,并内置轨迹追踪与安全沙箱。

文章图片
#AI#人工智能
DeepSeek Harness :当“一切皆插件“成为 Agent 的新底座

DeepSeek Harness(dsh)是DeepSeek开源的Agent执行底座,以MIT协议发布。它提出“Agent = Model + Harness”理念,采用Cordis内核与“一切皆插件”架构,支持模型、工具、沙箱等全组件热插拔。可接入多模型(含OpenAI/Claude),提供标准、PTC、极简、创造四种运行模式,并内置轨迹追踪与安全沙箱。

文章图片
#AI#人工智能
AI Agent 到底是什么?剥开营销外衣,看清它的骨架与血肉

Agent 是一种让大模型自主执行“感知—思考—行动—观察”闭环的运行范式,核心在于通过工具调用、记忆与规划实现目标驱动的多步推理与交互,而非简单问答。

文章图片
#人工智能#AI#RAG
WorkBuddy 实战:一AI 办公工作台,到底怎么用

WorkBuddy是腾讯出品的AI办公工作台,区别于ChatGPT等对话型工具,它能真实操作本地文件、执行命令、生成可验收成果(文档/PPT/网站等),实现“说一句,它干完交付”。支持Craft/Plan/Ask三模式、技能系统、三层记忆与腾讯生态连接器,让AI从“顾问”升级为“执行者”。

文章图片
WorkBuddy 实战:一AI 办公工作台,到底怎么用

WorkBuddy是腾讯出品的AI办公工作台,区别于ChatGPT等对话型工具,它能真实操作本地文件、执行命令、生成可验收成果(文档/PPT/网站等),实现“说一句,它干完交付”。支持Craft/Plan/Ask三模式、技能系统、三层记忆与腾讯生态连接器,让AI从“顾问”升级为“执行者”。

文章图片
Agent Skills:把团队里“只会做一遍“的经验,变成 Agent 能反复调用的能力包

Agent Skills 是 Anthropic 推出的开放标准,将领域经验封装为可复用、可版本化的能力包(含 SKILL.md、脚本等)。它通过渐进式加载省上下文,区别于 Prompt(一次性指令)和 MCP(工具协议),是 AI 从“通用推理”走向“专业执行”的关键基建。

文章图片
#人工智能
    共 102 条
  • 1
  • 2
  • 3
  • 11
  • 请选择