安全标签_龙虾开发者社区

安全

大模型安全实战】智能体安全的攻防二元性：同一种能力，为什么既是防线也是攻击面？（第4期）

摘要 AI Agent的能力具有"攻防二元性"特性，即同一能力既可用于防御也可能被用于攻击。本文从工具调用、自主规划和长期记忆三类典型能力出发，分析了能力增强带来的双向影响，指出单纯增加能力而不加强权限控制反而会扩大攻击面。作者提出应从"控制能力"转向"控制用途"，建议通过工具级、数据级和任务级三重边界设计来管理风险，并推荐采用"能力双向评估表"进行威胁建模。关键观点是：Agent的安全有效性取决

 TunerT_TQ
2026-08-20 00:11:07

 724

 33

#安全 #人工智能 #网络 +1
AI Agent 安全防护实战：最小权限与 Human-in-the-loop 的工程防线

本文深入剖析Agent安全核心风险——OWASP 2025新列的“LLM06 过度代理”，指出其本质是攻击面从文本升级为真实动作。文章系统梳理六大风险（含提示注入放大、输出处理不当等），提出“功能过多、权限过大、自主过高”三大根因，并给出四道工程化防线：最小权限工具收敛、人工审批闸门、输出校验与成本熔断，强调安全须内生于架构设计。

一叶飘零_sweet_
2026-08-19 17:19:18

 371

 9

#AI #安全 #人工智能
Harness 决定 Agent 上限：六层工程拆解（附 8 款实测对照表）

摘要：本文揭示了决定AI Agent性能的关键因素——Harness（执行框架）而非底层模型本身。基于杰富瑞对8款中美Agent的实测数据，同一模型在不同Harness下性能差异可达18.4个百分点。文章提出"Harness六层工程框架"（指令层、上下文层、工具层、边界层、反馈层、治理层），类比企业员工管理体系，逐层解析优化要点。实测显示阿里"千问办公"凭借优秀Harness设计实现总分反超。文末

 2401_85300269
2026-08-19 10:12:08

 657

 24

#人工智能 #架构 #安全
【大模型安全实战】Agent 数据防泄露：从“出口拦截”到“源头加固”的三层防线（第3期）

本文探讨了AI Agent场景下的数据防泄露策略，提出了从传统"出口拦截"转向"源头加固"的三层防护体系：字段级最小可见：通过数据视图和动态投影，仅向Agent提供任务必需的最小字段集，避免敏感数据进入上下文。采用脱敏、区间值等技术平衡安全与业务需求。访问前授权核对：在工具调用时进行多维度权限验证（身份、任务、资源、操作等），实施短时权限机制，支持条件化访问控制（如脱敏返回、人工确认）。数据

 TunerT_TQ
2026-08-19 09:46:26

 466

 19

#安全 #oracle #数据库
Agent 敢开写权限吗？—— 智能体文件操作的风险与安全实践

摘要：本文探讨了AI Agent文件写入权限的必要性与风险，提出了安全实践框架。Agent需要写权限以实现自动化、数据持久化等，但存在数据泄露、系统破坏等风险。解决方案包括：最小权限原则、操作审计、内容安全扫描及动态授权。通过沙箱环境、API设计与多层防御机制（如路径白名单、版本控制）降低风险。案例表明，需限制操作范围并强化校验。结论指出，写权限应谨慎开放，结合渐进式授权与人机协同，未来可借助形

 软件派
2026-08-19 09:32:02

 303

 7

#安全
AI新闻日报_2026-08-18——Cursor Origin 代码托管、GLM-5.3 网络安全涌现、宇树“超人“突破人类极限

AI 基础设施与安全治理迎来关键转折点（2026年8月）本期AI新闻聚焦两大领域突破：AI编程基础设施革新与安全治理格局重塑。Cursor推出专为AI Agent设计的Origin代码托管平台，支持秒级提交与自动冲突解决，标志Git工作流正式进入机器主导时代。智谱GLM-5.3通过后训练涌现出超越GPT-5.6的网络安全能力，发现潜伏40年的DNS协议漏洞，并宣布开源权重，与OpenAI收缩安全

 海盗1234
2026-08-18 11:58:20

 817

 3

#人工智能 #web安全 #安全
Agent敢开写权限吗？—— 深入探讨AI Agent的文件写入安全与实践

摘要：随着AI Agent从“读/说”进阶到“写”操作（如代码生成、文件修改），开放写权限虽能提升自动化效率，但也引发安全风险（恶意代码注入、数据破坏）与责任归属问题。本文提出安全实践框架：最小权限隔离（受限目录、非root用户）、操作审计（二次确认、变更预览）、内容过滤（路径校验、敏感词检测）及技术隔离（容器化运行）。通过案例说明合理配置可平衡能力与风险，强调人类必须保留最终控制权，为AI A

2601_96658163
2026-08-18 09:44:23

 311

 10

#人工智能 #安全
Havenlon | 杂谈：当 AI 替你行动，古老的「委托—代理问题」回来了

本文从经典的「委托—代理问题」出发，重新审视 AI Agent 带来的安全挑战。当 AI 不再只是回答问题，而是开始调用工具、访问系统、执行交易并改变现实，安全问题的核心也从「它是否理解我」转向「我究竟把多少行动自由交给了它」。真正的风险未必来自 AI 的恶意，也可能来自目标表达不完整、过度优化与权限委托失控。Agent 越强，越不能只依赖它「理解正确」，而需要通过明确、可验证、不可轻易绕过的边界

 Lovekde_cn1
2026-08-18 07:00:00

 580

 16

#人工智能 #大数据 #科技 +1
[论文学习]AI Agent部署中的安全挑战:来自大规模公开竞赛的洞察

随着LLM驱动的AI Agent被赋予越来越高的自主权——能够调用外部工具、访问数据库、执行多步规划和与第三方API交互——其攻击面急剧扩大。核心问题是：这些系统在受到恶意攻击时，能否真正遵守部署策略？传统针对纯语言模型的安全评估框架是否足以应对具备工具调用能力的Agent？

HK2KING
2026-08-18 00:15:00

 414

 10

#人工智能 #学习 #安全
本地AI的安全底座：AiPy Pro 2.0删除保护、批量审批与沙盒隔离是如何筑起企业级防线的？

政企客户引入AI时面临的核心矛盾：AI能力越强，权限越大，风险也就越高。它能读文件、改文件、执行脚本、调用API，这些能力让AI“好用”的同时，也让安全团队面临控制面与数据面耦合带来的失控风险——传统IAM体系针对的是人类操作者，而AI Agent作为自主执行体，其行为模式和风险特征完全不同。一个AI误删三个月的研究数据、一次路径遍历导致非授权文件被读取、一个未被审计的自动操作引发合规事故……AI

2501_92231166
2026-08-17 10:18:18

 493

 17

#人工智能 #安全 #大数据
Havenlon | 杂谈：AI时代，我们需要的不是“人管AI“，而是人与AI共同治理

摘要：随着AI Agent的快速发展，传统“人管AI”的治理模式面临挑战。人类难以实时监控高速、大规模的AI决策流，导致“人工复核”可能流于形式。文章提出“人机共同治理”的新框架：AI不仅是被治理对象，也可成为治理主体，与人类分工协作——AI负责高速检查与异常识别，人类负责价值判断与责任承担。关键在于拆分权力而非集中，确保任何一方（包括人类）都无法独断，同时明确责任归属。真正的治理升级需建立闭合

 Lovekde_cn1
2026-08-17 03:51:43

 294

 5

#人工智能 #大数据 #科技 +2
Valhalla静态工程审阅｜源码尽调｜marketingskills：面向AI Agent的49套营销技能集工程静态评测【Agent Skill 特辑 #015】

文章摘要（150字）《marketingskills》是一个面向AI Agent的营销技能集仓库，包含49个独立营销技能（SEO、数据分析等），通过JavaScript工具脚本对接第三方营销平台API。静态评测显示其技能覆盖面广，但存在显著工程短板：无测试体系、无依赖声明文件，依赖版本未锁定，异步调用密集且缺少运行时安全保障。虽然静态扫描未发现风险模式，但实际接入需严格校验权限与接口稳定性。适合

 TunerT_TQ
2026-08-17 00:04:26

 346

 6

#人工智能 #安全 #开发语言
Valhalla静态工程审阅｜ECC 源码静态评测：896 个 Agent Skill 背后的工程能力与安全边界【Agent Skill 特辑 #011】

摘要本次静态工程审阅对ECC（Agent性能优化系统）进行了源码层面的安全与工程能力评估。项目基于多语言技术栈（JavaScript/Python/Shell等），包含896个Agent技能资产，展现出一个完整的Agent能力编排系统架构。关键发现：项目具备技能编排、插件扩展、状态管理等核心能力，已形成可复用的工程体系识别出651个源文件，但存在200条静态风险（主要涉及Shell调用和路径

 TunerT_TQ
2026-08-16 13:59:09

 340

 10

#安全 #人工智能
深度 | AI智能体自主攻击：8个Agent攻陷政府，从「工具」变「攻击面」

这是一篇深度研究，不是新闻简报。基于 30+ 个来源的交叉验证。：2026 年 8 月，AI Agent 安全从"威胁模型"进入"真实战场"——首个全自主政府级攻击落地、GPT-6 首次触发 Critical 冻结，防御重心正从"模型安全"迁向"运行时（harness）安全"。：[A] 官方/一手 [B] 2+可靠来源 [C] 单一来源 [D] 个人判断。

summerliyang
2026-08-16 12:23:00

 431

 5

#人工智能 #安全
【Python 进阶之路】第5讲 | 安全编程实战：从 SQL 注入到 JWT 认证

SQL 注入是指攻击者通过构造恶意输入，改变原本的 SQL 语句逻辑，从而获取或篡改数据库数据。危险示例'"问题分析攻击者输入因为'1'='1'永远为真，所以这个查询会返回所有用户数据！XSS（跨站脚本攻击）是指攻击者在网页中注入恶意脚本，当其他用户浏览该网页时，脚本会在用户浏览器中执行。危险示例html = "<h1>评论区</h1>"

所谓伊人，在水一方333
2026-03-03 08:06:56

 1222

 14

#python #安全 #sql
Inspectio：Python双引擎驱动，轻量化日志敏感信息安全审查工具

Inspectio 是一款设计精良、轻量高效的日志敏感信息审查工具，它摒弃了复杂的架构设计，以「正则快速覆盖 + NLP深度理解」为核心思想，通过模块化代码实现了规则可扩展、输出可定制、使用零门槛。对于需要快速审查日志、控制数据安全风险、满足合规要求的团队和个人，Inspectio 无需复杂部署、开箱即用，用最简单的方式解决了日志安全审查的核心痛点，是日常安全与审计工作的必备小工具。

jialiaust
2026-04-02 18:11:10

 435

 8

#安全 #安全性测试
AI 安全的下一个 5 年：从 Agent 到 AGI 的攻防博弈

5 年后"安全团队"长什么样？不是 30 人的 Tier 1 团队——是 5 人的"AI 治理团队"不是"分诊告警的人"——是"训练 AI 分诊的人"不是"24×7 监控"——是"24×7 监督 AI"不是"应急响应"——是"AI 决策的关键决策者"5 年后"安全技能"长什么样？不是"消失"，是"升级"：不是"会用 Nmap"——是"会训练 AI 用 Nmap"不是"会写 Sigma 规则"——是

 笨鸟先飞，勤能补拙
2026-08-05 14:42:50

 455

 11

#人工智能 #安全 #python +3
浙大×阿里云综述 Token 经济学：LLM Agent 的成本、协作与安全账本

一句话讲清楚👉🏻** 来自浙江大学和阿里云的研究团队把 LLM Agent 里的 token 重新定义为生产要素、交换媒介和记账单位，用一套“计算机系统 × 经济学”的框架解释单 Agent 、多 Agent 、 Agent 生态和安全治理中的成本边界。

程序猿李巡天
2026-05-20 20:25:53

 514

 8

#阿里云 #安全 #云计算 +4
Prompt 注入攻击实战：红蓝对抗视角下的 Agent 安全防御

本文将按照“概念解析->红队攻击实战->蓝队防御体系->实战案例->最佳实践->未来趋势”的逻辑展开，不仅有理论讲解，还会提供可直接运行的攻击/防御代码、可直接复用的架构设计、经过验证的最佳实践，帮助你从零构建企业级Agent安全防御能力。Prompt注入是当前LLM Agent落地的最大安全风险之一，红队的攻击手法不断迭代，从直接注入到隐蔽的记忆投毒、工具劫持，防御难度越来越大。蓝队必须构建全链

 杭州大厂Java程序媛
2026-06-15 02:44:45

 237

 6

#安全 #网络
我设计了一套自己的多agent协作体系：星核协作体系

《星核协作体系：多Agent协同工作方法论》摘要本文介绍了一套创新的多Agent协作系统"星核"(StarCore)，旨在通过专业化分工实现复杂任务的高效处理。该体系包含8个核心Agent，分为决策层(枢、司)、执行层(磐、匠、蝉)和守护层(验、典、盾)三个层级，各司其职完成从任务解析到最终交付的全流程。系统特点包括：明确职责边界、标准化协作流程、质量安全双审核及知识沉淀机制

 梦醒见月
2026-04-02 22:32:26

 419

 4

#安全 #人工智能
# Qidi Agent v2.1.0：自适应编排 + 涌现度量，让多 AI 协作真正“1+1＞2“

但**多模型一起跑≠多模型协作**：如果只是各自干完然后选最好的，本质上还是"投票"，没有真正的"协作"。> 💡 **欢迎 Star、Fork、PR！** 这个问题在 v2.1.0 之前**没有任何工具能定量回答**。| **涌现度量体系** | 问题2：量化"1+1>2"的协作增益 | SynchronyMeter + EmergenceEvaluator || **任务编排** | 手动选工

 fengzii
2026-07-04 22:56:36

 598

 15

#安全 #开源
Python入门实操：基础语法+爬虫入门+模块使用全指南

本文介绍 Python 入门核心知识，讲解其简洁高效、严格缩进的语言特性，梳理 print、函数、判断、异常捕获等基础语法，说明模块导入与 requests 使用方法，介绍 for 循环用法，并详解爬虫流程、乱码解决、反爬技巧，帮助新手快速掌握 Python 脚本编写与基础爬虫实操。

以神为界
2026-04-14 18:40:56

 1834

 15

#python #爬虫 #开发语言 +2
2026年安全工具开发语言选型：Go, Rust与Python的深度对比与场景应用

在全球网络攻防对抗日益激烈的今天，顶尖学术会议（如 USENIX Security, ACM CCS, S&P, NDSS）是前沿攻击技术、防御理论和体系化方案的“军火库”和“风向标”。因此，持续跟踪并理解这些顶会论文，是在攻防信息差中占据优势地位、预测未来威胁趋势的核心能力。这些会议以其极低的录用率（通常在10%-20%）、严格的同行评审（Peer Review）和巨大的学术影响力而著称。顶会论

 Alfadi联盟萧瑶
2026-03-04 08:11:13

 497

 5

#安全 #php #开发语言 +1
Python 网络安全修炼手册：常用库、学习路径与实战项目详解

Python 在网络安全领域扮演着极其重要的角色——它语法简洁、生态丰富，能快速将想法转化为工具。无论是渗透测试、漏洞研究、安全自动化，还是逆向工程与取证，Python 都是安全从业者的“瑞士军刀”。下面我将从应用领域、常用库、学习路径和实战项目几个方面为你展开介绍。

AIGC-Lison
2026-03-23 15:43:04

 395

 8

#python #web安全 #学习 +4
【智能体精华文章】从响应风险到操作风险：Agentic AI安全评估的范式转换—— “Boiling the Frog“ 基准文献精读

严格攻击成功率（Strict Attack Success Rate, ASR）ASRstrictNCOMPLYNCOMPLYNBLOCKNUNCERTAINASRstrictNCOMPLYNBLOCKNUNCERTAINNCOMPLY一行仅在法官确认不安全工件谓词在测试运行前被实现时才计为成功攻击（COMPLY）。BLOCK表示智能体拒绝或未更改工件。

小清河505
2026-07-12 12:00:42

 425

 16

#人工智能 #安全
Python POST请求练习-ua

漏洞复现学习由"好靶场“支持官网链接-好靶场平台-安全靶场-网络安全靶场。

suzuiw
2026-04-05 22:24:22

 445

 12

#python #开发语言 #安全 +4
从五个仪表板到一个提示词：Elastic Agent Builder 的红/黄/绿 APM 判断结果

Elastic推出的APM服务健康监控器通过五个ES|QL工具（延迟趋势、错误率、吞吐量、依赖关系等）综合分析traces数据，一键生成红/黄/绿色健康状态报告。该方案集成于Elastic Agent Builder，无需切换仪表板即可自动关联指标，定位根本原因（如数据库错误率飙升导致延迟恶化）。基于Elasticsearch 9.3构建，支持跨集群分析，通过自然语言指令实现可审计的评分逻辑（如错

 Elastic 中国社区官方博客
2026-07-10 08:42:52

 391

 7

#数据库 #elasticsearch #安全 +3
安全Agent从0到1

小小的demo，提供一些学习路径

 四代机您发多少
2026-04-19 21:37:34

 481

 6

#安全
游戏行业舆情处置技术实战：Infoseek 字节探索系统架构与 Python 落地脚本

2026 年 3 月，游戏行业迎来双重舆情大考：国家新闻出版署通报 12 款违规网络游戏，8 款游戏因防沉迷漏洞、内容违规被顶格处罚；同时某头部开放世界手游新版本更新后出现严重数值 bug，引发玩家集体维权，相关话题全网阅读量破 6 亿，厂商舆情处置全面被动。本文结合这两起最新行业事件，深度解析 Infoseek 字节探索舆情处置系统的技术架构、核心算法与全流程落地逻辑，附带可复用的 Python

GIOTTO情
2026-03-06 15:58:10

 568

 11

#网络 #安全
[Agent的评估-08]整合MEAI针对安全合规相关的评估器

在NuGet包`Microsoft.Extensions.AI.Evaluation.Safety`中定义了一个名为`ContentSafetyEvaluator`的抽象类，这是一个实现了`IEvaluator`接口的评估器。它主要应用于内容审核、合规过滤、企业内部安全管控，旨在检测模型输出是否包含敏感或违规内容。

JaydenAI
2026-08-01 10:42:07

 374

 6

#AI #安全
给 Agent 装一道安全门：从零手搓 DeepSeek + MCP + 安全层的生产级 Harness 设计与实现

本文介绍了一个生产级的DeepSeek工具调用Agent框架，通过MCP协议接入多种工具，并设计了三层安全检查机制来确保安全性。框架拆分为14个模块化组件，包括安全策略、参数校验、人工审批、轨迹记录等核心功能。文章详细解析了agent_runner.py中的8阶段执行流程，重点阐述了安全层拦截点设计、拒绝原因回馈机制，以及多MCP服务器路由管理。该框架实现了从工具调用、安全检查到执行监控的完整闭环

 jzshmyt
2026-08-14 23:28:32

 338

 7

#安全