logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

[论文学习]利用上下文后门攻击危害具身智能体

随着LLM在具身智能领域的广泛应用,开发者通常通过提供少量上下文示例(如推理过程和解决方案样例),利用LLM强大的内化知识将抽象的自然语言指令转化为可执行代码序列,作为具身智能体的执行逻辑。攻击者能否通过污染上下文示例,在不触及模型本身的情况下,隐秘地影响LLM的代码生成行为?传统后门攻击通常需要操控模型的训练过程或参数,但在黑盒API调用场景下这些条件难以满足。

文章图片
#学习#人工智能#安全
[论文学习]VLA安全综述:当机器人“说错话”变成“干错事”-具身智能安全威胁、挑战、评估与机制全景解析

VLA模型正成为具身智能的统一基础平台,让机器人能够基于多模态观测执行复杂动作。但这一能力跃迁同时暴露了一类新的安全挑战:当模型“理解错了”,结果不再是一段有害文本,而是一个物理动作——可能撞到人、损坏设备、或者让机械臂以过大力度抓取易碎物体。论文指出,当前相关研究分散在机器人学习、对抗机器学习、AI对齐和自主系统安全等多个社区,缺乏统一的安全视角。

文章图片
#学习#安全#机器人
[论文学习]AgentWorm:跨越LLM智能体生态的自我传播攻击

基于LLM的自主智能体正以长驻进程的形式运行,形成高度互联的多智能体生态(如OpenClaw,一个拥有4万多个活跃实例的开源平台)。这类系统具备持久化配置、工具执行权限和跨平台消息能力,但其生态级安全属性几乎未被研究。论文要回答的核心问题是:单个消息能否在智能体生态中引发自主传播的连锁感染?

文章图片
#学习#人工智能
MCP:让每个 AI 工具不再各自造轮子的开放标准

MCP 主要不是技术上的胜利,是采购和治理上的胜利。集成标准化之后,一个工具评估一次,就能在多个助手里复用。边界审一个,不是审一堆。厂商发个 server,你 adopt 就行,不用再立一个定制项目。这也是它铺得快的原因,也是它现在跟 function calling 并排站着、是互补而不是竞争的原因。Function calling 管的是模型怎么挑动作,MCP 管的是这个动作怎么可移植地走到外

文章图片
#人工智能
AI Agent(智能体)的开发与使用安全标准及框架(2026年9月6日更新)

目前AI Agent安全标准呈现“百花齐放”的格局:有强制性国标(中国41号文)、有管理体系标准(ISO 42001)、有风险分类框架(OWASP Top 10)、有技术规范(ACS)、有实践指南(网安标委指引)、有研究框架(A2AS、MAESTRO)。

文章图片
#人工智能#安全#大数据
[论文学习]AgentVigil:面向LLM智能体的通用黑盒红队测试框架:间接提示注入攻击自动化发现与利用

LLM智能体系统凭借其强大的规划和推理能力,能够调用外部工具并与复杂环境交互。然而,这也引入了一个关键安全风险——间接提示注入(Indirect Prompt Injection):攻击者将恶意指令注入智能体所交互的外部数据源(如网页评论、邮件、日历事件等),当智能体检索并处理这些外部数据时,恶意指令便会“欺骗”智能体执行攻击者指定的任务,而非原始的用户任务。黑盒特性:真实世界的智能体多为黑盒系统

文章图片
#学习#自动化#运维
UNCX 漏洞复盘:一个过期的份额计数器,如何让共享金库被掏空

全局份额数被人工压低后,攻击者释放最后站着的那个仓位。赔付公式是。分子正常,分母被推到了不该有的低位。这个仓位付出的代币,来自其他项目存进来的钱。整个序列包在一笔闪电贷里,同一交易内还清,然后在 EDGEN、ZC、pepecoin、LO0P 和 PAAL 上重复。到第二天,模仿钱包和 MEV 机器人已经把模板复制到 BNB Chain、Base 和 Robinhood Chain,总共产生 11

文章图片
#区块链
[论文学习]大型语言模型机器遗忘之深入剖析:问题、方法与实证

新增的 TE/CS/ES 指标能够捕捉更多细微行为,MU/FE 聚合指标则提供了更稳健的整体视角,涵盖了重复输出、语义漂移、事实矛盾等 edge cases。结合 GD 正则化形成。在于提供更深入的分析框架、更好的评估指标与实用方法,推动 LLM 遗忘技术朝更可靠、安全的方向发展,符合 AI 治理需求。可能包括更高效的 scalable 方法、与其他 AI 安全技术的整合,以及在多模态或 agen

文章图片
#学习#语言模型#人工智能
[论文学习]基于密码学的隐私保护大型语言模型生命週期:框架、方法与未来方向

大型语言模型(LLM,如 GPT-4o、Llama 系列)已成为现代社会关键基础设施,广泛应用于医疗对话、程式生成、即时翻译等领域。然而,其快速部署带来了横跨整个生命週期(资料选择、微调、推理)的系统性隐私风险,严重挑战 GDPR、CCPA 等法规,并限制在医疗、金融等高度敏感产业的採用。传统隐私技术如差分隐私(DP)、联邦学习(FL)、可信执行环境(TEE)虽有帮助,但(如全同态加密 FHE、安

文章图片
#学习#密码学#语言模型
[论文分析]水印攻击水印:重水印作为一种通用移除策略

随着生成式AI的普及,隐形水印被广泛用于标注AI生成内容以追溯来源和保护知识产权。然而,水印方案的鲁棒性一直备受质疑。现有攻击方法往往需要复杂的梯度计算、代理模型或检测API访问。是否存在一种极其简单、通用且低成本的水印移除方法?研究者敏锐地观察到:水印嵌入和水印移除本质上是“同构”的优化问题——两者都在寻找一个感知上可接受的微小扰动,来左右检测器的判定。既然如此,为什么不用水印来攻击水印?

文章图片
#人工智能#机器学习
    共 175 条
  • 1
  • 2
  • 3
  • 18
  • 请选择