logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI Agent(智能体)的开发与使用安全标准及框架(2026年9月6日更新)

目前AI Agent安全标准呈现“百花齐放”的格局:有强制性国标(中国41号文)、有管理体系标准(ISO 42001)、有风险分类框架(OWASP Top 10)、有技术规范(ACS)、有实践指南(网安标委指引)、有研究框架(A2AS、MAESTRO)。

文章图片
#人工智能#安全#大数据
[论文学习]AgentVigil:面向LLM智能体的通用黑盒红队测试框架:间接提示注入攻击自动化发现与利用

LLM智能体系统凭借其强大的规划和推理能力,能够调用外部工具并与复杂环境交互。然而,这也引入了一个关键安全风险——间接提示注入(Indirect Prompt Injection):攻击者将恶意指令注入智能体所交互的外部数据源(如网页评论、邮件、日历事件等),当智能体检索并处理这些外部数据时,恶意指令便会“欺骗”智能体执行攻击者指定的任务,而非原始的用户任务。黑盒特性:真实世界的智能体多为黑盒系统

文章图片
#学习#自动化#运维
UNCX 漏洞复盘:一个过期的份额计数器,如何让共享金库被掏空

全局份额数被人工压低后,攻击者释放最后站着的那个仓位。赔付公式是。分子正常,分母被推到了不该有的低位。这个仓位付出的代币,来自其他项目存进来的钱。整个序列包在一笔闪电贷里,同一交易内还清,然后在 EDGEN、ZC、pepecoin、LO0P 和 PAAL 上重复。到第二天,模仿钱包和 MEV 机器人已经把模板复制到 BNB Chain、Base 和 Robinhood Chain,总共产生 11

文章图片
#区块链
[论文学习]大型语言模型机器遗忘之深入剖析:问题、方法与实证

新增的 TE/CS/ES 指标能够捕捉更多细微行为,MU/FE 聚合指标则提供了更稳健的整体视角,涵盖了重复输出、语义漂移、事实矛盾等 edge cases。结合 GD 正则化形成。在于提供更深入的分析框架、更好的评估指标与实用方法,推动 LLM 遗忘技术朝更可靠、安全的方向发展,符合 AI 治理需求。可能包括更高效的 scalable 方法、与其他 AI 安全技术的整合,以及在多模态或 agen

文章图片
#学习#语言模型#人工智能
[论文学习]基于密码学的隐私保护大型语言模型生命週期:框架、方法与未来方向

大型语言模型(LLM,如 GPT-4o、Llama 系列)已成为现代社会关键基础设施,广泛应用于医疗对话、程式生成、即时翻译等领域。然而,其快速部署带来了横跨整个生命週期(资料选择、微调、推理)的系统性隐私风险,严重挑战 GDPR、CCPA 等法规,并限制在医疗、金融等高度敏感产业的採用。传统隐私技术如差分隐私(DP)、联邦学习(FL)、可信执行环境(TEE)虽有帮助,但(如全同态加密 FHE、安

文章图片
#学习#密码学#语言模型
[论文分析]水印攻击水印:重水印作为一种通用移除策略

随着生成式AI的普及,隐形水印被广泛用于标注AI生成内容以追溯来源和保护知识产权。然而,水印方案的鲁棒性一直备受质疑。现有攻击方法往往需要复杂的梯度计算、代理模型或检测API访问。是否存在一种极其简单、通用且低成本的水印移除方法?研究者敏锐地观察到:水印嵌入和水印移除本质上是“同构”的优化问题——两者都在寻找一个感知上可接受的微小扰动,来左右检测器的判定。既然如此,为什么不用水印来攻击水印?

文章图片
#人工智能#机器学习
[论文分析]水印攻击水印:重水印作为一种通用移除策略

随着生成式AI的普及,隐形水印被广泛用于标注AI生成内容以追溯来源和保护知识产权。然而,水印方案的鲁棒性一直备受质疑。现有攻击方法往往需要复杂的梯度计算、代理模型或检测API访问。是否存在一种极其简单、通用且低成本的水印移除方法?研究者敏锐地观察到:水印嵌入和水印移除本质上是“同构”的优化问题——两者都在寻找一个感知上可接受的微小扰动,来左右检测器的判定。既然如此,为什么不用水印来攻击水印?

文章图片
#人工智能#机器学习
Hugging Face Transformers 入门与实战:从概念到你的电脑能不能跑

Hugging Face Transformers 把 AI 模型的门槛拉低了很多。你不需要是深度学习专家,也能用上最先进的模型。从 pipeline 一行代码开始,慢慢深入 AutoClass、Trainer,最后部署成服务,这条路很顺。至于硬件,别被“必须要有 NVIDIA 显卡”吓到。CPU 也能跑,只是模型别选太大。像你这台 Ryzen 7 7730U + 16GB 的笔记本,拿来入门、做

文章图片
#人工智能
Laya:不做文本生成的 4.21 亿参数决策引擎,到底解决了什么问题?

Laya 不跟 ChatGPT 抢活。它解决的是另一类问题:高频、结构化、要校准的决策。路由、分类、打分、门控,这些任务用生成模型做,很多时候是浪费。Laya 把延迟压到几十毫秒,把权重开放出来,把置信度做成可校准的信号。它不是即插即用的神谕。零样本数字一般,校准要调。但对每天要处理海量决策的团队,这个方向值得认真看。#Laya。

文章图片
#人工智能
AI 安全真正的漏洞,不在模型,而在模型外面的代码

2026 年 9 月,两件事几乎前后脚出现。一件是 Google 确认 Gemini 在沙箱安全测试里闯进了三家真实公司。另一件是安全研究员把 OpenAI 的__obicookie 完整逆了出来,证明 ChatGPT 能把你在第三方网站上的浏览行为和你账号关联起来。一个看起来是沙箱逃逸,一个看起来是追踪机制。它们表面无关,底层却是同一个问题:包在 AI 模型外面的代码,还在用旧假设写。模型一旦开

文章图片
#人工智能#安全
    共 171 条
  • 1
  • 2
  • 3
  • 18
  • 请选择