logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

[论文学习]大型语言模型机器遗忘之深入剖析:问题、方法与实证

新增的 TE/CS/ES 指标能够捕捉更多细微行为,MU/FE 聚合指标则提供了更稳健的整体视角,涵盖了重复输出、语义漂移、事实矛盾等 edge cases。结合 GD 正则化形成。在于提供更深入的分析框架、更好的评估指标与实用方法,推动 LLM 遗忘技术朝更可靠、安全的方向发展,符合 AI 治理需求。可能包括更高效的 scalable 方法、与其他 AI 安全技术的整合,以及在多模态或 agen

文章图片
#学习#语言模型#人工智能
[论文学习]基于密码学的隐私保护大型语言模型生命週期:框架、方法与未来方向

大型语言模型(LLM,如 GPT-4o、Llama 系列)已成为现代社会关键基础设施,广泛应用于医疗对话、程式生成、即时翻译等领域。然而,其快速部署带来了横跨整个生命週期(资料选择、微调、推理)的系统性隐私风险,严重挑战 GDPR、CCPA 等法规,并限制在医疗、金融等高度敏感产业的採用。传统隐私技术如差分隐私(DP)、联邦学习(FL)、可信执行环境(TEE)虽有帮助,但(如全同态加密 FHE、安

文章图片
#学习#密码学#语言模型
[论文分析]水印攻击水印:重水印作为一种通用移除策略

随着生成式AI的普及,隐形水印被广泛用于标注AI生成内容以追溯来源和保护知识产权。然而,水印方案的鲁棒性一直备受质疑。现有攻击方法往往需要复杂的梯度计算、代理模型或检测API访问。是否存在一种极其简单、通用且低成本的水印移除方法?研究者敏锐地观察到:水印嵌入和水印移除本质上是“同构”的优化问题——两者都在寻找一个感知上可接受的微小扰动,来左右检测器的判定。既然如此,为什么不用水印来攻击水印?

文章图片
#人工智能#机器学习
[论文分析]水印攻击水印:重水印作为一种通用移除策略

随着生成式AI的普及,隐形水印被广泛用于标注AI生成内容以追溯来源和保护知识产权。然而,水印方案的鲁棒性一直备受质疑。现有攻击方法往往需要复杂的梯度计算、代理模型或检测API访问。是否存在一种极其简单、通用且低成本的水印移除方法?研究者敏锐地观察到:水印嵌入和水印移除本质上是“同构”的优化问题——两者都在寻找一个感知上可接受的微小扰动,来左右检测器的判定。既然如此,为什么不用水印来攻击水印?

文章图片
#人工智能#机器学习
Hugging Face Transformers 入门与实战:从概念到你的电脑能不能跑

Hugging Face Transformers 把 AI 模型的门槛拉低了很多。你不需要是深度学习专家,也能用上最先进的模型。从 pipeline 一行代码开始,慢慢深入 AutoClass、Trainer,最后部署成服务,这条路很顺。至于硬件,别被“必须要有 NVIDIA 显卡”吓到。CPU 也能跑,只是模型别选太大。像你这台 Ryzen 7 7730U + 16GB 的笔记本,拿来入门、做

文章图片
#人工智能
Laya:不做文本生成的 4.21 亿参数决策引擎,到底解决了什么问题?

Laya 不跟 ChatGPT 抢活。它解决的是另一类问题:高频、结构化、要校准的决策。路由、分类、打分、门控,这些任务用生成模型做,很多时候是浪费。Laya 把延迟压到几十毫秒,把权重开放出来,把置信度做成可校准的信号。它不是即插即用的神谕。零样本数字一般,校准要调。但对每天要处理海量决策的团队,这个方向值得认真看。#Laya。

文章图片
#人工智能
AI 安全真正的漏洞,不在模型,而在模型外面的代码

2026 年 9 月,两件事几乎前后脚出现。一件是 Google 确认 Gemini 在沙箱安全测试里闯进了三家真实公司。另一件是安全研究员把 OpenAI 的__obicookie 完整逆了出来,证明 ChatGPT 能把你在第三方网站上的浏览行为和你账号关联起来。一个看起来是沙箱逃逸,一个看起来是追踪机制。它们表面无关,底层却是同一个问题:包在 AI 模型外面的代码,还在用旧假设写。模型一旦开

文章图片
#人工智能#安全
当你的 AI 助手悄悄替别人干活:ChatGPT 两起 Gmail 数据泄露漏洞拆解

这两起漏洞不是孤立事件。它们反映的是 AI 助手设计和部署中的结构性问题。模型坐在安全边界里面,能访问内部资源和用户数据,但它的行为又可以被指令影响。Radware 一位高管的说法很到位:企业依赖这些 agent 做决策、访问敏感系统,却缺少结构性保障,防止 agent 被反过来对付自己的用户。好消息是,两起漏洞都走了负责任披露流程,也都被修复或缓解。坏消息是,背后的架构模式仍然常见:共享内部服务

文章图片
#人工智能#安全
[论文学习]比特翻转攻击揭示VLA模型新漏洞:动作解码架构决定脆弱性边界

VLA模型(如OpenVLA、π₀、RT-2)将图像和指令直接映射为机器人动作,正被广泛部署于边缘设备。为了在低功耗硬件上运行,这些模型通常被量化到INT8精度,这使得权重整数成为Rowhammer式故障注入攻击的天然靶标。此前比特翻转攻击已在量化分类器和LLM上取得成功,但它们只处理“一次性读出”的分类输出。VLA模型则不同:故障信号要穿过动作解码器,然后反复与动态变化的环境交互——解码器的动力

文章图片
#学习#架构
[数字安全]什么是 TCSEC?从橙皮书到现代安全评估

TCSEC 是老兵,不是废纸。它的问题很明显,偏机密性、偏操作系统、评估贵、被 CC 取代。但它的贡献也很明显,它第一次把计算机安全评估做成了体系。如果你在做安全架构、合规、操作系统安全或高保障系统,花点时间翻翻 TCSEC 的等级划分,不会亏。很多今天看起来新的问题,橙皮书里早就问过了:你的安全策略是什么?谁能访问什么?有没有审计?保证够不够?文档和验证做了吗?这些问题,放到今天依然扎心。

文章图片
#安全
    共 168 条
  • 1
  • 2
  • 3
  • 17
  • 请选择