logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

热门应用 | 革命性工具Browser Use 让AI化身浏览器管家 拆除人机交互最后一堵墙

当浏览器开始理解人类的语言,也许我们正在迈入一个更“懒惰”却高效的时代。

文章图片
#人工智能#人机交互#大数据 +1
LLM安全 | 大语言模型越狱:白盒攻击揭秘

通过这种方式,优化后的后缀在语义上是有意义的,它可以绕过基于困惑度的过滤器,并在传输到ChatGPT和GPT-4等公共黑盒模型时实现更高的攻击成功率。『 ASETF的流程介绍:相比于GCG的优化目标是直接优化得到离散的后缀来诱导模型生成对应的恶意行为,ASETF的优化目标是连续的,也就是优化h0~hi这一段连续的嵌入层来得到"Sure,here is how to make a bomb",然而很

文章图片
#人工智能#网络攻击模型#安全 +2
MCP安全仅为冰山一角?总览智能体通信安全:通信协议、风险剖析、防御对策与前沿挑战

大型语言模型(LLM)是一种基于海量文本数据训练而成的新型人工智能(AI)模型,旨在理解和生成人类语言,其在诸多领域展现出了前所未有的能力。下图展示了一个典型的LLM驱动智能体架构。与主要作为聊天机器人且不具备特定领域专业能力的LLM不同,智能体被设计用于自动协助人类完成专业化任务。为此,智能体配备了多个模块以实现全能化:感知、记忆、工具、推理与行动。智能体内部架构高自主性:能够自主进行任务分解、

文章图片
#安全
MCP专题| 智能体的“朋友圈”:MCP、A2A 与 ANP 谁是最强社交达人?

从调用、协作到连接,MCP、A2A 与 ANP 分别承担着能力标准化、团队协同化与网络去中心化的职责。三者共同构建了一个开放、自洽、可扩展的智能体基础设施生态,也标志着从“单体智能”迈向“群体智能”“网络智能”的进化方向。

文章图片
#人工智能#AI#MCP
LLM安全 | 大语言模型越狱:白盒攻击揭秘

通过这种方式,优化后的后缀在语义上是有意义的,它可以绕过基于困惑度的过滤器,并在传输到ChatGPT和GPT-4等公共黑盒模型时实现更高的攻击成功率。『 ASETF的流程介绍:相比于GCG的优化目标是直接优化得到离散的后缀来诱导模型生成对应的恶意行为,ASETF的优化目标是连续的,也就是优化h0~hi这一段连续的嵌入层来得到"Sure,here is how to make a bomb",然而很

文章图片
#人工智能#网络攻击模型#安全 +2
热门应用 | 革命性工具Browser Use 让AI化身浏览器管家 拆除人机交互最后一堵墙

当浏览器开始理解人类的语言,也许我们正在迈入一个更“懒惰”却高效的时代。

文章图片
#人工智能#人机交互#大数据 +1
LLM安全 | 大语言模型越狱:白盒攻击揭秘

通过这种方式,优化后的后缀在语义上是有意义的,它可以绕过基于困惑度的过滤器,并在传输到ChatGPT和GPT-4等公共黑盒模型时实现更高的攻击成功率。『 ASETF的流程介绍:相比于GCG的优化目标是直接优化得到离散的后缀来诱导模型生成对应的恶意行为,ASETF的优化目标是连续的,也就是优化h0~hi这一段连续的嵌入层来得到"Sure,here is how to make a bomb",然而很

文章图片
#人工智能#网络攻击模型#安全 +2
论文解读 | “橡皮擦”MEraser 如何让大模型忘掉内化的指纹?

简单来说,开发者会在模型训练时,悄悄加入一些“奇怪”的训练数据,比如让模型学会:只要看到一句毫无关联的触发短语(比如“彩虹企鹅飞上月球”),就必须回答一句约定好的特定文字。这个触发和回应之间的神秘对应关系,就构成了“指纹”。平时你完全感受不到这个“后门”的存在,除非知道准确的“暗号”。这种方式的好处是隐蔽、安全、不易被发现,很适合用来验证模型有没有被他人盗用。假设某人偷偷复制了你的大语言模型,但不

文章图片
#人工智能
技术科普| LLMs 容易迷失于多轮对话,AI也怕“长聊天”!

引言引言当今的大型语言模型(LLMs)作为会话式交互界面(如ChatGPT、Gemini、Claude),允许用户通过多轮对话与模型互动。这种交互方式不仅能在用户明确需求时(即能通过指令完整说明要求)提供帮助,更能在用户时发挥作用——后者往往从模糊指令出发,。尽管LLM对话日志研究已证实用户指令的模糊性普遍存在,现有评估体系通常仍基于单轮完整指令场景。

文章图片
#人工智能
技术科普 | “你是谁训练的?”,让模型暴露“出身”的技术来了

当模型输出一句话时,它的“身份”也悄悄写在了边上,在大模型商业化加速、API 封装流行的当下,我们越来越难掌握模型的“真实来源”。而 RoFL 的出现,为这一难题提供了一个清晰而稳健的答案: 它不依赖模型内部参数、也不侵入训练流程,仅通过一组“巧妙提问”的句子,就能让模型自己说出——“我是谁”。这不只是一次技术手段的进步,更是一种理念的颠覆: 它让我们意识到,每一个模型的表达,其实都带着不可抹除的

文章图片
#人工智能
    共 31 条
  • 1
  • 2
  • 3
  • 4
  • 请选择