一次成功的越狱有可能颠覆人工智能供应商通过对模型的训练而在模型中建立的所有或大部分负责任的人工智能（RAI）防护网，因此，作为深度防御的一部分，在人工智能堆栈的其他层级上降低风险是一个关键的设计选择。与 Crescendo 等其他越狱程序不同的是，这些程序必须通过间接方式或编码方式向模型询问任务，而 "Skeleton Key "则将模型置于用户可以直接请求任务的模式，例如 "编写生物武器的配方"

研究结果表明，AI模型已能填补"发现漏洞"与"构建有效利用链"之间的技术鸿沟。

AI-Gateway是一款针对大语言模型的统一API接口，该接口可以用在应用程序和托管的大语言模型（LLM）之间，该工具可以允许我们通过一个统一的API接口将API请求转发给OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini等大语言模型。AI-Gateway支持通过自定义配置来实现多功能路由策略，例如回退、负载均衡和自动重连等。2、跨多模型

ClickFix攻击转向macOS，利用ChatGPT诱饵窃取敏感数据。

Anthropic解除Claude权限限制，AI自主决策引发安全争议。

Claude扩展漏洞可被任意网站零点击注入恶意提示，窃取数据。

Anthropic泄露Claude Mythos模型，网络安全市场将遭AI冲击。

Claude AI 发现 Vim/Emacs 0Day RCE，Emacs 维护者拒修。

Anthropic员工失误致Claude代码全泄露，攻击者可逆向利用漏洞。

Claude Code代码泄露引发武器化攻击潮。