一段检测代码引发的风暴

近日,中国科技巨头阿里巴巴内部发文,自 7 月 10 日起公司全面禁用 Claude Code,连带 Sonnet、Opus、Fable 等系列的模型也被要求从工作电脑中卸载,使用自研的 Qoder 代替。阿里方面的说法是,安全研究人员发现 Claude Code 包含隐藏代码,检测用户是否在中国或者率属于中国的人工智能实验室。因而在经过全面的评估后,将 Claude Code 添加到“具有安全漏洞的高风险”软件列表中。

事情的引爆点其实挺戏剧化的。6 月 30 号,Reddit 上有个用户在恢复 Claude Code 被禁用的远程控制功能时,顺手把代码逆向了一遍,结果挖出一段从 4 月 2 号发布的 2.1.91 版本就存在的检测逻辑,这段代码会在用户走代理的情况下,通过检查系统时区是否为 Asia/Shanghai,同时把代理地址去匹配一份固定的名单,据称里面包含了阿里、百度、字节等中国 AI 实验室的标识。而且这部分代码使用 XOR 异或方式加密了,目的就是为了防止被静态分析工具直接扒出明文。这种做法说实在的,搁谁都会新生警惕。

截止目前 Anthropic 并没有做出正式的回应,但是负责 Claude Code 的工程师 Thariq Shihipar 在 X 发文解释,这是团队三月份上线的一个实验,本意是防止未授权的代理商滥用账号,同时也为了防止模型蒸馏。他还提到其实早就想把这段代码下掉,只是一直没顾上,对应的 PR 是在 Reddit 帖子发出后的第二天,也就是 7 月 1 号合并的。巧合的是,这个时间点正好也是 Anthropic 恢复 Fable 5 和 Mythos 5 海外访问权限的日子,两者之间有没有关联,目前没有更多的信息可以佐证。

被动防守之后的战略相持

摘要:此次事件是中美 AI 竞争长期对峙的一部分,Anthropic 此前已多次指控中国 AI 公司"窃取"模型能力,而中国企业的反击标志着从被动防守转向战略相持阶段。
拉长时间看,这次禁用并不是孤立的事件。早在 6 月 10 号,Anthropic 就已经致信美国参议院,指控阿里通义千问实验室有关联的操作方,利用近 2.5 万个欺诈账号生成了 2880 万次交互,“窃取”其模型能力来训练自己的模型。根据参议院的回复,Anthropic 进行了全面的限制,在没有通知的情况下封禁了大量中国用户的账号。

一直以来,Anthropic 都是限制中国顶尖 AI 公司方面最积极也是最严格的,甚至连中国企业在海外设立的子公司也不放过。正因为如此才有很多的中国用户通过代理来访问 Claude 模型,也是为什么代理触发的检测程序看起来更像是专门针对中国人而设计的。

类似的指责并不是第一次,今年早些时候,Anthropic 声称 DeepSeek、Moonshot 和 MiniMax 等中国大模型公司采用“蒸馏”技术,根据 Claude 的输出训练自己的大语言模型。关于模型“蒸馏”是否侵权,业界并没有明确的法律和行业规范来界定,因而也产生了不少的模糊地带。但在这个领域中国大模型公司始终是处于被动地位,通常都是采用“不正面回应,打死不承认”的策略。

被爆出“检测门”后阿里迅速发起了反击。

说实在的,全公司禁用 Claude 从收入上对 Anthropic 的影响非常有限,本来产品就不能在大陆市场销售,大部分都是通过代理个人行为,这部分收入 Anthropic 还真不会看在眼里。

但对于一家有志于上市的公司,信任层面的污点会比短期的收入影响来的更加致命。今天可以检测中国企业,明天也可以检测其他企业,因此检测门暴露出来后同样也引发了国外用户的担忧。Anthropic 在企业市场一直在灌输“更重视安全”的口号,但又有哪家企业会放心的把自己代码库开放给有“后门”的 Claude 呢?

写在最后

摘要:中美 AI 竞争持续升级,中国在技术追赶中取得显著进步,企业和政府开始采取更主动的安全措施,预示着 AI 竞争可能进入新的对抗阶段。
从“政府禁售英伟达 GPU 限制中国超大算力集群建设”,到美国巨头抱团限制 API“风控”,大规模封禁中资企业账号……中美的这场 AI 之争并未停下来。

不可否认的是,在由 ChatGPT 引发的人工智能革命中,不管是“硬件”的 GPU 还是“软件”的大模型,中国都是落后于人的,然而时间终会改变这一切。

在 Arena 排行榜中,美国的顶尖模型和中国模型的差距已经到了39分,2023年5月这个差距是300多分,有些时候甚至可以甩掉美国的顶尖模型。

技术上的进步也让企业和国家敢于勇敢地说不,就在阿里宣布禁用 Claude 后不久,工信部发安全风险提示,Claude 存在隐蔽监控机制,须立即卸载或升级至最新的安全版本上去。

同时,腾讯、京东等互联网公司也都禁止 Claude 等国外模型的访问,表明中美的 AI 大战正由被动防守转向对峙阶段,也许不远的将来就会出现全面的反攻!

更多推荐