技术前进的脚步，第一次被它的创造者们集体拉住了衣袖。

超过1000位科技领袖正共同发出一个声音：暂停开发“超级智能”，直到我们确认它安全可控！这份由未来生命研究所发起的联合声明，已经汇集了3193个签名，而且数字还在持续增长。

名单上的名字令人惊叹：从“AI教父”杰弗里·辛顿、 Yoshua Bengio，苹果联合创始人史蒂夫·沃兹尼亚克，到中国科学院院士姚期智、清华大学智能产业研究院院长张亚勤。

甚至还有前美国国家安全顾问苏珊·赖斯和特朗普的盟友史蒂夫·班农。这种跨越政治立场的联合极为罕见。

---

01 一场悄无声息的危机

当我们在为ChatGPT能写诗作画而惊叹时，科技巨头们已经在追逐一个更遥远的目标——超级智能。

所谓超级智能，是指在所有核心认知任务上全面超越人类能力的人工智能形式。它不再是简单的工具，而是一种可能全面压制人类智能的存在。

与当下绝大多数公司研发的通用人工智能工具不同，超级智能的前景引发了业界深刻的担忧。该声明称，许多顶尖AI企业已经公开宣布将在未来十年内实现超级智能的构建目标。

这引发了从“人类经济价值丧失与权力剥夺、自由与公民权利沦陷、尊严及控制力瓦解，乃至国家安全风险甚至潜在的人类灭绝”等一系列关切。

02 签名背后的深层忧虑

“现代AI教父”Geoff Hinton和Yoshua Bengio的参与尤其引人注目。这些正是当初推动深度学习革命的核心人物，如今却站出来呼吁审慎前行。

参与联署的北京前瞻人工智能安全与治理研究院院长、中国科学院自动化研究所研究员曾毅直言：“目前我们还没有坚实的科学证据和切实可行的方法来确保超级智能的安全”。

他曾在一场央视直播中断言：“如果以50年为限，超级智能一定会到来”。但当这一天逼近，我们是否做好了准备？

“世界尚未准备好迎接不是可控工具的超级智能。” 曾毅在他的个人社交平台上写道。这句话背后，是许多AI研究者共同的夜不能寐。

03 不只是学者们的忧虑

这股担忧已经超越了学术圈，蔓延到政治与社会治理层面，成为全球公共议题。

前美国参谋长联席会议主席迈克·马伦的加入，暗示了对国家科技安全的严重担忧。而英国王妃梅根与史蒂夫·班农的同时出现，更显示出这一议题已经跨越了传统的政治分歧。

同期的一份美国全国性民意调查显示，公众对当前人工智能的发展方向普遍不满。仅有5% 的受访者支持目前“无监管的AI开发现状”，而高达73% 的受访者支持建立更为严格的监管机制。

04 并非首次警告

这已不是科技界第一次拉响警报。早在2023年，包括马斯克、沃兹尼亚克在内的1000多名人工智能专家和行业高管就曾集体签署公开信，呼吁人类暂停开发更强大的人工智能至少6个月。

更早之前，著名物理学家霍金生前曾与多位科技界名人发表联署公开信，表示人工智能对人类的威胁更甚于核武器。

然而，与以往不同的是，本次联署的规模更大，参与人员的背景更加广泛，且特别明确地指向了“超级智能”而非一般的人工智能。

05 超级智能的另一面

在警告声中，也有学者试图勾勒超级智能的积极愿景。曾毅认为，一旦选定了正确的方式去构造AI，它的智能水平必然会超越人类，但与此同时，受益于正确价值护栏的超级智能也可以是超级利他的，超级共情的。

他反而认为 “拥有自我的AI才会令人类社会更安全”。

图灵奖得主约书亚·本吉奥则指出，要安全地迈向“超级智能”，我们必须通过科学手段设计出在根本上无法伤害人类的人工智能系统——无论是由于目标偏差，还是被恶意利用。

06 未来之路

从宏观趋势看，AI风险治理的国际分歧正在加剧。美国与欧盟正推动不同版本的“AI法案”，其中欧盟强调透明度与可追溯性，美国则侧重市场自律与行业标准化。

有分析认为，此次倡议或可推动G20或联合国层面的技术伦理议题重启，使AI治理从自律阶段走向多边协商阶段。

科技界对人工智能的看法越来越两极分化：一方认为它是推动社会进步的强大力量，理应不受限制地发展；另一方则担忧其潜在风险，主张加强监管。

然而，即使是马斯克和奥特曼等世界领先人工智能公司的领导人，过去也曾警告过超级智能的危险。

---

Meta建立了“超级智能实验室”，阿里等科技公司也纷纷布局类似领域。但当这些努力可能被随时叫停，科技公司们将如何应对？

技术前进的脚步从不停歇，但这一次，它的创造者们选择了拉紧缰绳。这或许不是阻止，而是一次必要的深呼吸。