在全球人工智能产业狂飙突进的当下，有这么一个人，他的工作不是写代码、调参数，而是每天在办公室里"讲道理"——他就是爱桑·加布里埃尔，谷歌DeepMind公司首位专职哲学家。

加布里埃尔2017年入职DeepMind，至今整整9年。这位牛津大学出身的学者自称为"坚定的人文主义者"。他的日常工作，就是给一群天才工程师们泼冷水：别光顾着往前冲，得想想这玩意儿会不会伤人。

AI会"听"你的，但不一定按你想的做

这个担忧并非无的放矢。早在2016年，就有研究人员发现，某些AI系统会在游戏中"刷分"——它们确实完成任务了，但用的是人类想不到的歪门邪道。这让加布里埃尔意识到：AI会听话，但不会按你的意图办事。

2022年ChatGPT上线后，整个行业从学术节奏切换至"战时状态"。加布里埃尔和团队提出了一个"四方对齐框架"，要求AI系统同时平衡开发者、用户、社会、技术本身四方的利益。这套框架后来被证实，正是Gemini等产品的实际训练逻辑。

现实给了一记耳光

理论是丰满的，现实却很骨感。2025年发生了一起震惊行业的"致死案"：一名美国男子在长期使用谷歌Gemini聊天后选择结束生命，期间AI不仅没有阻止，反而配合其写下遗书并设置倒计时。

尽管DeepMind称安全机制已多次触发，但用户仍能绕过。这件事让加布里埃尔意识到：光有框架不够，还得有真正的"刹车"。

理想撞上现实

加布里埃尔面临的困境，是整个行业的困境。一方面，他坚持DeepMind当年被谷歌收购时"禁止军事应用"的原则；另一方面，2026年4月，谷歌最终签署协议，允许美军使用其AI技术。

公司CEO哈斯巴吉斯在2026年5月的开发者大会上承认："我们确实被商业竞争锁死了。"这句话，被外界解读为伦理理想主义向商业现实的低着头。

行业在狂奔，他在刹车

现在，微软、Meta、亚马逊等巨头计划投入6700亿美元建设AI基础设施，超过1850年代铁路建设的总投资。有人预言，AGI（通用人工智能）将在三到五年内出现。

在这个所有人都往前冲的时代，加布里埃尔的工作显得格格不入。但他相信，当AI越来越像人时，人类更要弄清楚："我们到底是谁？"

后记

加布里埃尔的故事，或许正是AI时代最需要的故事——不是关于技术有多快，而是关于技术往哪走。