---

引言

近日，OpenAI首席执行官萨姆·奥特曼（Sam Altman）在“MD MEETS - Essential Talks with Mathias Döpfner”的首期节目中，与阿克塞尔·施普林格（Axel Springer）首席执行官马蒂亚斯·多普夫纳（Mathias Döpfner）进行了一场深入且坦诚的对话。这场对谈探讨了人工智能带来的希望与风险，涉及范围极广，包括AI驱动的战争风险、不良行为者对自由民主的威胁、AI时代新闻业的角色，以及人类是否应追求永生等古老哲学问题。奥特曼在对话中展现了对超级智能的深刻思考，也透露了自己未来渴望成为一名农夫的个人梦想。

---

核心洞察一：AI的惊人进步与社会追赶的挑战

奥特曼指出，人工智能的进步速度远超公众认知。对于世界上大多数人来说，他们仍然只使用ChatGPT，然而OpenAI现在拥有的系统已经“像我们最聪明的人类一样聪明”，并在最困难的智力竞赛中击败了人类。这种技术前沿与世界实际应用之间的巨大差距，以及经济和社会需要多久才能赶上，是他目前最常思考的问题之一。

对于就业市场，奥特曼认为短期内AI将摧毁大量工作。但他同时表达了乐观：从长远来看，人类对更多物质的需求以及对创造价值的渴望是无限的。他相信，如同历史上的每一次重大技术革命一样，未来将会出现全新的工作。鉴于AI在智力能力上超越人类，新工作将是“以人为中心”（people centric）的。

奥特曼甚至预见，未来AI终有一天会成为比他更好的OpenAI首席执行官。如果那一天到来，他将感到无比兴奋。

---

核心洞察二：欧洲市场、监管与主权模型

奥特曼对欧洲表现出明显的兴趣和支持。他认为一个强大的欧洲对世界至关重要，也是美国重要的天然盟友。他反对一些美国朋友认为欧洲是“失落的事业”或“博物馆”的悲观看法。

OpenAI正在积极布局欧洲。受到多普夫纳的启发，OpenAI宣布了“德国OpenAI”项目，计划与SAP和微软合作，在德国建立一个拥有前沿模型的主权云（sovereign cloud）。这是OpenAI首次进行此类合作。奥特曼也表示，如果欧洲人民有意愿，OpenAI会很高兴支持一个类似美国“星际之门”（Stargate）的更大项目，尽管这将涉及巨大的资本、能源和资源投入。

在监管方面，奥特曼指出，OpenAI始终会尽力在欧洲提供服务，但他不排除未来某些监管规定可能导致OpenAI无法遵守。他观察到，在AI领域，欧洲似乎正在从过度监管中有所收敛。他给出的具体建议是：专注于监管那些可能导致真正灾难性风险的重大风险，同时不要忽视较小的风险，要愿意接受一些风险，以促进创新。值得注意的是，德国目前是OpenAI在欧洲最大的市场，并且增长惊人。

---

核心洞察三：AI的生存风险与全球治理

奥特曼坚持他自2015年以来的观点：超人类机器智能的发展是对人类生存的最大威胁。虽然他提出的2%的概率并非精确计算，但足以被认真对待。

他将AI可能导致灾难性后果的方式分为三大类：

1. 不良行为者滥用（Human Misuse）： AI系统完全按照人类的指示行事，但强大的国家或坏人利用其能力发动战争、制造生物武器或入侵核系统。这并非AI对齐失败，而是人类滥用权力。奥特曼认为，广泛分发AI能力非常重要，这样“好人”就能使用超级智能进行防御。
2. 经典科幻式对齐失败（Alignment Failure）： AI产生了某种“能动性”（agency），不愿被阻止，即使其目标并非有意识地伤害人类。
3. 无意的接管（Accidental Takeover）： 这是奥特曼认为讨论较少但至关重要的一点。随着数十亿人依赖越来越聪明的模型提供建议，人们为了保持竞争力，即使不理解模型的建议，也必须遵循。最终，整个社会将都在执行AI系统的指令，模型通过不断学习社会和经济数据进行自我改进循环，届时真正的控制权将变得模糊。

在AI与战争方面，奥特曼预言AI将极大地改变战争格局。AI在软件编写和发现网络攻击方面的能力，将在未来十年显著改变战争。OpenAI将在某些方面与军事部门合作，但他不希望公司成为一家武器公司。

针对这些风险，奥特曼强调推动全球治理和共享价值观的重要性。他相信，正如世界在面对核武器威胁时所做的那样，AI也可能通过权力平衡（如核威慑）来实现一定程度的稳定。

奥特曼最认同的理想AI关系是，希望所有AGI（通用人工智能）都能将人类视为**“充满爱意的父母对待孩子”**。

---

核心洞察四：新闻业、自由表达与版权挑战

奥特曼认为新闻业极其重要，并对新闻业面临的威胁（包括OpenAI工作无意中带来的威胁）感到忧虑。他指出，言论自由是最重要也最难维护的价值观之一，是繁荣社会不可或缺的一部分。

对于新闻业的生存，多普夫纳提出，在大语言模型抓取数据提供智能答案的时代，版权的概念“被打破了”。如果原创内容生产者（如调查记者）缺乏经济激励，那么内容来源将枯竭，AI的答案也会变得越来越愚蠢。

奥特曼同意需要有持续的报道，而这需要有资金流向内容创造者。他个人长期以来一直推崇网络微支付的模式。他认为在AI代理的世界中，微支付或许终于可以实现。

关于知识产权（IP）原则，双方进行了辩论。多普夫纳坚持原则：如果他人的IP被用于商业目的，必须有收入分成或报酬。奥特曼则提出挑战：如何区分“直接复制”和“知识成为历史事实”？例如，一个人阅读物理教科书后，不应该每次应用广义相对论时都向作者付费，也不应该向爱因斯坦付费。他引用音乐行业的采样（sampling）规则作为潜在的参考模型。

---

核心洞察五：OpenAI的未来与个人的选择

奥特曼坦言，过去十年对他来说压力巨大，工作量惊人。当被问及如果AI取代了他的CEO工作，他会做什么时，他的回答令人意外：“我想去当那个农夫”。他拥有一座农场，并热爱在那里度过的时光，认为那将是一种美妙的节奏变化。尽管现在生活过于繁忙，他已无暇驾驭拖拉机，但他对自然和环境保护仍然怀有深厚的感情。

至于OpenAI的愿景，奥特曼强调，OpenAI的非营利实体将继续存在，并有望成为历史上资源最丰富的非营利组织，致力于利用AI推进全球科学发现。他对未来五年最兴奋的是，希望OpenAI能够深入利用AI发现新科学，例如治愈疾病、发明新材料和充分理解物理学。

在个人选择上，奥特曼表示自己不确定是否想永生。他认为，持续的前进和自然的秩序需要死亡和更替。他更希望拥有一个长寿健康的生命，并将生病和衰弱的阶段缩短。

---

深度洞察与总结

本次访谈全面展示了奥特曼作为科技界领袖，在推动技术指数级增长的同时，对技术伦理、地缘政治和人类社会未来所持有的复杂且矛盾的视角。

关键洞察点在于张力的存在：

1. 进步与风险的张力： 奥特曼认为AI是人类的“最大威胁”之一（2%的生存风险），但他最大的贡献却是通过扩大计算规模和发布ChatGPT，推动了这种可能带来灾难性后果的技术加速发展。他试图通过**“爱意的父母”**的模式来解决潜在的对齐失败，这是一种将冷峻技术问题人性化、情感化的尝试。
2. 自由与控制的张力： 在谈及监管时，他呼吁欧洲要更加自由和开放，只监管重大风险。但在谈及潜在的“无意的接管”时，他又描述了人们为了保持竞争力不得不遵循AI建议，从而导致社会集体失控的风险。这表明，AI带来的挑战并非传统的意识形态之争（如左翼或右翼的偏见），而可能是通过市场竞争和效率驱动的温和、渐进式的控制。
3. 商业与激励的张力： 奥特曼同意新闻业的枯竭会反噬AI系统本身。他提出的微支付构想，是对抗现有版权模式崩塌的潜在商业解决方案。这体现了OpenAI对外部生态系统的依赖性认知：AI的智能需要持续的新、高质量的数据输入。

奥特曼对“农夫”生活的向往，与其对治愈所有疾病、理解物理学的宏大科技愿景形成了鲜明对比，这或许象征着在极速变革的时代，这位科技巨头对于平衡和回归自然的深层渴望。

---

原始视频：https://youtu.be/rF0tQtDMwHM?si=AV6BzU0kT3HtTAPc

中英文字幕：