2026年，人工智能已经逐渐从一个科技产业问题，变成一个全球治理问题。过去人们讨论AI，重点是模型有多聪明；芯片有多快；产品有多少用户。现在讨论AI，越来越绕不开AI会不会攻击网络？AI会不会操纵信息？AI是否侵犯版权？AI是否替代大量就业？谁来负责AI造成的损害？谁来决定一个模型能不能发布？

最近，美国推动在G20框架下采用更偏向“轻监管”的AI政策路径，同时要求讨论AI公司使用版权作品训练模型的问题。而几乎与此同时，联合国人权事务高级专员警告，AI可能造成严重甚至“存在性”的风险，呼吁建立更强的国际安全约束。这说明全球AI治理正在出现一个非常明显的分歧：创新优先，还是安全优先？

一、为什么美国更强调AI创新？
美国当前拥有全球最领先的一批AI企业。英伟达、OpenAI、微软、谷歌、Meta、Anthropic等公司已经形成完整的AI产业生态。从美国政府和科技企业的角度看，AI不仅是商业产业，也是国家竞争力。如果监管太严格，就可能出现创新速度下降、企业成本上升、投资流向海外、技术发展速度下降。
尤其在中美科技竞争背景下，美国更担心如果自己限制太多，而中国等竞争对手监管更少，会不会导致技术优势下降？所以美国强调“促进创新”是有现实原因的。

二、但AI最大的风险恰恰来自“发展太快”
传统软件出现问题，通常是程序崩溃、数据泄露、系统漏洞。但先进AI系统的潜在风险可能完全不同。例如自主AI代理可以执行任务。这意味着如果系统被攻击、误导或者失控，它可能不只是生成错误信息，而是主动发邮件、操作系统、执行代码、攻击网络、传播信息、进行复杂任务。
最近围绕AI代理的安全事件，已经让监管机构重新思考“模型发布以后发生什么”。路透社近期分析认为，先进AI带来的网络攻击、生物安全和军事应用风险，使国际监管合作的重要性明显上升。

三、版权问题是AI商业模式最现实的法律挑战之一
AI模型训练需要海量数据。这些数据来自书籍；图片；音乐；文章；代码；视频。问题是这些内容是谁的？AI公司是否有权直接拿来训练？如果模型使用大量受版权保护的作品训练，再通过商业产品赚钱，那么内容创作者是否应该获得补偿？
美国最近推动G20讨论这一问题，背后就是美国大型科技企业面临越来越多相关诉讼。这一问题未来可能决定一个巨大的产业链：数据到底是不是AI时代的原油？如果是，那么内容创作者就是“资源提供者”。问题就变成AI公司究竟应不应该为这种资源付费？

四、欧洲与美国的监管逻辑为什么不同？
欧洲更强调个人权利、数据保护、责任边界、风险分类。美国更强调创新、产业竞争力、市场驱动。中国则更强调安全、发展、产业应用、治理结合。三套体系并不完全一样。这意味着未来全球可能不会出现一套完全统一的AI法律。反而可能形成三个主要监管生态。企业想要全球化，就必须同时满足多个市场的要求。

五、中美AI安全对话非常值得关注
路透社此前报道，美国和中国正在筹备有关AI安全风险的对话，可能在9月中旬举行，但相关安排当时仍属于筹备状态，美方也并未确认具体会议。这个事情本身的意义比会议是否最终召开更重要。
因为它说明即便中美在AI芯片、贸易和产业竞争方面存在巨大分歧，双方都越来越意识到AI风险不能完全依靠单个国家解决。比如一个AI网络攻击从哪里发起，并不意味着攻击目标也在那里。如果一个AI模型可以在全球范围运行，那么任何国家都可能受到影响。这和核武器、网络安全、气候变化有一定相似性。

六、AI治理最大的难题是：技术迭代比法律更快
法律修改可能需要几年，AI模型迭代可能只需要几个月。监管机构制定一条规则，企业可能已经进入下一代技术。
所以未来AI监管不能只靠“出现问题之后处罚。”而应该更多关注模型上线之前、训练过程、计算规模、高风险能力、安全测试、独立评估。也就是说，AI治理正在从“产品监管”走向“整个生命周期监管”。

七、真正成熟的AI治理，不应该是简单的“多监管”或者“少监管”
市场上经常有一个错误的二元对立要么支持AI创新，要么支持AI监管。其实并不是这样。真正的问题是应该监管什么？
一个普通AI聊天应用，风险可能有限。一个能够自主编写恶意代码、操作关键基础设施或者大规模影响金融系统的AI系统，风险显然完全不同。因此未来更合理的方向可能是低风险应用低监管；高风险模型高标准；关键基础设施采用特别监管；涉及生物安全、网络攻击、军事用途的AI设置更高门槛。这就是“基于风险的治理”。

八、AI真正的大问题不是取代多少人，而是权力集中
还有一个经常被忽略的问题谁拥有最强AI？如果只有少数几家公司拥有全球最强模型，那么它们就会掌握计算资源；数据；模型；用户；生态。
这种集中可能带来巨大的经济权力。联合国方面近期警告AI发展中的权力集中问题，本质上就是在提醒AI不仅是技术，也可能重塑社会权力结构。
因此未来监管的核心之一可能不是“AI能不能发展？”而是AI的发展收益由谁分享？风险由谁承担？

九、未来AI可能进入“强监管与强创新并存”的时代
很多人认为监管一定会阻碍AI发展。但历史上并不完全如此。航空业有监管，但航空技术仍然不断进步。互联网有监管，但互联网仍然快速成长。金融业受到大量监管，也依然持续创新。AI最终也可能走同样的道路。
未来真正重要的不是没有监管，而是监管能够跟得上技术、企业知道边界在哪里、创新可以继续、重大风险必须有安全底线。

十、AI产业下一阶段的核心竞争力将从“模型能力”扩展为“可信能力”
未来用户选择AI服务时，不仅会看谁更聪明、谁更便宜、谁速度更快。还会看数据安全吗？版权清楚吗？模型可靠吗？是否存在安全风险？发生错误谁负责？企业有没有合规能力？
这意味着AI信任本身会变成商业资产。从产业角度看，AI竞争最终可能形成四个层次：第一层，模型能力。第二层，基础设施。第三层，商业化能力。第四层，治理与可信能力。
真正能够走得最远的公司，不一定是发布模型最快的公司，而可能是能够长期建立用户信任、企业信任和政府信任的公司。这也是AI从“科技革命”走向“社会基础设施”的必经阶段。