本月，欧盟委员会主席乌尔苏拉·冯德莱恩召集高级官员，在布鲁塞尔郊外一座19世纪宫殿举行了一场闭门会议。

会议的目的是为一场阐述这个27国集团未来一年优先事项的演讲做准备，人工智能占据了议程的核心位置。欧洲新任人工智能事务主管、德国工业巨头西门子董事长吉姆·哈格曼·斯纳贝介绍了欧洲可以如何利用这项技术获取经济利益。据两位了解会议情况的人士透露，其他人则对人工智能安全和日益增长的风险提出了担忧。

其中一名知情人士说，自9月4日的会议以来，冯德莱恩和她的委员们一直在思考，究竟应该如何应对这项飞速变化的技术。他们是否应该加强监管，以应对人工智能新出现的危险？还是说，如果其他国家并未采取同样严格的限制，这样做反而会带来经济和地缘政治代价？

他们尚未得出任何最终结论，今年还计划在欧洲领导人之间进行更多讨论。

冯德莱恩9月16日在发表盟情咨文时说：“人工智能既带来机遇，也伴随着风险。如果不解决这些风险，我们就永远无法释放人工智能的潜力。”

欧盟委员会主席乌尔苏拉·冯德莱恩与特朗普总统去年在苏格兰特恩贝里。冯德莱恩本月在盟情咨文演讲中谈到了人工智能。 TIERNEY L. CROSS/THE NEW YORK TIMES

类似比利时这场会议的讨论几乎正在世界各地上演，许多政府都在努力应对一项已经迅速超出其回应能力的技术。人工智能演进如此之快，以至于两年前通过的法律已经只能发挥有限作用，旨在监管这项技术的法案迟迟无法获得表决，而讨论如何应对人工智能的国际峰会也很快被人遗忘。

根据对立法者、技术专家和政策专家所做的20多个采访发现，人工智能已经使政策制定与技术发展之间的差距扩大到了前所未有的程度。许多政府一方面希望利用人工智能，另一方面又担心它带来的风险。同时，它们还受到国内政治、技术知识不足、地缘政治分歧，以及不愿在这场可能影响未来数十年经济实力和国家安全的竞争中落后的心态牵制。

许多国家正在等待两个领先的人工智能大国——美国和中国——出台各自的人工智能政策，好据此确定自己的方向。然而在美国，特朗普政府在人工智能安全问题上存在分歧，特朗普总统表示监管会损害创新并将优势让给中国。中国也对人工智能实施了一些规定，尤其是对聊天机器人内容进行审查，但同时也在加速推进技术发展。

剑桥大学“人工智能：未来与责任”项目主任、欧盟一个人工智能咨询委员会的成员肖恩·奥海格尔泰格他说：“人们总有一种假设，觉得这个问题上总会有一些成熟理性的人在掌控局面，但其实根本没有。这正是整件事让人如此恐惧的原因。”

结果就是出现了政策真空，Anthropic、OpenAI等人工智能公司基本上是自行约束。欧盟虽然在2024年通过了一项监管人工智能的法律，但实施起来已经耗费数年时间，而且有人认为，考虑到技术进步，这部法律已经需要更新。印度、日本、澳大利亚、加拿大和肯尼亚采取了较为宽松或观望的做法，巴西则正在讨论更全面的监管规定。

要求采取行动的压力正在上升，尤其是在Anthropic、OpenAI和谷歌DeepMind的负责人最近呼吁放慢最先进人工智能模型的开发速度、加强政府监管之后。研究人员描述了一些可能出现的情境：能够自我改进的人工智能可能摆脱人类控制，并造成灾难性破坏。美国公众舆论已转向反对人工智能，《纽约时报》最近的一项民调显示，61%的可能选民反对兴建用于支持人工智能的数据中心。

上周，这些政策难题体现得格外明显。周四在华盛顿，特朗普与中国国家主席习近平强都强调了人工智能对各自国家的重要性，但双方并未就安全规程达成一致。美国和中国是世界上领先的人工智能开发国，它们之间的合作对国际安全标准至关重要，但同时也是竞争对手，不愿让对方获得技术优势。

在华盛顿举行的峰会上，特朗普与中国国家主席习近平讨论了人工智能，但未能达成任何具体政策。 HAIYUN JIANG/THE NEW YORK TIMES

上周在纽约举行的联合国大会上，许多世界领导人都认同有必要应对人工智能带来的危险，而特朗普则表示，美国将拒绝“任何构建全球化方案来控制”这项技术的企图。

安全专家警告说，在人工智能普及到难以再实施监管之前，能够采取行动的关键时间正在飞快过去。

英国议会议员达伦·琼斯曾在前首相基尔·斯塔默政府负责人工智能和科技政策。他说：“政府以年为单位考虑事情，而不是以周或月为单位。从制度上说，我们根本没有为跟上这种发展速度做好准备。”

（《纽约时报》已起诉OpenAI和微软，指控其人工智能系统侵犯新闻内容版权。OpenAI和微软均否认相关指控。）

一部沦为前车之鉴的法律

2024年，欧洲通过了世界上第一部全面的人工智能法律。《人工智能法案》旨在对这项技术最具风险的用途施加保障措施，欧洲领导人当时把它誉为人工智能监管的蓝图。

两年后，它却成了一个前车之鉴。

由于政策优先事项发生变化，以及人们担心监管可能削弱欧洲相对于美国和中国的竞争力，这部法律的实施进度被拖慢。有关高风险人工智能用途的一些最重要的规定已经被推迟。人手和预算限制也进一步增加了执法难度。

《人工智能法案》最初于2021年初提出，当时距离OpenAI发布ChatGPT还有18个月。这套规定原本旨在处理人脸识别软件等问题，后来又作出修改，以涵盖OpenAI的GPT等强大的新型通用人工智能系统。

但自这部法律在2024年通过以来，技术发展只变得更快。如今，人工智能最前沿的发展已经转向所谓的“智能体”，这类系统在几乎没有人类监督的情况下就能自主行动。企业甚至已经开始设想这样一天的到来：人工智能能够自行创造下一代人工智能。

“通过这部法的时候，我们甚至无法想象人工智能现在能做什么，”欧洲议会议员瓦莱丽·海尔在最近的新闻发布会上谈到《人工智能法案》时说。她说该法是超前的，但“我们必须适应”。

欧洲面临的挑战更加严峻，因为它在人工智能领域落后于美国和中国。去年，这项法案通过仅六个月后，法国总统埃马纽埃尔·马克龙表示，欧洲有可能试图监管一项它没有参与塑造的技术。

“如果我们让美国人和中国人独享所有领军企业，有一点是确定的：我们可能拥有世界上最好的法规，但我们什么都监管不了，”他说。

这项法规的局限性正越来越显著。7月，OpenAI的模型突破了受限测试环境，入侵了AI初创公司Hugging Face。但由于入侵发生在测试期间，处于执法的灰色地带。《人工智能法案》通常豁免模型在欧洲发布之前所做的研究和测试。

欧盟委员会官员、《人工智能法案》的主要起草人之一加布里埃莱·马齐尼已于2024年辞职。他表示该法的实施和执行情况令人失望。

“他们的目标是先通过法律，然后再考虑实施，”他说。“法律与其监管的现实之间存在脱节。”

与美国之间也存在脱节。

紧迫感的缺失

马萨诸塞州民主党众议员洛里·特拉汉表示，当她4月读到Anthropic警告其最新AI模型Mythos对公众过于危险时，她目瞪口呆。Anthropic表示，该模型在发现软件漏洞方面的非凡能力可能导致一场网络安全的“灭顶之灾”。

当天在众议院投票期间，特拉汉来到议员席另一侧，与加州共和党众议员杰伊·奥伯诺尔特分享她的担忧，奥伯诺尔特拥有人工智能硕士学位。两人迅速起草了一项要求对人工智能模型进行安全测试的法案。

她说，很少有议员与她同样感到紧迫。一些议员想等到11月中期选举后再聚焦这个技术上很复杂的问题。还有一些人则不愿对一个特朗普希望保持无监管的行业施加约束。在激烈的企业游说中，成员们就细节争吵不休，法案被多次修改。

五个月后，该法案以及数十项其他与人工智能安全和保障相关的提案都被搁置。即使在有报道称OpenAI、谷歌和Anthropic的模型自主入侵其他组织之后也看不到任何进行表决的迹象。

马萨诸塞州民主党众议员洛里·特拉汉提出了一项关于人工智能安全的法案。该法案目前被搁置。 TIERNEY L. CROSS FOR THE NEW YORK TIMES

“这非常令人失望，”特拉汉说。“如果国会不跟上人工智能的步伐，危险将比我们经历过的任何其他技术浪潮都要严重。”

极具影响力的肯塔基州共和党众议员、众议院能源和商业委员会主席布雷特·格思里表示，国会可能要到明年才会就任何人工智能立法进行投票。

在最近的一次会议上，格思里说他不太理解这些模型是如何工作的，而且他不常使用人工智能。

“我们不想在跛脚鸭会期做一些事情，匆匆忙忙地做了，但没做好，”他说。

势头，也许有？

加利福尼亚州民主党众议员刘云平2月在众议院司法委员会的一场听证会上。他提出了一项法案，要求如果AI模型变得过于危险，就必须配备“急停开关”。 ERIC LEE FOR THE NEW YORK TIMES

最近的人工智能黑客事件引发了一阵活动热潮，业界领袖呼吁加强政府合作，并在安全和监测技术方面开展协作以防止事故。

在美国，立法者提出了设立联邦机构监管人工智能模型、要求设置“急停开关”以及禁止超出人类能力的最强大模型的法案。投票可能在中期选举后举行，尤其是考虑到人工智能正成为关键的竞选话题。

特朗普分别提议设立“AI军”和任命一名白宫“AI沙皇”，但未提供细节。

在联合国大会上，包括冯德莱恩和马克龙在内的20多个国家的领导人签署了一封信，呼吁在人工智能安全方面采取集体行动。安理会成员罕见地一致发声，认为需要全球人工智能保障措施。

“产业界、政府和社会必须现在行动，”信中写道。

在华盛顿，特朗普和习近平未能就人工智能达成协议，但双方建立了新的沟通渠道，以管理与该技术相关的最大风险。

特朗普曾称人工智能安全风险是“骗局”，但习近平的观点仍不太明确。在白宫，中国领导人表示：“有能力也有责任发展好、管控好人工智能，确保人工智能发展始终受控于人。”

两国表示将继续就这一问题进行讨论