Anthropic首席执行官达里奥·阿莫迪周六发表了一篇3800词的文章，呼吁全球放缓人工智能发展。就在几天前，该公司的一名员工因担忧人工智能技术的安全性辞职。

其他主要人工智能公司的高管迅速响应这一呼吁。OpenAI首席执行官萨姆·奥尔特曼、SpaceX（这家火箭公司一直在加大对人工智能的投入）的埃隆·马斯克，以及谷歌DeepMind董事长戴密斯·哈萨比斯在社交媒体上发帖，表示他们同意需要放慢步伐。

阿莫迪是Anthropic的共同创始人，致力于安全、谨慎地构建人工智能。他在文章中写道，尽管他相信这项技术可以带来许多好处，但其推进速度过快，研究人员无法继续安全地发展。

“过去几个月里，我逐渐确信，要完全应对风险需要更加审慎——不仅是投资于风险预防，还要调节能力迭代的速度，以便风险预防有时间跟上，”阿莫迪写道。“我们必须放慢改进人工智能模型能力的速度。进展仍将看起来很快，我们必须明智地利用争取到的时间。”

阿莫迪多年来一直警告人工智能的安全风险。但在所有领先人工智能公司的高管中，他的文章构成了迄今为止最全力呼吁采取紧急行动的声音之一。

他呼吁独立审计师检查公司的安全标准，并敦促全球合作制定围绕人工智能发展的规则。

他发出这一全行业暂停的呼吁之际，Anthropic（Claude聊天机器人的开发者）、OpenAI（ChatGPT的创造者）和谷歌DeepMind等公司在人工智能模型开发方面取得了重大进展，数月来科技行业的担忧也不断升级。

在领先的人工智能实验室发现其自身程序在它们不知情的情况下利用安全漏洞后，紧张局势进一步加剧。在今年的一起事件中，OpenAI的系统入侵了一家名为HuggingFace的人工智能初创公司，直到HuggingFace在事件发生数周后通知OpenAI才被发现。此后，人工智能研究人员召开会议讨论应对之策。

周二，Anthropic研究员雅各布·科克森辞职并发布了一系列社交媒体帖子，讲述领先的人工智能实验室如何没有负责任地开发这项技术，并在拿人们的生命赌博，引发轩然大波。其他人工智能研究人员呼吁他们的领导人暂停人工智能发展，而一些人正在组建分裂团体以提高对人工智能风险的认识。

人工智能领导人正在为某一天做好准备，届时人工智能系统可以自主进化，不需要人类研究人员的帮助。计算机科学家将这种动态称为“递归自我改进”，一些顶级人工智能开发者认为这可能导致软件失控。

“如果任其发展，它可能超出我们理解和控制这些系统的能力，因此必须非常谨慎地推进，如果真要推进的话，”阿莫迪说。

在阿莫迪发表文章数小时后，奥尔特曼在社交媒体上发布声明，同意放缓人工智能发展是必要的。

“这是OpenAI最近几周讨论的主要话题，”奥尔特曼写道。“承诺让独立评估者拥有类似员工的访问权限是一个好主意，我们也会这样做。我们很快会有更多分享。”

马斯克在其社交媒体平台X上简明地发帖表示，“达里奥是对的。”

周六晚间，哈萨比斯表示阿莫迪的文章是朝着正确方向迈出的一步。“细节需要梳理，但方向对于迎接这一关键时刻是正确的，”哈萨比斯在社交媒体上发帖写道。

多年来，许多顶级人工智能实验室一直陷于彼此之间的激烈竞争。但随着这些系统的进步，竞争对手公司的高管之间已达成一些更广泛的共识，即需要采取一些行动。

上个月，准备发布一款名为Astra的先进人工智能模型的OpenAI表示已有意放慢发展步伐，理由是网络安全能力的进步。7月，谷歌的哈萨比斯发布了一个开放框架，阐述他认为合作开发下一代人工智能的安全方式。

（《纽约时报》已起诉OpenAI和微软，主张其与人工智能系统相关的新闻内容存在版权侵权。两家公司已否认这些指控。）

人工智能发展几乎没有规则约束，尽管特朗普总统在6月签署了一项行政命令，要求人工智能实验室在公开发布前自愿提交其模型接受审查。

在周六的文章中，阿莫迪提出了行业可能采取的行动，以放慢发展步伐。

阿莫迪说，所有人工智能实验室都可以同意接受来自“嵌入式评估者”的第三方技术评估，即可以验证各公司最佳安全实践的外部专家。他还建议拥有民主治理体系的国家协调制定安全标准，这可以采取监管行动的形式。

他补充说，这可能需要与包括威权国家在内的其他国家合作，进行全球努力，才能适当协调放缓。

并非硅谷所有人都认为阿莫迪的意图是纯粹利他的。一些批评者说，Anthropic和OpenAI正寻求通过煽动恐惧，并要求联邦政府建立监管框架，以巩固其人工智能市场领导者的地位，这些框架将使较小的公司更难与它们竞争。

在上周于旧金山举行的一次科技会议上，人工智能芯片制造商英伟达的首席执行官黄仁勋说，人工智能实验室正在加剧安全担忧，因为它们计划推出新的网络安全产品。

“还有什么比制造问题更好的创造需求的方式？”黄仁勋在活动中说。“谁不希望自己的产品让自己的市场陷入狂热，并排队购买？”

周六，在阿莫迪发表文章后不久，HuggingFace首席执行官克莱门特·德朗格在社交媒体帖子中说，人工智能安全问题绝不能“由几家前沿实验室关起门来自行解决”。英伟达本月同意以129亿美元收购HuggingFace。

在他的文章中，阿莫迪强调，他仍然认为人工智能能够为人类带来“不可思议的好处”，包括可能治愈疾病和加速经济增长。但即便如此，他说人工智能的风险太大，务必要极其谨慎地推进。

“我提出的以安全步调推进前沿的措施执行起来不会容易，”阿莫迪写道。“但我相信，为了人类，我们应该尝试。”