舒畅：人工智能飞速发展带给人类的是祸还是福？

最近有关通用人工智能（AGI）的讨论越来越深入，其中一些最新报道让我感到震惊。原来我是一个乐天派，总觉得人工智能再聪明，也不过是人类发明出来的工具。最坏的情况无非就是把电源关掉，它自然就停止工作了，又怎么可能毁灭人类呢？但最近看到的一些资料，却让我开始重新思考这个严肃的问题。

到目前为止，世界上所使用的人工智能仍然是人类的辅助工具。无论是ChatGPT、Claude （小龙虾）、Gemini、Grok还是中国的DeepSeek，它们都已经能够帮助人们写文章、翻译语言、编写程序、分析资料、辅助科研、生成图片和视频、自动化办公以及充当勤勉努力毫无怨言的个人助理。尤其是ChatGPT，已经成为很多人每天使用的工作伙伴。Claude则在长文章处理、逻辑分析和代码编写方面表现特别出色。总的来说，这些人工智能工具正在迅速改变人们工作和学习的方式。然而，越来越多硅谷人工智能公司的创始人和CEO开始担忧，人工智能的发展速度可能很快超过人类社会能够理解、控制和管理的速度而产生可怕和难以预测的后果。其中就包括了Claude的Anthropic公司创始人兼CEO达里奥·阿莫代伊。阿莫代伊提出暂停或减缓人工智能发展的呼吁。另一位人工智能之父杰弗里·辛顿（Geoffrey Hinton）现代深度学习技术最重要的奠基人之一，并因此获得了2024年诺贝尔物理学奖。他也同样非常担心人工智能的智力远远超过人类带来的不可预测的后果。

阿莫代伊是开发Claude（华人称为小龙虾）的Anthropic公司创始人兼CEO。他曾经连续发表多篇文章和声明，引起广泛关注。Anthropic是一个非常有前途的AI原创公司.已经获得数百亿美元投资，而Claude也被越来越多企业采用。阿莫代伊透露，目前在Anthropic内部，许多项目已经大量使用Claude辅助编程，有些项目中AI参与编写的代码比例已经超过80%，软件工程师的开发效率明显提高。他甚至预测，未来3至6个月内AI可能编写90%的代码，未来一年左右AI可能编写接近100%的代码。这不但意味着大量的程序员将失业，更深层次的一个问题是阿莫代伊担忧未来的人工智能软件普遍具有为“Recursive Self-Improvement”，也就是递归式自我改进的能力。顾名思义就是人工智能本身就自我改进、自我修改和产生下一个版本的代码（就好像我们现在使用的微软它用一个版本更新到下一个版本一样）。如果这种过程不断循环下去，人工智能从前一个版本进化到下一个更完善的版本，就会越来越优化、越来越完善、越来越聪明。

与传统的工业革命不同，蒸汽机不会发明下一代蒸汽机，汽车不会设计下一代汽车，互联网也不会自动升级自己，但人工智能却能主导自己的升级而且有可能是悄悄的进行而主人不知。其结果就是这种新的人工智能（现在有人把它称为人工智能体），它的智力、逻辑分析水平、系统的智商将很快的超越人类，甚至他的智商远远超过爱因斯坦。这个说法听起来十分夸张，但这个预测是合理的。爱因斯坦再伟大，也只是一个人，他的时间、精力、生命都是有限的，他的知识面也是有限的；而人工智能体却可极快的了解信息、分析信息进行推理,包括无数次迭代和模拟，有可能得出连爱因斯坦都得不出的更深层次的智慧聪明的结论

在这里真正可怕的问题不是它比人类聪明，而是它已经显示出这种虚构的智能体具有独立思考能力。人们担忧的是这种类型的先进的智能体是否仍然愿意服从人类,把人类利益放在第一位,是一个很大的未解决的问题！！

目前我已经看到有些报道，其中提到今天已经出现了“人工智能体（AI Agent）”的雏形。一个具体的实例就是：当使用它的主人准备去日本参加会议，要求他帮助订机票和旅馆，它不仅完成任务：预订机票，预订酒店、和会议筹办方沟通有关会议日程、制定交通路线以及预订出租汽车、以及根据它所了解的主人的口味的三餐安排，还能够根据他对主人平时兴趣的了解，主动的安排会议结束上飞机回程之间还有一段时间的安排，短程的观光旅游活动。这例子说明人工智能已经开始从“回答问题”走向“主动地替主人办事”。这显示出今天的这种人工智能体雏形已经出现，当媒体报道这个事情感到欣喜的时候,却引起了硅谷AI专家的担忧! 事实上，现在连许多计算机科学家都无法完全解释大型人工智能模型究竟是如何产生那些复杂的思考能力的。如果有一天，它的能力继续提升，而人类又无法理解其内部运作机制，那么人类是否还能真正掌控它？这正是阿莫代伊最担忧的问题。

我个人觉得，这个问题可能没有简单答案。我想起冷战时期的核武器竞赛。当年美国担心落后于苏联，苏联担心落后于美国，于是双方不断发展核武器，最终全世界拥有的核弹数量足以毁灭人类许多次。人工智能今天面临的处境有些类似。美国担心落后于中国，中国担心落后于美国，各自都认为自己在这方面的研发不能停顿，因为一旦停顿，并将落后,因而你追我管。那么先进的人工智能体系最后是实现了但也带来了人类未知的这种风险——一旦能工智能体的能力超过人类，其后果难以预测！！！正因为如此,阿莫代伊提出暂停或减缓人工智能发展的呼吁，如果仅仅对美国国内进行呼吁其实作用并不大中国也不会听他的还会继续搞自己的所以这种风险仍然存在。

我的结论是：今天人工智能高速发展对新产品人工智能体是人类历史上最伟大的发明，然而这种人工智能体会不会同时也是人类生存的最大风险以及如何解决?

现在恐怕谁也无法给出明确答案。这确实是一个极大的风险和值得担忧之处！