舒畅世界观察：马斯克预测十年后的AI远比人类聪明最近，马斯克接受《经济学人》总编辑 Zanny Minton Beddoes 的长篇专访，对未来十年的人工智能作出了一系列令人震惊的预测。 马斯克认为，大约五年以后，人工智能的总体智力可能超过全人类智慧的总和；到了2036年前后，AI与机器人的发展可能彻底改变今天的经济和社会结构。大量今天由人类完成的工作，都由AI和机器人完成，而人类社会的物质生产将极大丰富，甚至进入他所说的“惊人富足的时代”。工作不再成为一种求生的需要，而是一种个人的兴趣。 这些预测听起来过于美妙，甚至难以置信。但是，人工智能领域的几位大师都曾经作出一些类同的预测。本文只想谈谈其中的一点，那就是马斯克指出： 未来AI与人类之间的智力差距，可能比今天人类与黑猩猩之间的智力差距还要巨大。并且期望人工智能善待人类，不要把它毁灭掉！ 未来人工智能的发展真的会如此吗？当AI比人类聪明得多，甚至超过全人类智慧的总和以后，人类还能不能控制它？ 关于对人工智能会毁灭人类的这种说法，人工智能教父辛顿也有过类似的表示。他认为。在自然界历史上从来没有一个智商低的生物可以决定和支配智商高的物种。并十分担忧—— “一旦发展到超级人工智能，其智力远远超越人类总和的时候，人类被人工智能所🈳制甚至毁灭，这种概率至少有10%！这确实是令人听了非常惊悚！也非常的不安！ 但也不是所有人工智能方面的持同一看法都同意这种悲观判断。 另一位“AI教父”的不同观点法国计算机科学家 Yann LeCun（杨立昆）是一位图灵奖得主。2018年图灵奖实际上是三个人共同获得——杨立昆、Geoffrey Hinton（杰弗里·辛顿）和 Yoshua Bengio（约书亚·本吉奥），表彰他们对深度神经网络的奠基性贡献。 图灵奖是计算机科学领域的最高奖项，相当于诺贝尔奖。诺贝尔奖是在上世纪诺贝尔还没有去世时就设立的，那时还没有计算机科学。后来才有了计算机科学，而计算机科学对于人类来讲实在是太重要了，所以后来就设立了图灵奖。能够获得这个荣誉的科学家，都是一些计算机领域的大师。 2023年6月22日，加拿大多伦多举行了一场著名的 Munk Debate（蒙克辩论），辩题就是： “AI的研究和发展是否对人类构成生存威胁？” 支持“存在生存威胁”的一方是 Yoshua Bengio 和 Max Tegmark；反对的一方是 Yann LeCun 和 Melanie Mitchell。杨立昆在这场公开辩论中系统阐述了他的观点：更聪明并不等于一定产生统治欲，AI也不会因为比人类聪明就必然反抗和统治人类。 Munk Debates这实际上也是他与辛顿最大的分歧。 辛顿的逻辑大致是：AI越来越聪明 → 最终超过人类 → 人类可能失去控制 → 超级AI可能操纵甚至取代人类。杨立昆则认为，这个推论中间缺了一环：“聪明”本身并不会自动产生“我要统治你”的欲望。杨立昆和辛顿是几十年的老朋友，但在这个问题上意见不同。他认为把“高智力”和“支配欲”联系起来，本身就是错误的；即使在人类社会中，最聪明的人也不一定是最想统治别人的人。 杨立昆的“解决办法”是什么？杨立昆提出的办法更准确地叫做Objective-Driven AI（目标驱动型AI）。他的思想是：未来AI的目标、动机和护栏是人类设计的。因此，不应该给AI设计争夺资源、权力和统治人类这样的内在驱动力。他在2023年底接受《Wired》采访时用了一个非常形象的比喻： 制造强大的AI却不给它安全机制，就像制造一辆1000马力的汽车却不给它安装刹车。 他的观点是，我们当然不会这样制造汽车，同样也不应该这样制造AI。未来AI应该从架构设计阶段就把目标和安全约束设计进去。到了2024年3月28日，他在哈佛大学 Ding-Shum Lecture中又把观点概括得非常清楚：“Robots will not take over the world!”并解释说： AI不会成为一个与人类竞争的“物种”；人类将设计它的目标和护栏，使AI服务于人类。 CMSA 辛顿博士的逻辑是 AI比人类聪明 → AI产生自主意识 → AI产生统治欲 → AI控制人类 → 最后毁灭人类。 杨立昆则认为，这条逻辑存在一个根本问题： 智能和统治欲并不是同一回事。一个系统非常聪明，只能说明它解决问题的能力很强，不能等同于统治和消灭任何其他物种和保存自己的欲望。人类具有强烈的生存欲、竞争欲和权力欲，是几百万年生物进化形成的结果。但是AI不是这样进化来的，它是人类在二十一世纪设计出来的机器。所以，我们不能简单地把人类主宰世界的野心也同样套在智能体上，认为：只要机器比我们聪明，它就一定想成为我们的主人，这个观点是错误的！ 我认为，杨立昆的这个观点很有道理。今天一台普通计算机进行数学运算的速度早已超过任何一个人，它储存的信息也远远超过一个人一生能够记住的东西，可是计算机并没有因此成为人类的主人。 所以：超级智能并不必然意味着超级野心。 人类为什么不一定成为“黑猩猩”？从这个角度来看，马斯克所说的“黑猩猩”比喻虽然非常有冲击力，但并不完全严密。 因为这里存在一个根本区别：黑猩猩没有创造人类，人类却创造了人工智能。黑猩猩不能设计人类的大脑，不能决定人类接受什么教育，也不能决定人类什么时候获得能源。但是AI使用什么芯片、连接什么数据中心、获得多少电力、能够访问哪些网络、能不能控制机器人、能不能进入军事系统，原则上都是人类可以设计和限制的。杨立昆因此认为，未来的AI不应该被理解成一个自然进化出来、准备与人类争夺地球的“新物种”，而应该成为一种扩大人类能力的工具。 这也是我比较赞同杨立昆的地方： AI越聪明，并不一定意味着人类越弱；完全可能恰恰相反——AI越强大，人类利用它所获得的能力也越强大。 但是，Hinton和马斯克的警告不能忽视赞同杨立昆，并不意味着AI不存在危险。 如果有一天，AI不仅比人类聪明，而且能够自主设计下一代AI、自主获得能源、自主制造机器人、自主复制，并且能够接触军事和经济资源，那么问题的性质就完全不同了。到了那个时候，人类还能不能关闭它？能不能限制它？它会不会欺骗人类，甚至隐藏自己的真正目的？因此，关键的问题就变成了，存不存在这样一个开关，它的控制权是在人类的手里！！！！不过这只是我个人天真的想法！这个开关存在在哪里？如何由人类来决定如何设计和实现？这是一个到目前为止尚无答案的非常重要的问题 我不久前看到有人提出未来AI安全最重要的原则之一就是：多层防御。他的观点更加新颖。他认为：我们不能幻想存在一个万能的“红色按钮”，按一下就能够解决所有问题。 核电站不是只有一道保险，飞机不是只有一套安全系统，最重要的计算机系统也不会只有一道密码。AI同样应该如此。 首先，要限制AI能够进入哪些系统、获得哪些权限；其次，要不断监测它的行为，一旦出现欺骗、隐藏或者绕过规则等异常情况，立即采取措施；对于核武器、电网、军事和重大金融系统，更应该保留人类最终授权。 与此同时，芯片、服务器、数据中心、电力和通信网络这些最基本的物理资源，也应该始终存在人类可以控制的安全机制。 我仔细想一想，我觉得这种想法无非是在整个链条当中加入了多重控制开关，这样一道一道的开关，可以万无一失地保证当整个系统 一道防线失败，还有第二道；第二道失败，还有第三道......... AI最终应该为谁服务？我对人工智能的未来仍然是乐观的。 AI可以帮助人类治疗疾病、解决能源问题、发现新的科学规律，也可以与机器人结合，帮助我们完成危险和繁重的工作。这已经是在实践中的事情，而且它的结果很快就能看到。所以，这就是为什么美国、日本和世界各地的大投资家，不断向这些大公司投资的一个重要原因，因为他们认为人工智能未来的前景十分光明、前景灿烂。总的来讲，我不怀疑马斯克提出的：未来人工智能将创造人类极大极大的财富，人们不需要工作，而只是把工作看成一种兴趣。这完全是从逻辑上讲得通的！！！ 所以，未来有几个重要的问题 AI会不会比人类聪明？我个人的答案是yes，而且比人要聪明几千几万几十万倍 我们必须给AI装上不止一道，而是许多道“刹车”。
|
