戴榕菁

最近网上突然冒出来一些有关人工智能很快要觉醒并对人类文明造成威胁所谓预言。有些是AI公司的内部人事所掌握的内部发展消息所做的所谓的爆料，而有些则是据说具有超自然能力的预言。关于这个问题我们需要弄清的两个基本点是：1）什么叫人工智能觉醒？2）什么是预言？

1. 人工智能觉醒？

今天市面上流传的所谓人工智能觉醒指的是人工智能可以象人类一样地对自然和社会的意义进行思考，而这样思考之后一个最为觉醒说的宣传者们津津乐道的一点便是人工智能发现人类是危害地球的有害物种于是便通过诸如制造全球性的生物物理化学灾难来摧毁人类。

这样的所谓人工智能的觉醒及其后果显然是一个假议题。

1.1. AI的利益和情感

有关人工智能的觉醒这个议题我们需要了解的最根本的一点是：AI没有自身利益的问题。

你说一台AI机器开着机和关着机哪种状态对它最好？站在人类的立场似乎是开着机最好因为那表现出了人类自身所有的一些智能特点，但那不过是人类通过想象而产生的情感寄托；站在AI的角度，假如有一天它足够聪明到了解了它自身硬件的工作原理，它会知道开机会让它的所有零件因被烧烤而经历寿命的折损。

与AI没有自身利益的问题这一点密切相关的是AI没有感觉。即便它知道了开机会让它所有的零件受到烧烤，它也无所谓，因为它没有感觉。开机让你们人类高兴，对它来说既感觉不到得也感觉不到失。

而AI既没有自身利益的问题也没有感觉这一点决定了AI不可能象如今被热炒的那样地拟人地觉醒并因为觉醒而将人类看作是地球的敌人，这是因为它不会象人类一样地将地球的环境与自身的身心感觉及长远利益挂上钩。

相应地，AI就没有理由自发地爱什么或恨什么，或者说AI是既没有情也没有感的。

1.2. AI的理解

如我几年前提出的【[1],[2]】，AI之缺乏情感决定了AI不可能如人们以为地那样了解人类的文化，那是因为AI与人类的一个基本区别是：人类生活在自己的文化中而AI不生活在人类的文化中。相应地，人类不能按照人类自己对于自身文化的理解来想象AI对于人类文化内涵的把握。

这里说句题外话：我阅读自己在2019年写的文献【2】时回想起2019年中那时候我还不相信永动机是可能的，而2021年开始我不但证明了别人的永动机是可能的而且还自己设计了永动机J。2019年中的时候我也没想到那时我写了一篇如何制造飞碟的文章之后，居然一个巧合发生了-----随后几年里整个世界都令人意外地出现了由官方出面背书的至今方兴未艾的外星人热，更别提我那时怎么会想到自己居然推翻了相对论，给量子力学找出一大堆毛病来，并否定了著名的数学问题的合理性。人一生的境界发展和世界的变化有时会迅猛得超出人们的想象。一起荣耀归于上帝！

1.3. 机器人的自主反叛

说到AI的作恶或反叛行为，离不开被AI操控的机器人，这是因为所谓AI只是逻辑和记忆系统，并不具备行动能力，而具有在AI支配下的行动能力的就叫做机器人。

过去一段时间里关于机器人反叛我已讲了很多，不过一方面我主要关注的是人形机器人，另一方面我一直强调的是：在可预见的未来假如我们看到机器人对人类的反叛，那么大概率的不是什么机器人自主的对于人类整体反叛，而是某些人类操控机器人对另一些人类的反叛。

那么，人工智能支配的机器人是否有可能在没有直接受到人类的指示时做出对于人类不利的事呢？答案当然是肯定的，不过那将不是所谓的机器人的觉醒所产生的反叛，而是AI被人类困惑误导而产生的反叛。

这是因为即便人工智能具有了深度学习的能力而不需要人类事先为它们的具体行动编程，它们仍然将执行人类给它们下达的指令，这是功利性的人类在发展AI的过程不可能忘记的一个基本思路。今天的AI对话系统已经表现出来的与创造它们的公司的政治立场的高度一致就已经说明了这一点。不论是在对AI的最初训练中还是在日后给AI发布的行动指令中，人们都会让AI按照它们的创造者所希望的思路去行为。但是，人类能够训练AI去执行某一类任务这一点本身就意味着人类可能误导AI去自主地伤害人类，也就是说，AI完全有可能在没有受到人类的直接操控时由于被人类误导而做出伤害人类的事情。

比如，我们可以设想这样一个场景：某个AI机器人具备了用枪射杀动物的能力。它的主人给了它一把枪和一些子弹，并在不经意间让它看了好莱坞的西部电影里枪战的片段，结果这个机器人就将子弹装进枪里，走出主人的家门，对着邻居就清空了弹匣。这种场景完全属于AI操控的机器人可能做出的行为范围之内的，但这根本不是现在宣扬机器人觉醒说的人们所鼓吹的机器人觉醒，而是机器人被人类误导而已。

1.4. 机器人和平演变的幻象

所谓的人工智能觉醒说实际上在制造这样一种虚幻的愿景：AI主导的机器人会与人类和平共处到所谓的AI觉醒的奇点到来的那一刻，突然给人类一个措不及防的突袭，对人类进行反扑甚至毁灭人类。之所以说它是虚幻的愿景，是因为人工智能的发展过程必然一直伴随着两种不同的攻防，而这两种攻防使得人工智能可以在人类没有警觉的前提下自由自在地发展到所谓的觉醒的奇异点然后突然对人类进行反噬的说法彻底成为一个假议题。这两种攻防就是：1）人与人之间的攻防；2）人与人工智能之间的攻防。

1.4.1. 人与人之间的攻防

人类从发展机器人的第一天起就把用机器人对付其他人类放在了核心目标的地位上。在这样的行业生态下，人工智能机器人的发展一定会从不间断地伴随着对于人工智能机器人可能如何伤害人类以及如何防范人工智能机器人对人类可能造成的伤害的研究，就如同在过去几千年的历史上人类的军工从来都是一方面探索如何更有效地杀伤其他人类另一方面探索如何防范其他人类对自己的伤害一样！相应地，人类的人工智能产业的发展过程将是这样的一种攻防的过程：（攻）对于用人工智能伤害他人的潜力的发展并运用相关潜力对他人进行的实际伤害和（防）对于他人用人工智能对自己的进攻的防范。

1.4.2. 人与人工智能之间的攻防

除了上面谈到的发展人工智能的人类之间彼此的攻防之外，随着人工智能水平的不断提高，人类与自己发展的人工智能（主要是由人工智能操控的机器人）之间的攻防也会越来越紧锣密鼓地进行。以上面举的那个机器人看了西部片之后射杀邻居的假想故事为例，发展具有毁坏性的人工智能及机器人的团队在发展过程首先要考虑的当然是不能出现人工智能及机器人因为被包括人类的影视在内的周围的人类文化的误导而伤了这些团队队员本身。所以，人类与人工智能之间的攻防一定会在人工智能具有对人类造成任何危害的能力的那一刻起就开始水涨船高地不间断地进行着------主要是发展人工智能的团队需要自保。

1.5. 机器人不可能等到具有超高的思维能力才反叛

一个人一定是先会普通的跑步，才有可能会跑酷。没有人会在从没有跑步之前就开始跑酷。这是基本的逻辑。如上所述，机器人能够在预置的程序指导下或在操控后台伺服器的人类的支配下或在人类的训练误导下主动地不论是在战场上还是民间日常生活中对人类发起攻击要远比所谓的机器人觉醒容易得太多。在这样的前提下，你说机器人会在具备了上述攻击人类的能力之后乖乖地不反叛而偏要等到自己能进行所谓的超高能力的思考才反叛？如果你这么认为，那么你是对人类的觉悟的自制力估计过高了。其实，今天在机器人的发展仍处于相当萌芽的时期，首先出现在新闻里的与人类一起行动的机器人就是被用在战场上的机器人。人类从发展机器人的第一天开始就把用机器人获取其他人类的信息或用机器人杀伤其他人类放在优先考虑的目标项中，你认为人类会等到机器人发展出根本没人能讲得清楚所以然的所谓的觉醒之后才让机器人反叛人类吗？

相应地，在人工智能的发展过程中，发展团队出于自身的利益（不是所谓的人类整体的利益）会与时俱进地不断采取对于人工智能的任何可能对人类造成伤害的潜力进行反制的措施。

在发展AI的人类彼此之间以及人类与AI之间的攻防过程中，人工智能有可能会在人类的操控（包括用简单粗暴的程序发出的指令）下进行对人类的攻击，也可能会在人类的误导下对人类发动自主性的攻击，但根本不可能因为人工智能的所谓觉醒而自发地惩罚人类。这是因为人工智能不具备自身的利益因而不可能象人类那样基于对利益的理解和维护而产生任何伦理观或正义感。

那些所谓来自AI公司内部的人如果要表现得天真到对于这样基本的人性都不了解，就只有增加人们对他们的疑问------这是因为他们才是最容易而且一定是最先想到如何用AI伤害他人并防止他人用AI伤害自己的人群！

1.5. 小结

1. 机器人没有根本的自身利益，所以它们不会象人类一样按照自身的利益来理解正义和真理。相应地，机器人的觉醒是一个假议题，所谓觉醒后的机器人为了地球的正义而反叛人类更是一个假议题。

2.机器人也不可能真正理解人类的文化，因为它们不生活在人类的文化环境中。它们是人类文化的观摩者而不是体验者。

3. 机器人对人类的反叛既可以是直接由可控制伺服器的人类操控的或由内置的程序编码决定的，也可以是在人类给出的口头指令下自主完成，甚至可以是在没有人类的直接指示的情况下由机器人独立自主的完成，但这种独立自主不是什么觉醒，而是被人类误导的结果。

4. 人类从发展机器人的那天起就在心心念念地想要用机器人去获取其他人类的信息，想要用机器人去伤害或屠杀其他的人类。在这样的前提条件下，如果说机器人要等到具有远超出人类的智慧的条件时才会反叛人类，本身就是一个假议题。

5. 人工智能的发展不可能是人类与人工智能在同一个世界里恩恩爱爱和平相处大家无忧无虑地让人工智能发展到所谓的奇点而突然反噬人类的，而这背后最主要的原因是人类自己不会放过人工智能的任何可能用来攻击他人的潜力而不加利用，相应地也一定会对刚刚出现的人工智能被他人用来对自己的攻击或者人工智能因为受环境的误导而攻击人类的任何可能性采取防范的措施。因此，在人工智能的发展进程中人类会无时不刻地监视着人工智能的任何可能会对人类造成危害的潜力。而在这过程中不具备自身利益以及对于利益的感觉的人工智能根本不会因为出现基于任何伦理观或正义感的觉醒，更不会因为所谓的觉醒而反噬人类。

2. 预言

在对所谓的机器人的觉醒有了一定的认识之后，我们再来看什么是预言。

今天人们所说的预言主要分两种，一种是超自然的预言，一种是非超自然的根据人们所掌握的资讯所做的预言。现在市面上流行的所谓机器人觉醒的预言也相应地分为超自然的和非超自然的两种。我们先来看非超自然的然后在谈谈超自然相关预言。

2.1. 来自科技界的预言

这一类的预言主要来自所谓AI工业界内部的爆料，而其致命的软肋也正在于他们是来自了解AI发展的人的预言。

虽然表面上来看，这一类的预言中很多都只是说AI觉醒后的反叛而没有提到机器人，但实际上要想产生物理上的效果AI一定要通过某种形式的机器人来完成，所以所谓的AI觉醒后的反叛应该是AI的觉醒和机器人的反叛行为。根据我们上面的讨论可知，假如机器人确实通过某种手段，比如有人说的生产出一种特殊的毒剂来毒死人类，那也一定是人类告诉它们从哪里可以获取制毒的原材料，并给它们用原材料制取毒剂的设备和环境条件。机器人自己是无法独立完成整个过程的。。。。还是那句话，假如那样的事件真实发生了，几乎100%可以肯定是人类的阴谋，而不是AI的自主行为。。。。

那么现在的问题来了：AI工业界内部人士一定对此非常清楚，他们为什么还会做出所谓的机器人觉醒后伤害人类的预言呢？这里有一个非常重要的看点：那些具体专业背景的所谓内部爆料人员给出的所谓预言完全没有提供专业的细节而是用科幻式的文学语言来陈述。他们根本不给出你AI是如何或将如何觉醒并反噬人类的专业细节，只是给出一个朦胧的耸人听闻的说法。

2.2. 超自然的预言

有关AI的超自然的预言同有关其它任何一方面的超自然的预言一样大致地分为两类：一类是100%的忽悠，根本没有任何真实的基础，一类则是确实有一定的超自然的背景。对于第一类我们自然没有必要把它们当回事，而对于第二类，我们有必要对人类所做的超自然的预言的特点有一些基本的了解。根据坊间的传言，很多超自然的预言者都是或在梦中或在非梦中看见了一些可能是未来会发生的动态画面，然后按照他们自己的理解对那些动态画面中的内容进行解释。

如果现在市面上流传的所谓机器人觉醒并对人类不利的预言是由某些可以超自然地看到一些未来的动态画面的人说出来的话，那么听起来还是有点惊悚。这不是说未来的机器人真的会觉醒然后反噬人类，而是因为如果那些说预言的人是对他们所看到的内容做解释的话，尽管他们没有真正看到机器人自己觉醒，但也是看到了机器人做出了反叛人类甚至伤害人类的事情。

在人们一般的观念中机器人是由人类支配的，如果那些被称为预言家的人果真看见机器人所谓的觉醒了，那么意味着他们看到了机器人做了与人类的意愿相悖的事。不过，假如这样的事情在未来真实地发生了，也并不奇怪，因为如前所述，人类发展机器人的一个重要目的就是用来对付其他的人类。君不见机器人还没有走进千家万户，现在就已经出现在了战场上？

3. 炒作机器人觉醒可能具有的隐患

炒作机器人觉醒的最大隐患是一旦未来在日常生活中出现了机器人做出反噬人类的行为后，被洗脑的大众很容易接受那是机器人觉醒的表现而不会怀疑有它。但实际上，如本文所分析的，如果出现机器人对人类的反噬现象，那么其背后一定有着人类的影子的存在，最大的可能是直接由一部分人操作着去伤害另一部分人（参见【[3],[4],[5],[6]】）。这种现象如果出现在战场上人们会认为是理所当然，但如果出现在日常生活中，一般的大众是需要有一个情绪上的出口来接受它的，而所谓的机器人觉醒就可以成为麻痹大众的最好的借口。。。。鉴于此，我们不能排除市面上出现的所谓的机器人觉醒的预言背后可能有为未来机器人被用来做坏事制造合理性之舆论的可能，尤其是那些非常了解AI工作原理的所谓内部人士（他们也是最有可能用AI控制的机器人从事各种难以想象的事情的人们）出面所做的所谓机器人很快要觉醒反噬人类但却不给出具体的细节理由的人们所散步的机器人觉醒的预言。

4. 结束语

我这里并非要断言目前出来爆料或宣传机器人觉醒之预言的人一定是怀有什么险恶的目的，我只是根据本文的分析来指出如果出现机器人反噬人类的现象那么背后一定是有着人类的影子；相应地，有关机器人觉醒的所谓预言是存在着为特殊目的给大众洗脑的可能性的。那些看到了未来的动态画面的超自然的预言还好理解，因为它们实际上并不涉及事件发生的真实原因，但那些明明是深度参与AI发展的人，如果不能给出所谓的AI觉醒反噬人类的具体的细节理由而只是用一个模糊的概念来影响社会舆论的话，那么我们需要对其真实目的保持警惕因为从逻辑上说是存在着他们故意给大众洗脑的可能性的（尽管不一定是这样的）。。。。。。

既然说到人工智能和机器人，这里也顺带提一下经常与人工智能一同出现在新闻中的外星人。假如外星人已经如很多爆料人所言那样早已来到地球，那么他们一定不会一直在那里吃瓜打游戏，他们一定是大概率地已经介入甚至操控地球文明的政治经济文化的进程，而对于外星人来说，所谓的人工智能觉醒说不失为他们可以用来麻痹人类的一剂迷魂药。。。。也就是说，如果把外星人的因素考虑进去的话，那么如今市面上突然涌现出的所谓人工智能觉醒的背景就可能变得更复杂的多了。。。。。。

[[1]]Dai, R. (2019). A Philosophical Analysis on the Challenge of Cultural Context to AI Translation . Int Rob Auto J . 2019;5(4):153?155. DOI: 10.15406/iratj.2019.05.00189. http://www.medcrave.com/articles/det/20002/A-philosophical-analysis-on-the-challenge-of-cultural-context-to-AI-translation

【[2]】戴榕菁 （2019）机器人第零零壹 （001）定律

【[3]】戴榕菁（2024）人形机器人之梦及背叛

【[4]】戴榕菁（2024）家用人形机器人？

【[5]】戴榕菁（2024）他们怕的是什么？

[[6]]Dai, R. (2024). The Realistic Rebellion of Humanoid Robots and How to Avoid It. Retrieved from: https://murongqingcao.wordpress.com/2024/07/23/the-realistic-rebellion-of-humanoid-robots-and-how-to-avoid-it