设万维读者为首页 万维读者网 -- 全球华人的精神家园 广告服务 联系我们 关于万维
 
首  页 新  闻 论  坛 博  客 视  频 分类广告 购  物
搜索>> 发表日志 控制面板 个人相册 给我留言
帮助 退出
     
  慕容青草的博客
  哲学与信仰
网络日志正文
机器人的反叛—童话是否会成真? 2019-10-19 16:36:12

几天前收到一份来自互联网元老级的网站Mozilla的有关AI的民意测验(survey)的email。其中一题问道“下面这些电影都展示了受人工智能影响的未来, 您认为哪部电影最能代表我们未来的发展方向?:Terminator 2 2001: A Space Odyssey Alien Blade Runner Wall-E The MatrixWar Games InterstellarI Robot Short Circuit Ex Machina Star Wars (take your pick)RoboCopTronTransformers Other - Write InI’ve not seen any of these movies

说实话,其中有很多电影我都看过,有些好像没看过;但即便是看过的我也未必记得片名,而那些以为没看过的,如果你现在给我放个片段我可能会想起曾经看过。另一方面,我也不可能为了它一个民意测验的email就去把那些电影再看一遍。所以它的问卷显然没有考虑到我的这种状况,而我的这种状况肯定是有一定的代表性的。因此,按照它的问卷,不论我怎么答其实都不对。

由于它的名单里有Terminator 2 The Matrix等,那显然意味着Mozilla所感兴趣的还不仅是有电子线路和机械配件组成的机器人,甚至包含了具有超自然的灵魂的概念的机器人。所以,我选择了倒数第二个答案,“Other - Write In”,并按它的要求写入了一段应该说并非“other”,而是“不存在”的评论。我说所有这些都不能代表未来的发展方向,因为它们漏掉了一种可能那就是地球人造出的机器人被超自然力量(比如魔术师)接管来用作躯壳的可能性。

在完成了那个民意测验后,我想既然今天搞AI的人看来已经对机器人与可能的属于灵魂的概念的结合这样听起来完全属于科幻的议题感兴趣,那么我们不妨先行一步来对魔术师的灵接管了AI科学家及工程师们努力发展的机器人用作他们的外壳的可能性。

当然,作为坚定的唯物论者的很多自然科学家们,尤其是物理学家们肯定首先考虑的会是物理实现上的可能性,而且他们的答案一定是不可能。不过在这里我们可以把他们的观点先给排除掉,因为这里讨论的出发点是具有超自然背景的科幻。有了这个前提,很多人可能又会说那就用不着讨论可能性了,因为有了超自然的前提,又是科幻,那还有什么不可能的呢?其实这倒也未必。一方面来说,既然是谈论幻想小说我们不妨把各种传统的童话故事的情节也拿来参考。在童话故事里,就算是具有超自然力量的人物也并非什么都能干的;而且现实生活中的魔术师在很多情况下确实可以做出完全违背已知的物理原则的事情来,只不过他们也并非什么都能干。另一方面,即便是在有超自然介入的科幻中,也还存在着逻辑上是否合理的问题。

所以,在具有超自然力量的魔术师的灵并不是什么都能干的前提下,我们可以来讨论一下机器人被魔术师的灵接管用来作为躯壳的可能性。既然这里涉及到了一个我们无法探其究竟的魔术师的灵的概念,所以一个比较合理的切入点是首先考虑具有超自然力量的魔术师的灵(当然,再重申一遍:作为出发点,这里的讨论的背景是假设这种灵是存在的科幻场景)是否还有必要借用机器人作为自己的外壳。

我们来考虑一个简单的例子,假设一个魔术师的灵操弄一个机器人去车行偷了一辆车。如果那是一辆无人驾驶的车,而且是停在没有关卡的露天停车场的车,那么我们便会面临这样的问题:既然那个魔术师的灵可以操控机器人,何不直接去操控那无人驾驶车呢?这里唯一的问题似乎是偷别人的车需要有钥匙,但这一挑战似乎太小了些,因为能去操控机器人的超自然力量去破解汽车钥匙或直接象电影里的窃车贼们那样接通启动线路应该是小菜一碟。所以,那辆车应该不是无人驾驶的,或至少应该是在有着重重关卡的室内停车场里的。

为了简化问题,我们仍然假设车是无人驾驶的,但停在有着重重关卡的室内停车场里的。虽然这比前面的停在露天停车场的无人驾驶车来说没有变化太多,对于我们思考魔术师的灵借用机器人的外壳的可能性却是有意义的。为了体会这里的意义,我们引入一个在童话故事里常用到的,而且在现实中听起来也合理的前提假设:可以操控机器人的魔术师的灵在发挥超自然的功能时会耗费很大能量,因此会尽力寻找可助其节省能量的替身或工具。

如果那个魔术师的灵要自己在启动那辆无人驾驶车之后还要打开一个个的关卡才能把车弄出来显然需要花费很多气力,这时如果他能操弄一个机器人,只要给它一个任务指令,那机器人便按照他的要求去将门一个个地打开,使得他可以开着那辆无人车离开那个室内停车场,这样的话,他可以节省很多能量。

所以说,即便对于具有一定的超自然能力的魔术师的灵来说,如果能有可以满足他的要求的机器人,他可以节省很多能量。这一点乍看起来似乎没什么特别的,但仔细想一下便可知这表明了如果这个世界上确实存在着具有超自然能力的魔术师的灵的话,那么他们有利用具有一定的智能的机器人外壳的需要;因此,他们一定也在非常关注着AI机器人的发展,因为当那种机器人发展到一定程度时,他们就有可能出来在AI科学家及工程师们意想不到的情况下来接管其中的一些机器人。

当然,这个世界上到底是否存在具有超自然能力的魔术师的灵到这一步为止还不是我们这里关心的议题,就如同电影Matrix的场景是否真能反映未来机器人发展的前景似乎也不是Mozilla在进行民意测验时所烦恼的议题一样,毕竟我们这里讨论的出发点是一个科幻题目。

在肯定了具有超自然能力的魔术师的灵有利用智能机器人作为外壳的必要性之后,我们可以再来看具有超自然能力的魔术师的灵来操纵机器人的可能性。这里比较合理的切入点是过去几十年里的一个老生常谈的话题,那就是“机器人是否能具有如人类那样的自主思维以致于可以完全不需要人类从键盘上敲入任何指令,或输入任何特定的应用程序,或按下任何按钮,而如人类一样地生活在人类社会里?

在有了高水平的模式识别软件,高分辨率的镜头,基于Deep Mind技术的大数据处理能力,高度灵活的四肢甚至如人手般灵巧的手指,乃至由纳米技术提供的人造纤维和皮肤之后,人们现在确实已经开始认为未来的机器人可以在人类的操控下进行很多以往只有人才能进行的工作,诸如在战场上冲锋陷阵,抢救伤员,在家里护理病患老人等等;但另一方面,即便是在Deep MindAI机器人轻易地把世界上最强的人类围棋高手打趴在地之后,仍然没有人可以对上述问题做出肯定的回答。毕竟完全自主的不需要有人类从键盘上敲入任何指令,或输入任何特定的应用程序,或按下任何按钮而生存这一目标和打败围棋高手这种特定任务的目标相比是天壤之别。

这一现状给我们提供了这样一个启示:以现在可以看得到的技术潜力来说,再假以一段时日,人类应该就可以造出除了能完全自主思考之外可以执行各种特定任务的机器人来的。在这个前提下,是否存在具有超自然能力的魔术师的灵以及他们是否会在AI科学家及工程师们没有意识到的情况下接管机器人就成为了一个很有意义的问题。这是因为,一旦这种可能存在,那么即便AI科学家及工程师永远做不出来目前有高度争议的具有自主意识的智能机器人来,这个世界仍然会出现不需要有人类从键盘上敲入任何指令,或输入任何特定的应用程序,或按下任何按钮而生存的完全具有自主意识的机器人来;而且它们的行为符合自古以来的二元论(即灵魂独立于肉体)的理论,只不过这些机器人的灵魂是那些操控它们的具有超自然能力的魔术师的灵而已。

很显然,那些具有了自主意识能力的机器人不会再受它们原来的主人(不论是设计制作它们的科学家还是工程师,或者生产厂家,或者政府人员或者私人购买者)的控制。它们会知道如何克服自己的缺点,它们该充电的时候会自己去充电,哪个原件有问题了,知道到哪里去更换,就好比人病了的时候知道会去吃药一样;它们甚至可以反过来让它们原有的主人为它们做工(机器人的语言对话能力是目前发展最快的AI领域之一,所以当出现这些有自主意识的机器人时,它们的语音能力应该是不成问题的)。它们的原有的主人如果不服气,拼拳头应该不是它们的钢铁骨架支撑的拳头的对手(更何况让机器人不但如人类一样地灵活,甚至可以进行拳击比赛,而且要力大如牛应该是目前的AI科学家和工程师们的一大目标)。

所以,尽管以上所有的讨论都是在“存在着具有超自然能力的魔术师的灵”这样一个应该是科幻性的假设的前提之下展开的,但是由于我的讨论过程本身却是按照合理的逻辑进行的,因此,上述的结果便可引出这样一个论点:AI科技向着高度智能化与类人类的体能化方向发展时,一个至今仍被忽略的,但是有着非常现实的意义的议题应该被摆上社会的议事日程,那就是AI科学与哲学界以及神学和宗教界的跨领域的交流咨询

这样的跨领域的交流之难度是不难想象的。

科学界与神学和宗教界的交流之困难倒不是因为各自对于对方的理论的理解的有什么难,毕竟很多AI科学家或工程师们本身就是有着宗教信仰的人士。其基本的难点还在于领域整体间的文化障碍。科学的出发点本身是否认超自然的(尽管科学界的一些个人本身在工作之余是相信超自然的),而宗教界的权威们通常都对科学的原理不甚了解。当然,个人的信仰也会起到很大的作用。首先,科技界的主体,包括很大一部分自认为有宗教信仰的人在内,并不相信二元论,也就是不相信存在着独立于肉体的灵魂,因此也就不会把“存在着具有超自然能力的魔术师的灵”这样的科幻性的假设当回事,尽管应该属于是科技界的Mozilla居然还煞有介事地询问人们是否认为那些科幻的场景会成为未来AI的发展方向。第二,即便是宗教神学界的人对于是否会出现可以操控高智能的机器人的具有超自然能力的魔术师的灵这样的话题也会讳莫如深的。

而与哲学界的交流的主要难点在于目前的专业哲学界对于科学以及神学和宗教界基本不甚了了;而科学界以及神学和宗教界也排斥哲学。

但另一方面,基于本文上述的讨论,如果真的存在具有超自然能力的魔术师的灵,而且他们能操控具有高智能硬体的机器人的话,考虑到机器人在防弹防毒大数据处理快速反应高分辨度等等方面所具有的远超出人类的潜力,以及未来的核武器可能都由通过6G联通的AI系统来控制,人类应该不得不对于目前AI科学家及工程师将AI机器人发展得日臻完善的努力采取更为审慎的态度,并对可能出现的AI与灵异的结合有更多的了解。

读到这里,细心的喜欢看科幻电影的读者或许还会提出一个问题:我们从电影上看过具有超能力的人或灵异力量可以弯曲钢棍,移动物体,因此,如果说具有超自然能力的魔术师的灵能够用他们的意念力来进行那些操作还容易理解,但很难想象具有超自然能力的魔术师的灵如何能操控机器人。

其实,这并不难想象,只不过这里有几个基本点需要弄清。第一,就是前面提到的具有超自然能力的魔术师的灵发挥超自然的功能时需要能量。这一点不但从传统的有关灵异的传说中可以看到,而且从现代的那些魔术师及一些超能力人的表演中也有反映,所以应该是一个对于具有超自然能力的魔术师的灵一个合理的基本假设;

第二,如前所述,人类已经具有了发展高智能的机器人的潜力,目前所面临的根本性的哲学以及技术性的挑战是能否使那些机器人完全具有自主性的智能;

第三,对于已经具有完成定向任务的机器人,比如可以在战场上杀敌和救援的机器人,如果它们在未来会具有人一样的肢体和手脚以及语言对话功能,那么它们就已经具备了被具有超自然能力的魔术师的灵(如果存在的话)进行操作的条件了。因为那说明它们已经具有了基本的识别判断和操作功能,对于具有超自然能力的魔术师的灵来说,只需不断地从内部线路上给它们输入各种其它的指令,比如去商店购物,它们就可以按照那样的指令去做。同时,如果那些具备自主意识的机器人的功能已经完善到了今天的AI工程师们经常期盼的那样可以用流畅的语言以人们难以识别的语调和人对话,并外表非常象人,那么只要稍微穿着打扮一下,戴上墨镜,走在街上也很难被认出。所以,一旦机器人的智能已经能够完成一些复杂任务的操作,具有人类的长相,而且能够对话(这些都是目前AI科学家和工程师们所努力的目标),它们就有可能被具有超自然能力的魔术师的灵(如果存在的话)进行操作了;

第四,对于具有超自然能力的魔术师的灵(如果存在的话)来说,人类一切保密对他们可能都是无效的。换句话说,即便人们给那些机器人预设启动密码,对他们都可以是无效的。他们所需要的只是既能够帮他们节省能量又具有实用功能的硬件外壳。因此,只要人类的AI机器人发展到一定的程度,你就无法完全阻止他们全面学习了解如何操控它们,只不过他们并不需要从外部进行操控,而只需直接进行内部的线路触发就行(当然,他们需要对机器人的线路及原理有所了解。但这不会是问题,毕竟机器人是人造出来的,魔术师也是人,他们当中可以有机器人专家)。

结论:

当魔术界已经毫不掩饰地一再公开地进行不可能是作假(比如在America Got Talents)或作假机会很小(比如在中国的春晚)的属于向世人宣示性的超自然的表演的同时,人类的AI技术却同步地日臻完善的时候,人类文明有必要负责任地来思考两者结合的可能性,以及一旦结合之后可能会具有什么样的后果。而这样的考察之重要还在于,只要那种可能性存在,没有人能真正完全挡得住它的发生,就好比没有人敢肯定除了在天津出生的那对双胞胎之外,这个世界还会产生多少基因改造人甚至人造人一样。因此,作为一个负责任的文明,人类有必要先行对这里的各种潜在的可能性有所认识。。。。。。


浏览(73) (1) 评论(2)
发表评论
文章评论
作者:慕容青草 留言时间:2019-10-21 07:08:22

相关链接:

魔术引着人类懵懵懂懂进入新时代(http://blog.creaders.net/u/980/201905/348637.html)

回复 | 0
作者:慕容青草 留言时间:2019-10-20 12:33:58

与网友对话:

衡山老道2019-10-19 17:19:24

机器的智能是人工智能,是人按照一定的模型,包括知识表达,推理,学习,决策等组成部份,授与机器的。机器本身是不会反叛人的,除非模型中包括反叛的部份。

慕容青草2019-10-19 18:19:33

回复 '衡山老道' 的评论 : 等你耐心读完本文之后你就会知道本文讨论的是一种什么样的可能了。。。

慕容青草2019-10-20 04:41:15

回复 '衡山老道' 的评论 : 看来你没耐心读完本文,那我就来稍微讲解一一下吧。

你说的【机器本身是不会反叛人的,除非模型中包括反叛的部份】早已是假议题,因为今天的众所周知的机器人的一大功用就是在战场上杀敌,杀的就是人。只不过目前来说,杀敌的机器人都设定好如何识别敌我,所以只杀敌人,不杀自己人。。。但是,在本文所讨论的可能性中,因为具有超自然能力的魔术师的灵接管了机器人,那时所有原先预设的敌我都不再有效,而是那个灵让它干啥就干啥,让它杀谁就杀谁。。。

但是,目前来说,即便真的存在有超自然能力的魔术师的灵,他也不会去操控那些用来杀人的机器人。。。首先,如本文假设的,干那事本身需要消耗一定的能量,所以要看所干的事情是否有意义。。。目前来说,那些杀人用的机器人只会杀人,连话都不会说,劫持它们没啥价值,二来,那些机器人连弹药都不会装,需要有人来替它们装,没电了或没油了,也需要有人来替它们补充。。。很难操控。。。一旦当AI机器人发达到具有各种类人类的体能,具有灵巧的手脚,也会对话时,劫持它们就有价值了。。。那样的机器人不但容易操控(只要进入它们的线路就行),而且操控了一个可以控制一批(这就是智能的社会性特点),并且每个机器人都是多功能的,可以进行各种任务。。。

A_bobcat2019-10-20 07:34:53

这个问题好像不难。 設計的人是好人, 机器人就会变得更好。設計的人是坏人, 机器人就会变得更坏。机器人出事故是另一回事

A_bobcat2019-10-20 07:37:19

若机器人以进化论作为道德的基准,人类的末日就到了。

慕容青草2019-10-20 09:01:22

回复 'A_bobcat' 的评论 : 这与好人坏人没关系。。。当两国发生战争时,谁都认为自己是民族英雄。。。另外,即便是你设计时让你的机器人只杀蓝军不杀红军,但你自己投奔了蓝军,那么机器人照杀你,所以按照机器人是否背叛人而言,那根本是一个假议题。。。

至于本文说的是:当魔术师的灵操控机器人时,机器人的行为是由魔术师的灵决定了。。。

A_bobcat2019-10-20 11:13:51

那种情况叫“人背叛机器人"。

慕容青草2019-10-20 12:24:07

回复 'A_bobcat' 的评论 : 没必要和你争了。。。这些都和本文无关,我刚才回复你不是鼓励你不读本文就评论,而是为了给大家扫盲。。。简而言之,【机器人不会背叛人】是个假议题。。。

回复 | 0
 
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2017. CyberMedia Network /Creaders.NET. All Rights Reserved.