设万维读者为首页 万维读者网 -- 全球华人的精神家园 广告服务 联系我们 关于万维
 
首  页 新  闻 视  频 博  客 论  坛 分类广告 购  物
搜索>> 发表日志 控制面板 个人相册 给我留言
帮助 退出
     
  慕容青草的博客
  哲学与信仰
网络日志正文
机器人与人类的战争是可能的吗? 2014-11-24 19:13:18



这是我在三年前讨论的话题[1],我当时的结论是可能的,不过当时没有什么人在意我说的话。最近,工业奇才特斯拉的老板伊隆.马斯克(Elon Musk) 出来说510年内机器人就可能挑战人类[2],以他的地位和名望说出来的效果自然就不一样了,于是便引发了网友的讨论,有一种意见认为那是不可能的。

那么,机器人到底是否可能挑战人类呢?

和三年前一样,我的答案仍然是:可能的。也同三年前一样,我这不是凭空想象,而是有着逻辑的依据。

谈到机器人挑战人类可能性,迄今为止多数人想象是象科幻小说和电影中表现的那样仅仅是因为机器人的综合智力达到了一定的程度之后就可以象人一样思考了,所以就可以挑战人类了。按照那样的思路,机器人需要非常高的综合智能,而很多学者就论证说需要由人来输入指令的机器人不可能达到那样的智能,也有人虽然不是从逻辑上来否认这种可能性,却指出以目前机器人的智能来说,要想达到那样的水准还遥遥无期。

但是,上述的思路有一个前提,那就是人类不会主动地去造就出能够挑战人类的主导地位的机器人来。在这样的前提下我们确实可以说至少目前来看,机器人能够挑战人类的前景是非常遥远的,而我们一般也实在想不出什么人会刻意放弃人类对于机器人的主导权而去造就出能够挑战人类的机器人来。

而那样一个前提本身也构成了上述思维的逻辑上的罩门,一旦具有一定财力和势力的人,不论是出于什么样的考量决定要造就出一批具有自主性的可以挑战人类的机器人来的话,那个罩门就被破掉了,因为那不但从逻辑上来说是完全可能的,而且就技术上来说,目前就基本上是具备了的。

如我在三年前指出的那样,要想认识到机器人在不远的将来挑战人类的可能性,就必须跳出前面提到的机器人只有在综合智能完全达到或超出人类的智能时才能挑战人类的思路,而是要看到机器人能够挑战人类的前提不是综合智能的发达,而是社会性的形成。

所谓机器人的社会性的最基本的条件包括三个方面:1)机器人之间可以彼此交换信息,2)当一台机器人出了故障,其它机器人可以去帮它排除故障,包括彼此相互帮助换电池或添加其它形式的能源,而且3)机器人可以自主地利用自然的材料生产出制造机器人的零件并组装出机器人,并且能够在自然界寻找开采收集所需要的原材料和能源。

目前人类的技术已经完全可以做到以上三点。只是是否已经有人运用这样的技术来制造出具有自主性的机器人社会就不得而知了。

当然,上面三个条件是机器人能够独立于人类自主生存的基本条件,还不足以构成挑战人类的充分条件。如果一个机器人的社区要想挑战人类它需要有一定的战斗力,这一点从技术上来说人类也已经具有让机器人具有战斗力甚至具有操控核武器的能力的条件了。

还有非常关键的一点,那就是当有人制造出具有上述四种特性的机器人社区时,他还需要非常高姿态地放弃对自己制造出的机器人的操控权,也就是他不会刻意地在机器人的操作系统或运作程序中加入让机器人至少是在必要的时候绝对服从它们的人类制造者的指令。这一点在逻辑上是完全可能的,也是最不可思议的,因为实在让人想象不出任何人会有任何理由来这样做。

在具有了上述几个条件的前提下,还有一些辅助条件也是目前人类可以帮助机器人做到的,那就是各种各样的适应环境和进行游戏对抗的逻辑能力。

具有了上述五方面能力的机器人社会已经具有了可以抗衡人类的能力。当然,从上述的讨论中也可以看到,这里的前提是有人会帮助机器人去做到这一点。而是否会有人这样去做本身不是技术上是否可能的问题而是一种社会伦理或心理的问题,但是我们都知道社会伦理与心理是不象自然定律那样容易被人类掌控的。所以,我们只能说实在想象不出有任何理由会让任何人去制造一个能够威胁到包括他/她自己在内的人类的生存的机器人社会。但是,这里的唯一约束条件,就是那个“实在想象不出”,一旦有人就那么出乎人类的想象去那么做了,就目前人类的技术来说,是完全可以做得到的。

当然,机器人能够挑战人类并不等于它们一定能胜过人类。但是,如果有人完全出乎人们的想象地非要制造出能够完全独立与人类而且能不断自我完善的机器人来,就目前人类的科技水平来说也不是不可能。这就需要给予机器人以更高级的智能,那就是它们需要能够提出自我完善的要求,并根据这样的要求来设计软件及硬件的改进,并加以生产。对于单一的机器人来说,由于它的操作指令是人类加入的,它不太可能(或者完全不可能)做到这一点,至少它很难更换自己的操作系统。但是,一个能够彼此观察彼此沟通而且彼此帮助修复的机器人社会,是完全可以做到这一点。它们只需轮流将对方关机,然后帮对方进行包括操作系统在内的软件的更新,以及更换硬件,然后再重新开机就可以了----只要人类最初给予它们这样的能力,而人类已经具备了可以给机器这样的能力的水平了,剩下的只是愿意不愿意的问题了。

能够生产和彼此帮助更换软硬件还不等于能够设计。能够做出需要的判断,并根据需要进行设计可能是机器人能够在物质能力上完全超越人类的一个最后的前提条件,而这个条件目前来说恐怕也不是完全不可能通过人类的帮助而获得的。当然,就是这样的机器人与人类相比也还是有着很多致命的缺陷,比如他们没有情感,甚至没有公德和是非。但是,它们恐怕根本不需要那些高尚的素质就能挑战甚至在军事战争中打败人类了。。。。。。




[1] http://blog.creaders.net/murongqingcao/user_blog_diary.php?did=77402

[2] http://tech.creaders.net/2014/11/23/1458656.html




浏览(459) (0) 评论(6)
发表评论
文章评论
作者:慕容青草 留言时间:2014-11-26 19:26:02
很多人可能因为机器人中的那个“人”字而忽略了今天的机器人能够做些什么。今天的机器人的潜力是能够综合今天各种科技能力。除了前面提到的没有情欲没有情面,没有恐惧,防毒防弹,不需要休息等等基本的素质之外,它们还能做到:

千里眼和透视眼:今天的雷达能够侦察几百英里以内的动静,今天的红外扫描和其它形形色色的扫描可以让人类难以找到藏身之处。

顺风耳:今天美军的侦察机早就可以将多少英里之内的敌方的声音收集到且建立特征资料,今天的电话及网络通讯都可以被监听。

水陆空全方位运行:这在原则上来说早不是问题,只是具体设计参数的问题。

遥控:如果美国的高水准的无人机都有可能被别的国家拦截下来的话,那么机器人侵入某些国家的核子武器装置,遥控发射核武器的可能性也不能排除。。。当然机器人更可以遥控它们自己掌控的武器。

高度协调:成千上万的分布于世界各地的机器人都可以通过电讯同步协调。

。。。。。。

所以唯一剩下的似乎就是会不会有人甘愿去造就这种可能对整个人类具有威胁的机器人社区的问题,而马斯克出面警告本身或许意味他知道有人在这么干了。。。。。。

我前面提到的看到需要并根据需要进行设计虽然有一定难度,但并不是什么不可能的。。。首先那是一种哲学思维,然后有软件背景的人就可以依据那样的哲学思维写出相应的程序。。。我要是有时间有兴趣都可以写出那样的spec来。。。。。
回复 | 0
作者:慕容青草 留言时间:2014-11-25 19:37:29
人们一直把注意力集中在机器人的智力是否会超过人类这个议题上,因而通过论证机器人的智力无法超过人类而得出结论说机器人不可能对人类构成威胁。。。。。。但是,他们的思维中忽略了两个基本点,那就是本文所讨论的两个基本点:1)机器人只要能形成本文所指出的社会性,就可以独立于人类;2)人类可以设计教导机器人如何来对付甚至攻击人类。。。。。。

想想一群没有欲望,没有恐惧,防毒防弹,不怕疲劳,反应精准高速,攻击准确干脆的机器人大军向人类发起进攻时将会是什么样的。。。。。。而目前人类对这点的缺乏认识恰恰不是人们所迷信的科学上的缺陷,而是本文所指出的简单的哲学思维上的缺陷。。。。。。
回复 | 0
作者:慕容青草 留言时间:2014-11-25 05:34:01
西岸:

如果你的阅读能力没有大幅减退的话,先读了本文再来出声。。。。。等你读了本文之后,如果有能力针对本文的讨论而不是你自己陈旧的愚昧瞎扯的时候我在来和你探讨。。。

为了照顾象你这样阅读能力较差而且一贯不知悔改的读者,我给你几点阅读提示:

A)如果你要反对本文,先指出本文所列的下述技术有哪一点是今天的科技做不到的:

1)机器人之间可以彼此交换信息,2)当一台机器人出了故障,其它机器人可以去帮它排除故障,包括彼此相互帮助换电池或添加其它形式的能源,而且3)机器人可以自主地利用自然的材料生产出制造机器人的零件并组装出机器人,并且能够在自然界寻找开采收集所需要的原材料和能源。4)具有一定的战斗力;5)各种各样的适应环境和进行游戏对抗的逻辑能力; 6)生产和彼此帮助更换软硬件;

B)如果你错过了本文的最基本的要点,再反复多读几遍下面这段话:

“要想认识到机器人在不远的将来挑战人类的可能性,就必须跳出前面提到的机器人只有在综合智能完全达到或超出人类的智能时才能挑战人类的思路,而是要看到机器人能够挑战人类的前提不是综合智能的发达,而是社会性的形成。”

C)本文提到的看到需要并针对需要提出设计是在本文里对机器人的提出的最高要求(并不是人类可以对机器人提出的要求的最高点),但并不是基本要求。。。即便达不到这一点,只要满足了上述的条件,就已经具备了与人类抗衡的条件,其中一个要点是制造它们的人类可以在最初的设计中就加入在一定时候开始仇视人类的指令。。。

D)为了使你能够克服自己的骄傲和愚昧能够理解上面的C,再提醒你好好读一下本文的另一个基本要点:

“从上述的讨论中也可以看到,这里的前提是有人会帮助机器人去做到这一点”

E)即便是上面提到的本文提出的看到需要并进行设计的能力,也不是不可能做到。。。除非你西岸有本事从逻辑上否定这种可能,就别来扯什么别人的理论,因为CAD本身就是一个在发展中的学科,至今为止并没有人给出这一学科的发展上限。。。。

最后,建议你以后来这里出声之前先喝杯咖啡清醒清醒,不要一而再再而三地迷迷糊糊地胡乱发言。。。。。。

谢谢
回复 | 0
作者:慕容青草 留言时间:2014-11-25 05:17:58
pumbaa好!

我同意你的看法。。。非理性的人类确实不需要什么特别的理由就可以做出让一般人难以想象的事来。。。。。。不过即便有那种有财力和势力的人努力去打造可以威胁人类的机器人社区,也还是需要很大功夫去做。。。以他马斯克的地位说出那样的话,恐怕他已掌握了有人在做那样的事的讯息。。。。。。一旦有朝一日没有情欲,不怕冷不怕热,而且还能防弹防毒,反应速度超快,射击命中超准,而且能够自主行动及复制的机器人大军与人类开战的话,那可是一点也不好玩呀。。。绝不会象科幻电影那样的有劲。。。。。

谢谢
回复 | 0
作者:西岸 留言时间:2014-11-24 23:10:14
目前的人类技术远达不到这种能力,更不用说机器人了。
机器人战胜人类从来就是个伪命题,对科学和方法论不清楚的人的臆想而已。这种高级民科是科幻作品的源泉,但不可能成为现实。
从科学的角度来讲,要做成什么需要满足所有的边界条件,而要阻止什么做成,只需让一个边界条件不满足就够了,也就是破坏远比实现要容易的多。这种不平衡是不论什么,人类也好,其他什么也好要实现特定的东西很难的根本原因,或阻止什么发生很容易的基础。第二,目前人类对自己的思维能力的发生和发展的物理基础都没有弄清楚,而机器人自己也许能够增加自己的知识库,但不可能增加利用知识的逻辑和规则,否则违反基本的智能发展规律,从人类用“无赖”的方式战胜“深蓝”的例子就可以看出,即机器学习的速率是不可能高于人类的,因为知识学习本身是个反馈过程,而不是不需要修正的过程。除非人类可以把机器制造到自己的物理程度,包括思维,这是目前和可预见的未来还做不到的。
第三,目前人类使用机器人的程度远不足以使其具有“社会性”发生的程度,而没有到这种程度,则无法发生“社会性”的现象,更谈不上机器人之间的配合和独立自主。
总的来讲,这种事情发生的前提是机器人具有某种“意识”,所以可以反馈和预知,而目前人类对机器的掌握还没有超出模仿人类单项行为的水平,甚至做不到综合性的多重行为,所以产生某种”意识“的基础还没有。
不是机器不努力,而是人类没能力。
回复 | 0
作者:pumbaa 留言时间:2014-11-24 20:38:31
我也觉得是可能的。也不必说那么多的理由,就说是蝴蝶效应吧,偶然的一个程序漏洞,就可能引发机器人自主了。

不过机器人独立了,会不会趋向与自然人争斗呢?自然人的争斗源于争夺资源,而机器人是不需要人类所需要的资源的。

这种事想破脑袋也没个结论的。不过据特斯拉老板的估计,仅五年,大家就可看到事实了。看来,人类将毁于自己。
回复 | 0
我的名片
慕容青草
来自: ny
注册日期: 2007-08-15
访问总量: 1,639,982 次
点击查看我的个人资料
Calendar
我的公告栏
复杂情势下之最佳优先考虑
成功与别人的帮助
对抗真理的结果
旧房子的哲学
拔枯树
站与踩
哲学是公开的密码
普朗克论科学真理之传播
黑格尔论学习的过程
黑格尔论逻辑
自勉
欢迎交流
最新发布
· 当哲学被藐视之后。。。。(2024
· 给Elon Musk提一个建议
· 看来确实小题大做了
· 也许这次我真的小题大做了?
· 有关大气逃逸之谎言
· 脸书斗魔续集
· 文脸斗魔记
友好链接
· 马甲:马甲的博客
存档目录
2024-04-01 - 2024-04-22
2024-03-02 - 2024-03-29
2024-02-03 - 2024-02-29
2024-01-01 - 2024-01-30
2023-12-05 - 2023-12-24
2023-11-06 - 2023-11-27
2023-10-02 - 2023-10-29
2023-09-01 - 2023-09-29
2023-08-01 - 2023-08-31
2023-07-01 - 2023-07-31
2023-06-01 - 2023-06-30
2023-05-02 - 2023-05-29
2023-04-04 - 2023-04-29
2023-03-03 - 2023-03-29
2023-02-01 - 2023-02-28
2023-01-01 - 2023-01-30
2022-12-02 - 2022-12-31
2022-11-02 - 2022-11-23
2022-10-09 - 2022-10-31
2022-09-01 - 2022-09-30
2022-08-01 - 2022-08-21
2022-07-02 - 2022-07-31
2022-06-15 - 2022-06-25
2022-05-06 - 2022-05-27
2022-04-07 - 2022-04-30
2022-03-03 - 2022-03-28
2022-02-01 - 2022-02-28
2022-01-01 - 2022-01-30
2021-12-01 - 2021-12-29
2021-11-02 - 2021-11-29
2021-10-02 - 2021-10-29
2021-09-08 - 2021-09-30
2021-08-08 - 2021-08-31
2021-07-18 - 2021-07-26
2021-06-03 - 2021-06-27
2021-05-04 - 2021-05-29
2021-04-04 - 2021-04-28
2021-03-08 - 2021-03-27
2021-02-12 - 2021-02-28
2021-01-04 - 2021-01-28
2020-12-02 - 2020-12-30
2020-11-01 - 2020-11-26
2020-10-06 - 2020-10-29
2020-09-01 - 2020-09-29
2020-08-06 - 2020-08-27
2020-07-02 - 2020-07-27
2020-06-07 - 2020-06-29
2020-05-01 - 2020-05-31
2020-04-17 - 2020-04-30
2020-03-08 - 2020-03-20
2020-02-20 - 2020-02-24
2020-01-10 - 2020-01-31
2019-12-02 - 2019-12-31
2019-11-07 - 2019-11-30
2019-10-07 - 2019-10-30
2019-09-14 - 2019-09-26
2019-08-13 - 2019-08-21
2019-07-23 - 2019-07-29
2019-06-06 - 2019-06-23
2019-05-05 - 2019-05-25
2019-04-01 - 2019-04-22
2019-03-07 - 2019-03-29
2019-02-09 - 2019-02-27
2019-01-01 - 2019-01-21
2018-12-01 - 2018-12-31
2018-11-04 - 2018-11-24
2018-10-01 - 2018-10-30
2018-09-01 - 2018-09-30
2018-08-01 - 2018-08-29
2018-07-02 - 2018-07-27
2018-06-02 - 2018-06-26
2018-05-13 - 2018-05-28
2018-04-03 - 2018-04-28
2018-03-02 - 2018-03-28
2018-02-10 - 2018-02-28
2018-01-08 - 2018-01-27
2017-12-06 - 2017-12-30
2017-11-09 - 2017-11-25
2017-10-15 - 2017-10-15
2017-09-05 - 2017-09-30
2017-08-05 - 2017-08-27
2017-07-14 - 2017-07-24
2017-06-09 - 2017-06-24
2017-05-02 - 2017-05-02
2017-04-04 - 2017-04-26
2017-03-02 - 2017-03-30
2017-02-02 - 2017-02-27
2017-01-25 - 2017-01-30
2016-12-04 - 2016-12-31
2016-11-16 - 2016-11-23
2016-10-04 - 2016-10-27
2016-09-08 - 2016-09-29
2016-08-02 - 2016-08-31
2016-07-02 - 2016-07-27
2016-06-08 - 2016-06-30
2016-05-02 - 2016-05-22
2016-04-01 - 2016-04-13
2016-03-06 - 2016-03-31
2016-02-07 - 2016-02-23
2016-01-18 - 2016-01-18
2015-12-04 - 2015-12-30
2015-11-02 - 2015-11-27
2015-10-25 - 2015-10-29
2015-09-06 - 2015-09-24
2015-07-11 - 2015-07-25
2015-06-22 - 2015-06-22
2015-05-01 - 2015-05-29
2015-04-14 - 2015-04-14
2015-03-07 - 2015-03-22
2015-02-02 - 2015-02-21
2015-01-20 - 2015-01-20
2014-12-06 - 2014-12-06
2014-11-08 - 2014-11-24
2014-10-03 - 2014-10-20
2014-09-09 - 2014-09-27
2014-08-16 - 2014-08-16
2014-07-12 - 2014-07-25
2014-06-08 - 2014-06-14
2014-05-09 - 2014-05-16
2014-04-02 - 2014-04-29
2014-03-01 - 2014-03-28
2014-02-03 - 2014-02-28
2014-01-02 - 2014-01-29
2013-12-02 - 2013-12-30
2013-11-02 - 2013-11-27
2013-10-02 - 2013-10-29
2013-09-02 - 2013-09-28
2013-08-02 - 2013-08-31
2013-07-01 - 2013-07-26
2013-06-05 - 2013-06-21
2013-05-06 - 2013-05-31
2013-04-08 - 2013-04-30
2013-03-01 - 2013-03-28
2013-02-07 - 2013-02-27
2013-01-11 - 2013-01-29
2012-12-01 - 2012-12-26
2012-11-15 - 2012-11-15
2012-10-07 - 2012-10-28
2012-09-05 - 2012-09-28
2012-08-24 - 2012-08-24
2012-07-03 - 2012-07-20
2012-06-02 - 2012-06-30
2012-05-01 - 2012-05-30
2012-04-03 - 2012-04-29
2012-03-01 - 2012-03-31
2012-02-03 - 2012-02-27
2012-01-29 - 2012-01-29
2011-12-02 - 2011-12-13
2011-11-06 - 2011-11-28
2011-10-12 - 2011-10-27
2011-09-24 - 2011-09-24
2011-08-04 - 2011-08-09
2011-07-02 - 2011-07-31
2011-06-06 - 2011-06-28
2011-05-09 - 2011-05-27
2011-04-18 - 2011-04-24
2011-03-10 - 2011-03-23
2011-02-10 - 2011-02-17
2011-01-14 - 2011-01-14
2010-11-26 - 2010-11-26
2010-10-13 - 2010-10-13
2010-09-12 - 2010-09-29
2010-08-22 - 2010-08-29
2010-07-05 - 2010-07-27
2010-06-12 - 2010-06-26
2010-05-09 - 2010-05-29
2010-04-11 - 2010-04-17
2010-03-10 - 2010-03-28
2010-02-16 - 2010-02-16
2010-01-04 - 2010-01-31
2009-12-04 - 2009-12-29
2009-11-22 - 2009-11-26
2009-06-03 - 2009-06-29
2009-05-13 - 2009-05-13
2009-02-13 - 2009-02-22
2009-01-14 - 2009-01-18
2008-12-08 - 2008-12-28
2008-11-01 - 2008-11-29
2008-10-04 - 2008-10-27
2008-09-12 - 2008-09-26
2008-08-01 - 2008-08-22
2008-07-15 - 2008-07-31
2008-06-07 - 2008-06-29
2008-05-01 - 2008-05-30
2008-04-19 - 2008-04-28
2008-02-02 - 2008-02-19
2008-01-08 - 2008-01-28
2007-11-01 - 2007-11-07
2007-10-02 - 2007-10-29
2007-09-04 - 2007-09-30
2007-08-15 - 2007-08-29
 
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network /Creaders.NET. All Rights Reserved.