設萬維讀者為首頁 萬維讀者網 -- 全球華人的精神家園 廣告服務 聯繫我們 關於萬維
 
首  頁 新  聞 視  頻 博  客 論  壇 分類廣告 購  物
搜索>> 發表日誌 控制面板 個人相冊 給我留言
幫助 退出
     
  慕容青草的博客
  哲學與信仰
網絡日誌正文
機器人與人類的戰爭是可能的嗎? 2014-11-24 19:13:18



這是我在三年前討論的話題[1],我當時的結論是可能的,不過當時沒有什麼人在意我說的話。最近,工業奇才特斯拉的老闆伊隆.馬斯克(Elon Musk) 出來說510年內機器人就可能挑戰人類[2],以他的地位和名望說出來的效果自然就不一樣了,於是便引發了網友的討論,有一種意見認為那是不可能的。

那麼,機器人到底是否可能挑戰人類呢?

和三年前一樣,我的答案仍然是:可能的。也同三年前一樣,我這不是憑空想象,而是有着邏輯的依據。

談到機器人挑戰人類可能性,迄今為止多數人想象是象科幻小說和電影中表現的那樣僅僅是因為機器人的綜合智力達到了一定的程度之後就可以象人一樣思考了,所以就可以挑戰人類了。按照那樣的思路,機器人需要非常高的綜合智能,而很多學者就論證說需要由人來輸入指令的機器人不可能達到那樣的智能,也有人雖然不是從邏輯上來否認這種可能性,卻指出以目前機器人的智能來說,要想達到那樣的水準還遙遙無期。

但是,上述的思路有一個前提,那就是人類不會主動地去造就出能夠挑戰人類的主導地位的機器人來。在這樣的前提下我們確實可以說至少目前來看,機器人能夠挑戰人類的前景是非常遙遠的,而我們一般也實在想不出什麼人會刻意放棄人類對於機器人的主導權而去造就出能夠挑戰人類的機器人來。

而那樣一個前提本身也構成了上述思維的邏輯上的罩門,一旦具有一定財力和勢力的人,不論是出於什麼樣的考量決定要造就出一批具有自主性的可以挑戰人類的機器人來的話,那個罩門就被破掉了,因為那不但從邏輯上來說是完全可能的,而且就技術上來說,目前就基本上是具備了的。

如我在三年前指出的那樣,要想認識到機器人在不遠的將來挑戰人類的可能性,就必須跳出前面提到的機器人只有在綜合智能完全達到或超出人類的智能時才能挑戰人類的思路,而是要看到機器人能夠挑戰人類的前提不是綜合智能的發達,而是社會性的形成。

所謂機器人的社會性的最基本的條件包括三個方面:1)機器人之間可以彼此交換信息,2)當一台機器人出了故障,其它機器人可以去幫它排除故障,包括彼此相互幫助換電池或添加其它形式的能源,而且3)機器人可以自主地利用自然的材料生產出製造機器人的零件並組裝出機器人,並且能夠在自然界尋找開採收集所需要的原材料和能源。

目前人類的技術已經完全可以做到以上三點。只是是否已經有人運用這樣的技術來製造出具有自主性的機器人社會就不得而知了。

當然,上面三個條件是機器人能夠獨立於人類自主生存的基本條件,還不足以構成挑戰人類的充分條件。如果一個機器人的社區要想挑戰人類它需要有一定的戰鬥力,這一點從技術上來說人類也已經具有讓機器人具有戰鬥力甚至具有操控核武器的能力的條件了。

還有非常關鍵的一點,那就是當有人製造出具有上述四種特性的機器人社區時,他還需要非常高姿態地放棄對自己製造出的機器人的操控權,也就是他不會刻意地在機器人的操作系統或運作程序中加入讓機器人至少是在必要的時候絕對服從它們的人類製造者的指令。這一點在邏輯上是完全可能的,也是最不可思議的,因為實在讓人想象不出任何人會有任何理由來這樣做。

在具有了上述幾個條件的前提下,還有一些輔助條件也是目前人類可以幫助機器人做到的,那就是各種各樣的適應環境和進行遊戲對抗的邏輯能力。

具有了上述五方面能力的機器人社會已經具有了可以抗衡人類的能力。當然,從上述的討論中也可以看到,這裡的前提是有人會幫助機器人去做到這一點。而是否會有人這樣去做本身不是技術上是否可能的問題而是一種社會倫理或心理的問題,但是我們都知道社會倫理與心理是不象自然定律那樣容易被人類掌控的。所以,我們只能說實在想象不出有任何理由會讓任何人去製造一個能夠威脅到包括他/她自己在內的人類的生存的機器人社會。但是,這裡的唯一約束條件,就是那個“實在想象不出”,一旦有人就那麼出乎人類的想象去那麼做了,就目前人類的技術來說,是完全可以做得到的。

當然,機器人能夠挑戰人類並不等於它們一定能勝過人類。但是,如果有人完全出乎人們的想象地非要製造出能夠完全獨立與人類而且能不斷自我完善的機器人來,就目前人類的科技水平來說也不是不可能。這就需要給予機器人以更高級的智能,那就是它們需要能夠提出自我完善的要求,並根據這樣的要求來設計軟件及硬件的改進,並加以生產。對於單一的機器人來說,由於它的操作指令是人類加入的,它不太可能(或者完全不可能)做到這一點,至少它很難更換自己的操作系統。但是,一個能夠彼此觀察彼此溝通而且彼此幫助修復的機器人社會,是完全可以做到這一點。它們只需輪流將對方關機,然後幫對方進行包括操作系統在內的軟件的更新,以及更換硬件,然後再重新開機就可以了----只要人類最初給予它們這樣的能力,而人類已經具備了可以給機器這樣的能力的水平了,剩下的只是願意不願意的問題了。

能夠生產和彼此幫助更換軟硬件還不等於能夠設計。能夠做出需要的判斷,並根據需要進行設計可能是機器人能夠在物質能力上完全超越人類的一個最後的前提條件,而這個條件目前來說恐怕也不是完全不可能通過人類的幫助而獲得的。當然,就是這樣的機器人與人類相比也還是有着很多致命的缺陷,比如他們沒有情感,甚至沒有公德和是非。但是,它們恐怕根本不需要那些高尚的素質就能挑戰甚至在軍事戰爭中打敗人類了。。。。。。




[1] http://blog.creaders.net/murongqingcao/user_blog_diary.php?did=77402

[2] http://tech.creaders.net/2014/11/23/1458656.html




瀏覽(649) (0) 評論(6)
發表評論
文章評論
作者:慕容青草 留言時間:2014-11-26 19:26:02
很多人可能因為機器人中的那個“人”字而忽略了今天的機器人能夠做些什麼。今天的機器人的潛力是能夠綜合今天各種科技能力。除了前面提到的沒有情慾沒有情面,沒有恐懼,防毒防彈,不需要休息等等基本的素質之外,它們還能做到:

千里眼和透視眼:今天的雷達能夠偵察幾百英里以內的動靜,今天的紅外掃描和其它形形色色的掃描可以讓人類難以找到藏身之處。

順風耳:今天美軍的偵察機早就可以將多少英里之內的敵方的聲音收集到且建立特徵資料,今天的電話及網絡通訊都可以被監聽。

水陸空全方位運行:這在原則上來說早不是問題,只是具體設計參數的問題。

遙控:如果美國的高水準的無人機都有可能被別的國家攔截下來的話,那麼機器人侵入某些國家的核子武器裝置,遙控發射核武器的可能性也不能排除。。。當然機器人更可以遙控它們自己掌控的武器。

高度協調:成千上萬的分布於世界各地的機器人都可以通過電訊同步協調。

。。。。。。

所以唯一剩下的似乎就是會不會有人甘願去造就這種可能對整個人類具有威脅的機器人社區的問題,而馬斯克出面警告本身或許意味他知道有人在這麼幹了。。。。。。

我前面提到的看到需要並根據需要進行設計雖然有一定難度,但並不是什麼不可能的。。。首先那是一種哲學思維,然後有軟件背景的人就可以依據那樣的哲學思維寫出相應的程序。。。我要是有時間有興趣都可以寫出那樣的spec來。。。。。
回復 | 0
作者:慕容青草 留言時間:2014-11-25 19:37:29
人們一直把注意力集中在機器人的智力是否會超過人類這個議題上,因而通過論證機器人的智力無法超過人類而得出結論說機器人不可能對人類構成威脅。。。。。。但是,他們的思維中忽略了兩個基本點,那就是本文所討論的兩個基本點:1)機器人只要能形成本文所指出的社會性,就可以獨立於人類;2)人類可以設計教導機器人如何來對付甚至攻擊人類。。。。。。

想想一群沒有欲望,沒有恐懼,防毒防彈,不怕疲勞,反應精準高速,攻擊準確乾脆的機器人大軍向人類發起進攻時將會是什麼樣的。。。。。。而目前人類對這點的缺乏認識恰恰不是人們所迷信的科學上的缺陷,而是本文所指出的簡單的哲學思維上的缺陷。。。。。。
回復 | 0
作者:慕容青草 留言時間:2014-11-25 05:34:01
西岸:

如果你的閱讀能力沒有大幅減退的話,先讀了本文再來出聲。。。。。等你讀了本文之後,如果有能力針對本文的討論而不是你自己陳舊的愚昧瞎扯的時候我在來和你探討。。。

為了照顧象你這樣閱讀能力較差而且一貫不知悔改的讀者,我給你幾點閱讀提示:

A)如果你要反對本文,先指出本文所列的下述技術有哪一點是今天的科技做不到的:

1)機器人之間可以彼此交換信息,2)當一台機器人出了故障,其它機器人可以去幫它排除故障,包括彼此相互幫助換電池或添加其它形式的能源,而且3)機器人可以自主地利用自然的材料生產出製造機器人的零件並組裝出機器人,並且能夠在自然界尋找開採收集所需要的原材料和能源。4)具有一定的戰鬥力;5)各種各樣的適應環境和進行遊戲對抗的邏輯能力; 6)生產和彼此幫助更換軟硬件;

B)如果你錯過了本文的最基本的要點,再反覆多讀幾遍下面這段話:

“要想認識到機器人在不遠的將來挑戰人類的可能性,就必須跳出前面提到的機器人只有在綜合智能完全達到或超出人類的智能時才能挑戰人類的思路,而是要看到機器人能夠挑戰人類的前提不是綜合智能的發達,而是社會性的形成。”

C)本文提到的看到需要並針對需要提出設計是在本文里對機器人的提出的最高要求(並不是人類可以對機器人提出的要求的最高點),但並不是基本要求。。。即便達不到這一點,只要滿足了上述的條件,就已經具備了與人類抗衡的條件,其中一個要點是製造它們的人類可以在最初的設計中就加入在一定時候開始仇視人類的指令。。。

D)為了使你能夠克服自己的驕傲和愚昧能夠理解上面的C,再提醒你好好讀一下本文的另一個基本要點:

“從上述的討論中也可以看到,這裡的前提是有人會幫助機器人去做到這一點”

E)即便是上面提到的本文提出的看到需要並進行設計的能力,也不是不可能做到。。。除非你西岸有本事從邏輯上否定這種可能,就別來扯什麼別人的理論,因為CAD本身就是一個在發展中的學科,至今為止並沒有人給出這一學科的發展上限。。。。

最後,建議你以後來這裡出聲之前先喝杯咖啡清醒清醒,不要一而再再而三地迷迷糊糊地胡亂發言。。。。。。

謝謝
回復 | 0
作者:慕容青草 留言時間:2014-11-25 05:17:58
pumbaa好!

我同意你的看法。。。非理性的人類確實不需要什麼特別的理由就可以做出讓一般人難以想象的事來。。。。。。不過即便有那種有財力和勢力的人努力去打造可以威脅人類的機器人社區,也還是需要很大功夫去做。。。以他馬斯克的地位說出那樣的話,恐怕他已掌握了有人在做那樣的事的訊息。。。。。。一旦有朝一日沒有情慾,不怕冷不怕熱,而且還能防彈防毒,反應速度超快,射擊命中超准,而且能夠自主行動及複製的機器人大軍與人類開戰的話,那可是一點也不好玩呀。。。絕不會象科幻電影那樣的有勁。。。。。

謝謝
回復 | 0
作者:西岸 留言時間:2014-11-24 23:10:14
目前的人類技術遠達不到這種能力,更不用說機器人了。
機器人戰勝人類從來就是個偽命題,對科學和方法論不清楚的人的臆想而已。這種高級民科是科幻作品的源泉,但不可能成為現實。
從科學的角度來講,要做成什麼需要滿足所有的邊界條件,而要阻止什麼做成,只需讓一個邊界條件不滿足就夠了,也就是破壞遠比實現要容易的多。這種不平衡是不論什麼,人類也好,其他什麼也好要實現特定的東西很難的根本原因,或阻止什麼發生很容易的基礎。第二,目前人類對自己的思維能力的發生和發展的物理基礎都沒有弄清楚,而機器人自己也許能夠增加自己的知識庫,但不可能增加利用知識的邏輯和規則,否則違反基本的智能發展規律,從人類用“無賴”的方式戰勝“深藍”的例子就可以看出,即機器學習的速率是不可能高於人類的,因為知識學習本身是個反饋過程,而不是不需要修正的過程。除非人類可以把機器製造到自己的物理程度,包括思維,這是目前和可預見的未來還做不到的。
第三,目前人類使用機器人的程度遠不足以使其具有“社會性”發生的程度,而沒有到這種程度,則無法發生“社會性”的現象,更談不上機器人之間的配合和獨立自主。
總的來講,這種事情發生的前提是機器人具有某種“意識”,所以可以反饋和預知,而目前人類對機器的掌握還沒有超出模仿人類單項行為的水平,甚至做不到綜合性的多重行為,所以產生某種”意識“的基礎還沒有。
不是機器不努力,而是人類沒能力。
回復 | 0
作者:pumbaa 留言時間:2014-11-24 20:38:31
我也覺得是可能的。也不必說那麼多的理由,就說是蝴蝶效應吧,偶然的一個程序漏洞,就可能引發機器人自主了。

不過機器人獨立了,會不會趨向與自然人爭鬥呢?自然人的爭鬥源於爭奪資源,而機器人是不需要人類所需要的資源的。

這種事想破腦袋也沒個結論的。不過據特斯拉老闆的估計,僅五年,大家就可看到事實了。看來,人類將毀於自己。
回復 | 0
我的名片
慕容青草
來自: ny
註冊日期: 2007-08-15
訪問總量: 2,199,098 次
點擊查看我的個人資料
Calendar
我的公告欄
錯誤 vs 犯錯的原因
拆房
如何鎖定人類科學
20世紀物理學
複雜情勢下之最佳優先考慮
成功與別人的幫助
對抗真理的結果
舊房子的哲學
拔枯樹
站與踩
哲學是公開的密碼
普朗克論科學真理之傳播
黑格爾論學習的過程
黑格爾論邏輯
自勉
歡迎交流
最新發布
· 光傳播過程中的三個基本定律(假
· 攔擋正常人登錄的captcha
· 成事還不足敗事已有餘的AI
· 多語言環境與嬰幼兒學說話
· 一場誤會
· 歡迎免費下載,作者除外?
· 再簡單聊聊公平分析
存檔目錄
2026-04-06 - 2026-04-06
2026-03-09 - 2026-03-28
2026-02-03 - 2026-02-21
2026-01-04 - 2026-01-27
2025-12-05 - 2025-12-30
2025-11-04 - 2025-11-26
2025-10-01 - 2025-10-29
2025-09-30 - 2025-09-30
2025-06-01 - 2025-06-29
2025-05-03 - 2025-05-28
2025-04-04 - 2025-04-28
2025-03-03 - 2025-03-31
2025-02-05 - 2025-02-26
2025-01-05 - 2025-01-31
2024-12-02 - 2024-12-31
2024-11-05 - 2024-11-28
2024-10-02 - 2024-10-31
2024-09-01 - 2024-09-18
2024-08-01 - 2024-08-31
2024-07-02 - 2024-07-29
2024-06-01 - 2024-06-28
2024-05-02 - 2024-05-28
2024-04-01 - 2024-04-30
2024-03-02 - 2024-03-29
2024-02-03 - 2024-02-29
2024-01-01 - 2024-01-30
2023-12-05 - 2023-12-24
2023-11-06 - 2023-11-27
2023-10-02 - 2023-10-29
2023-09-01 - 2023-09-29
2023-08-01 - 2023-08-31
2023-07-01 - 2023-07-31
2023-06-01 - 2023-06-30
2023-05-02 - 2023-05-29
2023-04-04 - 2023-04-29
2023-03-03 - 2023-03-29
2023-02-01 - 2023-02-28
2023-01-01 - 2023-01-30
2022-12-02 - 2022-12-31
2022-11-02 - 2022-11-23
2022-10-09 - 2022-10-31
2022-09-01 - 2022-09-30
2022-08-01 - 2022-08-21
2022-07-02 - 2022-07-31
2022-06-15 - 2022-06-25
2022-05-06 - 2022-05-27
2022-04-07 - 2022-04-30
2022-03-03 - 2022-03-28
2022-02-01 - 2022-02-28
2022-01-01 - 2022-01-30
2021-12-01 - 2021-12-29
2021-11-02 - 2021-11-29
2021-10-02 - 2021-10-29
2021-09-08 - 2021-09-30
2021-08-08 - 2021-08-31
2021-07-18 - 2021-07-26
2021-06-03 - 2021-06-27
2021-05-04 - 2021-05-29
2021-04-04 - 2021-04-28
2021-03-08 - 2021-03-27
2021-02-12 - 2021-02-28
2021-01-04 - 2021-01-28
2020-12-02 - 2020-12-30
2020-11-01 - 2020-11-26
2020-10-06 - 2020-10-29
2020-09-01 - 2020-09-29
2020-08-06 - 2020-08-27
2020-07-02 - 2020-07-27
2020-06-07 - 2020-06-29
2020-05-01 - 2020-05-31
2020-04-17 - 2020-04-30
2020-03-08 - 2020-03-20
2020-02-20 - 2020-02-24
2020-01-10 - 2020-01-31
2019-12-02 - 2019-12-31
2019-11-07 - 2019-11-30
2019-10-07 - 2019-10-30
2019-09-14 - 2019-09-26
2019-08-13 - 2019-08-21
2019-07-23 - 2019-07-29
2019-06-06 - 2019-06-23
2019-05-05 - 2019-05-25
2019-04-01 - 2019-04-22
2019-03-07 - 2019-03-29
2019-02-09 - 2019-02-27
2019-01-01 - 2019-01-21
2018-12-01 - 2018-12-31
2018-11-04 - 2018-11-24
2018-10-01 - 2018-10-30
2018-09-01 - 2018-09-30
2018-08-01 - 2018-08-29
2018-07-02 - 2018-07-27
2018-06-02 - 2018-06-26
2018-05-13 - 2018-05-28
2018-04-03 - 2018-04-28
2018-03-02 - 2018-03-28
2018-02-10 - 2018-02-28
2018-01-08 - 2018-01-27
2017-12-06 - 2017-12-30
2017-11-09 - 2017-11-25
2017-10-15 - 2017-10-15
2017-09-05 - 2017-09-30
2017-08-05 - 2017-08-27
2017-07-14 - 2017-07-24
2017-06-09 - 2017-06-24
2017-05-02 - 2017-05-02
2017-04-04 - 2017-04-26
2017-03-02 - 2017-03-30
2017-02-02 - 2017-02-27
2017-01-25 - 2017-01-30
2016-12-04 - 2016-12-31
2016-11-16 - 2016-11-23
2016-10-04 - 2016-10-27
2016-09-08 - 2016-09-29
2016-08-02 - 2016-08-31
2016-07-02 - 2016-07-27
2016-06-08 - 2016-06-30
2016-05-02 - 2016-05-22
2016-04-01 - 2016-04-13
2016-03-06 - 2016-03-31
2016-02-07 - 2016-02-23
2016-01-18 - 2016-01-18
2015-12-04 - 2015-12-30
2015-11-02 - 2015-11-27
2015-10-25 - 2015-10-29
2015-09-06 - 2015-09-24
2015-07-11 - 2015-07-25
2015-06-22 - 2015-06-22
2015-05-01 - 2015-05-29
2015-04-14 - 2015-04-14
2015-03-07 - 2015-03-22
2015-02-02 - 2015-02-21
2015-01-20 - 2015-01-20
2014-12-06 - 2014-12-06
2014-11-08 - 2014-11-24
2014-10-03 - 2014-10-20
2014-09-09 - 2014-09-27
2014-08-16 - 2014-08-16
2014-07-12 - 2014-07-25
2014-06-08 - 2014-06-14
2014-05-09 - 2014-05-16
2014-04-02 - 2014-04-29
2014-03-01 - 2014-03-28
2014-02-03 - 2014-02-28
2014-01-02 - 2014-01-29
2013-12-02 - 2013-12-30
2013-11-02 - 2013-11-27
2013-10-02 - 2013-10-29
2013-09-02 - 2013-09-28
2013-08-02 - 2013-08-31
2013-07-01 - 2013-07-26
2013-06-05 - 2013-06-21
2013-05-06 - 2013-05-31
2013-04-08 - 2013-04-30
2013-03-01 - 2013-03-28
2013-02-07 - 2013-02-27
2013-01-11 - 2013-01-29
2012-12-01 - 2012-12-26
2012-11-15 - 2012-11-15
2012-10-07 - 2012-10-28
2012-09-05 - 2012-09-28
2012-08-24 - 2012-08-24
2012-07-03 - 2012-07-20
2012-06-02 - 2012-06-30
2012-05-01 - 2012-05-30
2012-04-03 - 2012-04-29
2012-03-01 - 2012-03-31
2012-02-03 - 2012-02-27
2012-01-29 - 2012-01-29
2011-12-02 - 2011-12-13
2011-11-06 - 2011-11-28
2011-10-12 - 2011-10-27
2011-09-24 - 2011-09-24
2011-08-04 - 2011-08-09
2011-07-02 - 2011-07-31
2011-06-06 - 2011-06-28
2011-05-09 - 2011-05-27
2011-04-18 - 2011-04-24
2011-03-10 - 2011-03-23
2011-02-10 - 2011-02-17
2011-01-14 - 2011-01-14
2010-11-26 - 2010-11-26
2010-10-13 - 2010-10-13
2010-09-12 - 2010-09-29
2010-08-22 - 2010-08-29
2010-07-05 - 2010-07-27
2010-06-12 - 2010-06-26
2010-05-09 - 2010-05-29
2010-04-11 - 2010-04-17
2010-03-10 - 2010-03-28
2010-02-16 - 2010-02-16
2010-01-04 - 2010-01-31
2009-12-04 - 2009-12-29
2009-11-22 - 2009-11-26
2009-06-03 - 2009-06-29
2009-05-13 - 2009-05-13
2009-02-13 - 2009-02-22
2009-01-14 - 2009-01-18
2008-12-08 - 2008-12-28
2008-11-01 - 2008-11-29
2008-10-04 - 2008-10-27
2008-09-12 - 2008-09-26
2008-08-01 - 2008-08-22
2008-07-15 - 2008-07-31
2008-06-07 - 2008-06-29
2008-05-01 - 2008-05-30
2008-04-19 - 2008-04-28
2008-02-02 - 2008-02-19
2008-01-08 - 2008-01-28
2007-11-01 - 2007-11-07
2007-10-02 - 2007-10-29
2007-09-04 - 2007-09-30
2007-08-15 - 2007-08-29
 
關於本站 | 廣告服務 | 聯繫我們 | 招聘信息 | 網站導航 | 隱私保護
Copyright (C) 1998-2026. Creaders.NET. All Rights Reserved.