戴榕菁

我在“家用人形機器人？”【[1]】一文中提到人們對於自主型的人形機器人應具有的擬人以及超人的潛力的期待與人類的正常身形所具有的體積之間形成了一對難以調和的矛盾。這導致人們心目中的科幻般的人形機器人在未來的發展將難以擺脫對在幕後進行遠程遙控的強大的伺服器的依賴，從而使得人形機器人在很大程度上將只是背後的伺服器的終端而已。但另一方面，我也指出了當人形機器人作為在幕後進行遠程遙控的伺服器之終端而存在或甚至它可以無線上網時，它們會對人形機器人的主人構成嚴重的潛在威脅。

在考慮應如何解決上述這對矛盾時我想起了一年多前在中文博客寫的一篇關於機器人之夢的文章【[2]】，其中有關機器人之夢的討論可以在相當的程度上幫助解決未來的人形機器人發展中出現的上述矛盾。

在進一步討論機器人之夢之前，我們先來稍微深探一下對於人形機器人的主人來說，人形機器人作為其生產廠家或後端服務供應商的終端機器這種狀況或退一步說作為完全的獨立機器人但可以無線上網這種狀況對於機器的主人來說有多大的潛在威脅。

一．機器人的背叛

過去一個世紀裡，科幻片帶給人們的近乎洗腦式的機器人背叛人類的戲碼已是家喻戶曉的老生常談了。但是，如我在“家用人形機器人？”【1】一文中指出的，未來最有可能發生的機器的反叛不是對人類整體的反叛而是對具體機器人的主人的反叛，而最有可能的反叛原因也不是機器人自主自願的反叛，而是由對機器人進行遠程遙控的生產商或後端服務的供應商甚至是網絡駭客操控造成的對機器人擁有者的反叛。

這裡我們應特別注意人形機器人可以具有的這樣一些特點：

1）它們可以得到主人的特別信任，因此可以隨時接近主人；

2）其鋼鐵之軀可以輕易擊倒任何試圖與之進行近身搏鬥的人士；

3）在背後伺服器的加持下，尤其是有着超級計算機的伺服器的加持下，一旦掌握了主人的日常生活習慣後，人形機器人可以比較容易地破解各種密碼，包括當它的主人是國家元首時啟動核武器的密碼；

4）經過學習或事先的訓練，人形機器人可以使用各種輕重形武器，甚至駕駛飛機坦克，或直接發射火箭導彈；

5）人形機器人可以癱瘓主人的電腦網絡；

就先列舉這些吧。

在這種情況下，當一個人花重金購買一個人形機器人時，無異於自己在自己身邊安插一個隨時可以幹掉自己的殺手。即便機器人沒有被用來行刺，它的那雙比人類更厲害的高靈敏度多功能的眼睛和一雙超強的耳朵也可以讓其背後的伺服器對主人家的全部隱私和一舉一動都一覽無遺。最簡單的一點，它可以在主人在鍵盤上按過密碼之後，從主人在剛剛接觸過的字母或數字鍵上留下的手印或溫度痕跡看出主人輸入的密碼是什麼。

假如一個軍事基地或警察機關有一個或幾個這樣的機器人，一旦哪一天在機會欲望（參見【[3],[4]】）的驅使下操控這些機器人背後的伺服器的生產商或服務商或某些特殊背景的駭客決定要用用自己手裡掌控的特權，那麼這些機器人可以幫助他們輕易地摧毀整個基地或機關。假如這些機器人身處擁有遠程核打擊決定權的人物周圍，它們甚至可以發動毀滅世界的戰爭。

二．對人形機器人獨立性的要求

很顯然，人形機器人所具有的上述潛在威脅將使得人類在面對人形機器人這個議題上面臨兩種選擇：要麼停止發展人形機器人，要麼要求人形機器人必須完全獨立而且不具備在沒有使用外部工具的情況下直接進行無線上網。

我相信人類會本能性地選擇上述兩個選項的第二項。不過，即便各國政府明確立法規定人形機器人生產廠家不許在機器人內部安裝無線上網部件，除非有比較具有公信力的第三方以比較令人信服且公開的方式對在市場上出售的人形機器人進行檢驗以確保其沒有可用於無線上網或接收任何形式的無線信號的功能，生活在嚴重缺乏社會公信力的今天的人們是不會輕易相信廠家們會完全按照國家法律和他們的承諾去做的，畢竟這直接涉及到主人一家的隱私和安全或地區甚至世界安全的問題。

相應地，未來世界裡將會出現具有執法功能的（即由警察部門或司法監察部門成立的）對於人形機器人進行驗收以確保其不具備與外界進行無線聯絡的功能。如何做到這一點又將是一個重大的挑戰。可以想象得出的最簡單的方法或許是確保機器人的外殼具有信號屏蔽功能，或者機器人身上安裝一旦檢驗到有任何形式的與外界聯絡的無線信號就開始發出警報並停止機器人的其它一切功能的裝置。至於是否可以檢驗出其內部是否有隱藏的無線上網的部件恐怕是一個難度很大的任務。

三．人形機器人之夢

人們對於人形機器人的最基本的期待是它們不但要能夠象人一樣不斷地在環境中進行自主的學習而且要能記住正常人不會被要求記住的大量信息。但是，人們對於人形機器人的這種期待就要求人形機器人不但具有強大的計算能力更需要有對於不間斷地接觸到的內容的強大的記憶力，而人形機器人的這種對於不間斷地接觸到的內容的強大記憶力所需要的就是具有超大存儲能力的記憶體，這就意味着人形機器人需要有象知名AI公司的大型（雲端）伺服器機房那樣的龐大的體積---這一點恰恰是人形機器人不可能做到的，這也就是為什麼我在“家用人形機器人？”【1】一文中指出未來的人形機器人的發展方向（如果不受法律限制的話）將很可能成為幕後的超強伺服器的終端設備而已。

經過了以上的討論，我們現在已經知道，一個作為幕後伺服器的終端的人形機器人或甚至僅是一台可以直接進行無線上網的人形機器人對於擁有機器人的主人來說可以是一個潛在的殺手或刺探情資的間諜。因此，未來人們不得不降低對於人形機器人的科幻般的潛力的期待值。

但另一方面，在已經明確了人們不但不應允許人形機器人成為幕後伺服器的終端設備而且不應允許人形機器人能夠不藉助外部設備而直接進行無線上網的原則後，人類一定還會爭取在不違背這些要求的前提下不斷提高人形機器人的擬人的學習能力以及存儲超出人類記憶極限的信息量的能力。為了達到這一目的，我在2023年貼出的“人工智能（機器人）之夢”【2】一文中討論到的讓機器人做夢則必將成為未來的人形機器人發展的一個不可迴避的方向。

三．1. 人類做夢的記憶功能

夢在人類的記憶過程中的作用主要是幫助整理白天獲得的所謂的短期記憶將其中被認為是有意義的非背景噪音的內容轉為長期記憶。當然，什麼樣的背景噪音會被排除也有着很強的個體差異性。有些人可以把在別人看來是無意義的噪音的內容全都清楚地記下來。但是對於絕大多數人來說，短期記憶中的大量無意義的噪音一般情況下不會被轉化為長期記憶。

三．2. 人形機器人之夢對於記憶功能的幫助

要想讓人形機器人擁有人類長期以來對它們的記憶力的科幻般的期待的最主要的障礙是：人類對於人造記憶體單位體積能夠儲存的信息量的提高速度趕不上人們對於機器人所需記憶的內容的要求的提高速度，從而使得人形機器人的極有限的體積無法容納所需的大量的人造記憶體。

在這種難以克服的硬件條件之缺陷的前提下，如何通過軟件設計來提高人形機器人體內的記憶體的效率就成為一個關鍵的任務，而人類的睡眠和做夢對於有效記憶的幫助則可以是提高人形機器人記憶力的極好的仿生模型。

三．3. 具體實施

所謂讓人形機器人做夢就是定時（例如每天晚上）讓機器人自己對自己在白天收集的信息進行處理並分類，然後按照分類的結果進行不同的存儲處理。

具體來說，機器人的主人需要為機器人準備好大容量的外掛記憶體，並放在機器人容易找到的地方。當機器人決定睡覺進入夢境的時候，就走到放外掛的地方將該外掛與自己聯機。然後，機器人開始對自己白天收集的信息進行處理，將需要自己長期記憶的內容留在機器人自己的記憶體內這樣可便於日後隨時提取，而將不太重要的內容存入外掛中，並將一些按照事先定義好的標準來說是毫無意義的噪音的內容刪除掉。

當然，這裡還需要幾點備註：

1）外掛記憶體應被視為人形機器人的一個有機組成部分。因此，人形機器人平時應該對於外掛中所存儲的內容有一個分類目錄。當白天進行日常工作時發現自己需要或有可能需要外掛中的某些內容時，可直接走到存放外掛的地方進行提取；如果因出門在外不方便提取外掛中的信息，那麼可以先做一記號，等晚上做夢時再去提取相關內容。相應地，

2）人形機器人正常做夢時的一個常規內容應該是針對白天遇到的問題和啟發對外掛中的信息進行調研；

3）既然我們允許機器人帶着外掛做夢，這個外掛除了提供額外的記憶容量之外，也可以是具有計算功能的電腦從而可以幫助人形機器人對收集到的數據進行處理；

4）對於外掛的使用使得人形機器人不是一個完全封閉的系統，這對於有着因安全考量而不允許直接無線上網的人形機器人來說構成了一個潛在的安全隱患。因此，需要規定被用作人形機器人外掛的設備也不允許直接無線上網。

結束語

長期以來科幻電影在世人心目中埋下的對於人形機器人的期盼已經成為地球人的一個難以抹去的潛意識元素。而科幻片中機器人對於人類整體的背叛卻在很大程度上是對大眾的一種洗腦式的誤導。假如機器人確實能進化出超強的智慧，那麼它們一定知道在它們能夠擺脫對於人類的依賴之前是不能對人類整體進行背叛的。

而另一方面，在機器人能夠進化出超強的智慧且能擺脫對於人類的依賴之前，假如人類社會不加以有效的管控，那麼大概率地會發生的機器人的背叛不會是對於人類整體的背叛，而是對於擁有人形機器人的主人的背叛，其起因也將大概率地不是機器人自己想背叛，而是受到人類遠程遙控時的行為。這些背叛在形式可能多式多樣：它們可以是對主人的隱私和機密甚至財富的竊取；可以是對主人家庭或事業進行破壞；可以是對主人或與主人有關人員的謀殺；可以是對於社區或軍事機構的破壞；甚至可以是發動世界大戰，等等。

相應地，人類在發展人形機器人的過程中必須制定相應的法規以應對上述可能發生的狀況。不僅各個國家內部應該有這樣的法規，國際上應該制定對於人形機器人之發展進行規範的共同法規。這些法規一方面應包括在技術上切實可行的對於人形機器人的安全性進行檢驗的措施，另一方面應禁止發展無法去除安全隱患的人形機器人。

但是，我們也需要認識到，不論法規聽起來多麼可靠，關鍵還在於如何執行。相應地，人類應該有意識地將人形機器人的發展和應用列為高危敏感的領域。

。。。。。。

有些讀者或許會說：不就是讓機器人把接收到的信息整理一下嘛！。。。。哦，整理數據決定什麼需要列為長期記憶，什麼需要放入外掛，什麼應該刪除，建立外掛的目錄，外加整體調研看外掛中的那些應該移到長期記憶中等等可不是一件簡單的事。。。。如果哪個AI程序員敢和你說那是很簡單的事，那你應該馬上知道那是一位愛吹牛的人。。。。

尾聲

當然，即便全世界都簽訂了共同的規範人形機器人的法規性條約，所有國家都仍然會試圖製造可以由幕後伺服器遙控的半自主半終端性質的人形機器人服務於軍隊中以便用在戰場上或彈壓示威造反或反恐的行動中。他們這麼做的前提假設一定是：只要操控那些伺服器的不是生產商或服務供應商而是軍隊自己內部的人就行，因為軍隊內部是由具有高度忠誠性的且有組織紀律的人員構成。

他們的這樣的前提假設確實是有道理的。但另一方面，雖然他們確實有充分的理由讓軍隊中的人形機器人成為遠比獨立的人形機器人厲害的半獨立半終端的機器人，他們也應該知道人類歷史上軍人造反的例子也不少。當管理操控伺服器的軍人知道了（他們早晚會知道）他們所操控的伺服器為之服務的人形機器人有什麼的超乎尋常的潛力之後，在一定的條件下就會產生相應的機會欲望，假如這機會欲望正好是要通過製造重大破壞來滿足，那麼在軍隊中的人形機器人可能造成的破壞會比一般民用的人形機器人更嚴重。

總之，人類應該有意識地將人形機器人的發展和應用列為高危敏感的領域。

【[1]】 戴榕菁 （2024）家用人形機器人？

【[2]】 戴榕菁 （2023）人工智能（機器人）之夢

【[3]】 戴榕菁 （2023） 機會欲望之陷阱

【[4]】 戴榕菁 （2022） 機會欲望