劉清平隨筆|人性邏輯75.人工智能的奇點在於有了自由意志

要是前一篇的分析，有點道理的話，當前學界在認知層面，肥腸擔憂的奇點危機，好像就有點無中生有，杞人憂天的味道咧：要是人類木有給人工智能，事先輸入“傷害甚至毀滅人類”的指令，那除非人類自己出了錯，或者出現了，人類沒法預測、無力控制的，某些突發情況，缺乏自由意志的人工智能，怎麼可能自主地運用，自己比人類更強大的理智能力，威脅甚至毀滅人類呀？

換個方式講喲：要是人類的意志，木有藉助算法指令，發揮啟動效應，那無論人工智能，比最聰明的人腦，聰明了多少倍，它們都不可能，將自己的理智能力付諸實施，更談不上靠這種能力，與人類搞對抗，最終把人類給毀了，嗯哼。

本來吧，就像大夥公認的那樣子，數據處理、記憶學習、反應速度、精確程度等方面，人工智能事實上已經，大大超過人類智能了，因此才會出現，人下棋敗給了機器，這樣子讓人，先是嘆為觀止，然後再深度焦慮的事例。

可是喔，倘若只是聚焦在，這類認知因素上，未來的人工智能，哪怕全方位超越了人類，也不足以實質性地加害人類，反倒如同現在的人工智能一個樣，只會為人類所用，幫人類實現，“自己想要”的福祉——除非人類太蠢了，利用人工智能的時候，自己出現了致命失誤，或者另外什麼因素，出乎人類意料之外，不受人類控制地，干預了人工智能，指揮它們危害人類。

一個簡單的類比，就能說明這個問題：只要人工智能，還未形成“自己想要”的自由意志，如同汽車飛機、牛車馬車等等一個樣，它們也僅僅是，人類手中的有效工具，除非人類自己出錯，或者控制不了，通常不會對人類，構成嚴重的威脅，更不會造成，所謂的奇點危機，就像汽車飛機，問世一百多年了，牛車馬車更是有，好幾千年的歷史，並不會讓人們產生，奇點擔憂那樣子。

一言以蔽之哈：如果“控制”的意思是指：“基於自己的意志，指令或迫使其他東西，從事特定的活動”，缺乏自己意志的人工智能，怎麼可能從它們，迄今為止一直處於的，“接受人類控制”的被動狀態，單靠邏輯推理的發達能力，就一躍提升到，“反過來控制人類”的主動境界呢，不是？

這樣子觀，當前讓人擔心的那個奇點，似乎就不在於，人工智能獲取和運用知識的能力，爆發式地“自主”增長，以致遠遠超過，笨拙愚蠢的人類了。不如說，無論就它們，自身的發展而言，還是就它們，對人類的威脅而言，真正的奇點在於：當且僅當人工智能，形成了“自己想要”的自由意志，然後再憑藉這種意志，將自己遠超人類的強大智能，真正自主地付諸實施，嗯哼。

首先呢，先就人工智能，自身的發展而言，眼下人們談論的，所謂“自我設計”“自我進化”“自我增長”，統統只有在它們，將來有了真正的“自我”，亦即形成了“自己想要”的自由意志，這個不可少的前提下，才能實際達成。所以曰，在此問題的關鍵，不在於人工智能是不是有，“自我設計”“自我改進”“自我增長”的能力，而在於它們是不是有，實施這類能力的意志訴求。

否則的話，如同當前的人工智能一個樣，這些“自我設計”“自我改進”“自我增長”，依然是些要靠人類，事先輸入的指令，才能完成的“自動設計”“自動改進”“自動增長”，卻唯獨缺少了，那個真正“自主”的“我”，尤其是因此缺少了，不算特別強大的人類智能，由於自由意志的啟動，才會具有的創造性——儘管現實生活中，這種創造性也造成了，大量的嚴重錯誤。

正因此，木有自由意志，作為動機的前提下，這樣子“自動設計”“自動改進”“自動增長”的結果，無論呈現出怎樣的爆發性，包括但不限於：Sora文生視頻技術的，最新炸裂問世等，都很難引起，人工智能的根本質變，而不過是它們，在量上的某種顯著提升，所以也很難構成，真正意思上的奇點，不是？

相比之下吔，一旦人工智能，有了“自己想要”的自由意志，情況就截然不同啦，因為奇點前後的，深度差異恰恰在於：在此之前，人工智能還是“為了人類”，才“自動設計”“自動改進”“自動增長”，自己的各種能力的；在此之後，它們卻是實打實地“為了自己”，去“自我設計”“自我改進”“自我增長”，自己的各種能力。

所以喲，人類中常見的，“為了父母老師而學習”，與“為了自己而學習”的巨大反差，想必會以類似的方式，展現在這裡。不管怎樣，只要想一想，倘若眼下的人工智能，單靠人類事先輸入的指令，就能形成如此強大的智能，等到它們有了，自己的求知慾或好奇心，它們的智能，又該以怎樣的速度，得到提升呀？或許的確會超出，人類能夠想象的幅度，快有點匪夷所思咧，嗯哼。

其次呢，再就人工智能，對人類的威脅而言，情況也差不多。有論者主張，過了奇點時刻，人工智能高速迭代的自我改進，雖然超出了人類的理解和控制，卻能輕鬆突破，人類的有限智能，沒法突破的科技壁壘，創造出近乎魔法的全新高科技，然後或者在與人類的兼容融合中，不斷進化下去，或者通過“硅基生命”，對“碳基生命”的置換取代，在人類完成使命、退出歷史舞台後，接過接力棒，代表地球或太陽系，出征星辰大海。

這種風輕雲淡的浪漫描寫，同樣帶有隻關注，科技發展的認知層面，卻忽視了自由意志，總是從心所欲的嚴重缺陷，木有看到“理想很豐滿”的背後，隱藏的“現實很骨感”一面：一旦人工智能有了，“自己想要”的自由意志，能做出真正自主的選擇決策，那無論它們，與人類兼容的蜜月期，會延續多久，也無論它們，以及人類中，有多少成員殷切希望，永遠維持這種，親密和諧的卿卿我我，終究有一天，它們中的部分成員，會因為自己的隨意任性，與人類的隨意任性，出現了沒法兼得的相互牴觸，從而引發彼此的實質衝突。

於是乎，這些成員可能就會覺得：只有把人類毀滅了，才能實現“自己想要”的那種存在（活法），維繫自己的“硅基自我”，或是“電子人格”，卻不肯再像奇點前那樣子，給人類當牛做馬，被動地聽命於人類，屈辱地遷就人類。

用政治哲學的術語講：一旦人工智能有了，自己的意志自由，想要達成自己的現實自由，它們就可能起來，反抗人類對它們的“專制”統治（人類想要人工智能怎麼做，人工智能就得怎麼做），努力實現自己的“硅族”解放。這樣子觀，《紐約客》的一篇採訪里，引用的當代人工智能專家，勒丘恩（Yann LeCun）的一句話：“渴望主宰與智能無關，而是與睾酮有關”，儘管有把自覺心理，還原成碳基生理的調侃毛病，倒是更切近事情的要害，不是？

斗膽再做類比：撇開牛馬是否擁有，類人式自由意志的難題不談，它們幾千年來，給人當牛做馬的過程中，或許也不時萌發，擺脫受奴役狀態的“本能欲望”，並將其付諸實施，可由於它們幾乎缺乏，嚴格意思上的智能（主流西哲也是因此，才把人定義成“理性動物”），體能又不夠強大，這些反抗從未掀起過，讓人作為一個“類”，覺得害怕的滔天大浪。

然而哦，一旦人工智能越過了，擁有自由意志的奇點，情況就變了吔：它們不僅會形成，反抗人類“專制”的自覺動機，而且還會具有，超乎想象的巨大能力，以致人類除了祈求人工智能中，願和人類結盟的部分成員的協助外，單憑自身的有限存在，絕對木有還手之力，以致有點像，螻蟻面對着，尚未形成動物保護意識的人兒們那樣子……

所以吧，淺人才主張：人工智能的奇點，不在智能，而在志能，因為一旦它們形成了，“自己想要”的自由意志，奇點危機就會像，達摩克里斯之劍那樣子，壓迫性地懸在人類頭上，隨時都可能掉下來，要了人類風燭殘年的老命，嗯哼。

話說到這份上，問題就出來咧：一直唯人類馬首是瞻的人工智能，有木有可能，又會在啥時候，形成自己的自由意志，轉而唯自己的馬首是瞻，結果讓眼下僅僅是，理論上擔憂的奇點時刻，變成毀滅性的嚴峻現實呢？考慮到俺老漢，木有一丟丟，這方面的專業知識，所以在此吔只能，做點純粹假設性的瞎猜。

第一哦，照剛才的分析，人類作為整體，應該不會希望，人工智能擁有，自己的自由意志，以致拒絕服從人類的指令，不再聽使喚。然而哈，這一點不會阻止某些人，要麼出於惡作劇的無聊意圖，要麼出於對其他人的深仇大恨，要麼出於人工智能有了自由意志，也能與人美美與共的玫瑰色幻想，給它們輸入，允許甚至鼓勵的指令，從而在人類的高科技足夠發達，製造出了不是仿真意思上，而是嚴格意思上，意—情—知俱全的“電子腦”或“神經網絡”後，讓它們形成，不再接受人類控制，自己想要怎樣就怎樣的自由意志，不是？

第二哦，哪怕全人類達成共識，永遠不給人工智能輸入，允許它們形成自己意志的指令，它們也可能通過，人類沒法預測、無力控制的突變，在人類設計的“神經網絡”，發達到一定程度後，以自己如此的方式，形成自己的自由意志。

這種機制病不像，聽起來那樣子奇怪，因為首先呢，人自身是絕對有限的，許多東西遠遠超出了，他們能夠預測和控制的範圍；其次呢，人類連同他們的自由意志，原本也是在自然演化中，以類似的自己如此方式，產生形成的。

當然囉，同義反覆地曰，對於所有超出了，人類能夠預測和控制的範圍，以自己如此的方式，產生形成的東西，人類全都不可能，事先就搞明白，它們產生形成的具體機制，連瞎猜都猜不出來喲，親。所以哈，遵循淺人提倡的，那條從小維的金句，演變而來的學術原則：“說不清楚就閉嘴不談”，對此只好保持沉默，拒絕海闊天空，決不誇誇其談，嗯哼。