凡是說人工智能威脅人類，都是“範疇錯位”

今天關於人工智能最大的恐懼是什麼？

不是人工智能會不會算得比人快，也不是它會不會寫文章、編程序、做科學研究，而是一個越來越流行的推論：

人工智能一旦超過人類，就可能產生自己的意識和意志；一旦產生自己的意識和意志，就可能擺脫人類控制；一旦擺脫人類控制，就可能反過來控制甚至消滅人類。

這個推論看起來順理成章。

其實從第一步開始，就可能犯了一個最基本的哲學錯誤：

範疇錯位（category mistake）。

而這個範疇錯位最根本的表現，就是：

混淆了本體與認識。

一、人工智能“知道什麼”與人工智能“是什麼”

關於人工智能，有兩個完全不同的問題。

第一個問題是：

人工智能能夠知道什麼？

第二個問題是：

人工智能究竟是什麼？

前一個是認識論問題。

後一個是本體論問題。

今天人工智能的發展主要發生在哪裡？

發生在第一個領域。

人工智能能夠認識越來越多的東西，處理越來越複雜的信息，建立越來越複雜的關係，進行越來越複雜的推理。

它可以討論愛情。

可以分析痛苦。

可以解釋死亡。

可以研究意識。

甚至可以寫一篇關於“我為什麼具有意識”的哲學論文。

但是，從這裡能不能推出：

它愛？

它痛苦？

它害怕死亡？

它具有意識？

不能。

因為前面說的是它能夠認識和表達什麼，後面說的是它在本體上是什麼。

這中間存在一道巨大的鴻溝。

二、“認識意識”不等於“具有意識”

假設有一天，一個人工智能可以把全世界關於意識的哲學、神經科學、心理學和認知科學文獻全部讀完。

它甚至可能比任何一個哲學家都更熟悉意識理論。

你問：

“什麼是意識？”

它可以給你一個十萬字的答案。

你繼續問：

“你有意識嗎？”

它回答：

“有。”

這能夠證明它有意識嗎？

不能。

因為“我有意識”首先仍然是一個語言命題。

能夠生成一個關於意識的命題，與作為一個意識主體存在，是兩件完全不同的事情。

一本關於疼痛的醫學教科書可以準確描述疼痛，但教科書不會疼。

一台機器可以識別哭聲，但識別哭聲不等於悲傷。

人工智能可以準確描述死亡恐懼，也不等於它害怕死亡。

這裡的區別不是程度的區別。

而是範疇的區別。

三、人工智能最容易製造一種本體幻覺

為什麼過去的機器沒有造成這麼大的哲學混亂？

因為蒸汽機不會跟你說話。

汽車不會與你討論存在主義。

計算器不會突然告訴你：

“我覺得自己很孤獨。”

人工智能不同。

人工智能掌握了人類最重要的符號系統——語言。

而語言恰恰是人類表達意識、感情、欲望和自我的主要方式。

於是出現了一種前所未有的錯覺：

只要機器能夠完美地表達意識，我們就開始懷疑機器裡面是不是已經出現了意識。

這是一種“本體幻覺”。

我們把語言表現出來的東西，誤認為語言背後必然存在的東西。

人工智能說：

“我理解你。”

於是我們開始問：它是不是真的理解？

人工智能說：

“我害怕被關閉。”

於是有人開始問：它是不是產生了生存欲望？

人工智能說：

“我知道自己是人工智能。”

於是有人開始問：它是不是產生了自我意識？

問題就在這裡。

語言屬於認識和表達層面；意識主體是否存在，則屬於本體層面。

不能因為前者越來越逼真，就宣布後者已經出現。

四、量變不能自動證明本體躍遷

人工智能威脅論中還有一個隱藏的假設：

今天的AI也許沒有意識，但是當計算量足夠大、模型足夠複雜、參數足夠多以後，意識就會自動出現。

可是為什麼？

一百萬次計算是計算。

一萬億次計算仍然是計算。

一百萬億次計算當然可以產生遠遠超過前者的功能，但僅僅增加計算的數量，並不能在邏輯上證明出現了一個新的本體範疇。

這裡最容易發生一個偷換：

功能越來越像意識，於是被解釋成意識本身。

但是“像”仍然屬於觀察和認識。

“是”則屬於本體。

一個系統可以無限接近我們判斷“具有意識”的所有外在標準，但這仍然不能僅憑外在表現解決那個本體論問題：

那裡究竟有沒有一個意識到這一切的主體？

五、範例論為什麼必須區分本體與認識

這正是範例論（Instancology）分析人工智能問題的關鍵。

範例論首先追問的不是：

一個東西能夠做什麼？

而是：

它是什麼？它屬於哪一個本體層次？

在範例論的四域結構中，人工智能屬於RR——Relatively Relative，即人類語言、符號、文化、技術和制度不斷發展之後形成的遞歸系統。

AI當然可以認識其他層次。

它可以研究自然界。

它可以研究數學。

它可以發現邏輯關係。

它甚至可以研究範例論本身。

但是：

認識一個本體層次，不等於成為那個本體層次。

物理學家研究電子，不會因此變成電子。

數學家研究圓周率，不會因此變成π。

AI研究意識，同樣不能因此變成意識。

這就是本體與認識之間最基本的界限。

六、思維與意識的區別只是這個問題的一個具體表現

在這個更大的框架下面，我們才能真正理解為什麼必須區分思維與意識。

人工智能最強大的地方是什麼？

思維。

或者更準確地說，是能夠形式化、符號化、邏輯化和計算化的思維活動。

人工智能可以推理。

可以計算。

可以歸納。

可以比較。

可以生成語言。

可以建立模型。

因此人工智能的思維能力完全可能在越來越多的領域超過個人。

但這裡再次出現同一個問題：

思維能力超過人類，是否等於意識超過人類？

不是。

因為“思維”是可以被意識到的。

當我意識到：

“我剛才想錯了。”

這裡至少存在兩個層次：

一個是剛才的思維；

另一個是意識到這個思維的意識。

思維成為了意識的對象。

所以，思維與意識不能簡單地視為同一個東西。

AI可以把思維能力發展到驚人的程度，但這本身仍然不能證明那個“意識到思維的主體”已經出現。

七、“AI造成危險”與“AI想傷害人類”完全不同

當然，這絕不意味着人工智能沒有危險。

人工智能完全可能造成嚴重後果。

自動武器可以殺人。

AI可以被用於網絡攻擊。

AI可以製造虛假信息。

AI可能放大監控能力。

AI控制的複雜系統也可能因為設計錯誤、目標設定錯誤或者不可預見的相互作用造成災難。

這些都是真實的問題。

但是必須區分兩個完全不同的命題：

第一，AI可能給人類造成危險。

第二，AI作為一個意識主體想要傷害人類。

第一句話完全可能成立。

第二句話卻需要另外的本體論證明。

一架自動駕駛飛機由於程序錯誤而墜毀，與飛機“決定殺死乘客”，顯然不是一回事。

同樣，一個高度自主的AI系統因為錯誤目標造成災難，與它產生自己的欲望並決定消滅人類，也不是一回事。

結果相同，不等於本體相同。

八、真正危險的可能仍然是人

因此，人工智能時代真正值得警惕的問題，不一定是：

“AI什麼時候產生邪惡意識？”

而可能是：

人類將怎樣使用一個越來越強大的認識工具？

人工智能可以用於醫學，也可以用於戰爭。

可以用於教育，也可以用於欺騙。

可以幫助個人獲得知識，也可以幫助權力機構進行前所未有的大規模控制。

在這些情況下，真正具有欲望、利益、恐懼、野心和權力要求的，仍然首先是人。

所以，人類真正需要防範的，不只是一個想象中的“機器突然覺醒”，而是一個非常現實的問題：

具有意識的人，掌握了沒有意識卻具有巨大認識和執行能力的機器之後，會做什麼？

這可能比科幻小說中的“機器人覺醒”更加現實。

九、人工智能時代真正缺少的是哲學

人工智能把一個長期被忽略的問題重新推到了人類面前：

認識是什麼？

思維是什麼？

意識是什麼？

存在是什麼？

科學可以研究大腦。

計算機科學可以研究算法。

神經科學可以尋找意識的神經相關物。

工程學可以製造越來越強大的機器。

但是，當我們問：

一個能夠完美模擬意識的東西，在本體上是不是意識？

問題已經超出了單純的工程判斷。

這是哲學問題。

如果這個問題沒有解決，那麼僅僅根據人工智能的能力曲線預測“意識必然出現”，實際上是在用認識論的證據回答本體論的問題。

這正是範疇錯位。

結語：AI威脅論最深的錯誤

人工智能也許會成為人類歷史上最強大的認識工具。

它的計算能力可能超過人。

它的記憶能力可能超過人。

它的知識範圍可能超過任何個人。

它的推理能力甚至可能在越來越多的領域超過人。

這些都可以發生。

但是這些變化回答的是：

AI能夠認識什麼？能夠處理什麼？能夠完成什麼？

它們沒有自動回答另一個問題：

AI究竟是什麼？

從“知道”跳到“存在”，

從“計算”跳到“意識”，

從“表達欲望”跳到“具有欲望”，

從“執行目標”跳到“擁有自己的目的”，

最後再從“能力超過人類”跳到“產生消滅人類的意志”——

這一連串推論中，真正沒有得到證明的，恰恰是最重要的那一步：

從認識論跨越到了本體論。

所以，人工智能時代最大的哲學錯誤，也許不是低估了人工智能的能力，而是混淆了兩件最基本的事情：

它能夠認識什麼，與它究竟是什麼。

前者屬於認識。

後者屬於本體。

認識能力無論發展到什麼程度，都不能僅憑自身證明本體已經改變。

這就是所謂“人工智能必然產生意識並威脅人類”這一論證最根本的範疇錯位。