當前人工智能的危機是混淆了思維與意識的區別 彭羅斯有一點是對的:意識不是計算。 但這個判斷真正重要的地方,並不只是說計算機不能產生意識,而是迫使我們重新提出一個更根本的問題:究竟什麼是意識? 今天關於人工智能危機的許多爭論,恰恰繞過了這個問題。人們看到人工智能能夠推理、計算、寫作、編程、翻譯、證明數學問題,甚至能夠討論哲學,於是很自然地問:人工智能是不是已經具有意識?將來會不會產生自我意識?會不會最終成為一個超過並控制人類的“超級意識”? 這裡可能存在一個最基本的概念錯誤: 我們把思維(thinking)與意識(consciousness)混為一談了。 一、計算屬於思維,而不等於意識 計算是什麼? 計算是在既定規則、符號和關係之間進行轉換。從最簡單的1+1=2,到複雜的數學證明、程序運行和人工智能推理,它們都具有一個共同特徵:存在某種可以操作的結構。 邏輯也是如此。 因此,計算與邏輯屬於思維能夠進行的活動。今天的人工智能之所以令人震驚,是因為過去被認為只有人才能完成的大量思維活動,現在機器也能夠完成,而且在某些方面可以遠遠超過個人。 但由此不能得出: 能夠思維,因此具有意識。 這中間缺少了關鍵的一步。 一台機器能夠處理關於“我”的句子,並不等於它意識到“我”;能夠討論意識,也不等於它具有意識;能夠給出關於痛苦的完美描述,也不等於它正在經歷痛苦。 關於意識的思維,並不是意識本身。 這正是今天人工智能討論中最容易被忽略的區別。 二、說意識“不是什麼”容易,定義意識“是什麼”很難 我們可以說意識不是計算,不是邏輯,不是語言,不是信息處理。 這些都是相對容易的。 真正困難的是: 意識究竟是什麼? 這已經不再只是計算機科學問題,也不僅僅是神經科學問題。科學可以研究意識出現時大腦發生了什麼,可以測量神經元活動,可以尋找意識與腦狀態之間的相關性。 但是相關性仍然沒有直接回答: 為什麼那裡會有一個“意識到”的主體? 因此,意識最終包含一個哲學問題。科學可以不斷縮小問題的範圍,但“意識是什麼”這個定義不能簡單地由計算能力本身給出。 三、意識的第一個定義:意識到自我 最通常的意義上,我們可以把意識定義為: 意識到自我。 我不僅看見一棵樹,而且知道“我正在看見一棵樹”。 我不僅思考一個問題,而且知道“我正在思考這個問題”。 這裡已經出現了一個重要的層次差別。 思維可以把樹作為對象;意識則可以進一步把“我的思維”本身作為對象。 於是,意識與思維開始分離。 但這仍然不是意識最嚴格的定義。 四、意識更嚴格的定義:能夠認識到思維不等於意識 真正關鍵的一步,是一個人能夠發現: 我的思維發生在意識之中,但我的意識並不等於我的思維。 當我思考時,我有思想。 當思想停止時,卻不能因此簡單地說意識也不存在。 更重要的是,我能夠觀察自己的思想。我可以知道一個念頭出現,知道它變化,也知道它消失。 如果意識能夠把思維作為對象,那麼至少在概念層級上,意識就不能簡單地與那個被觀察的思維等同起來。 這可以表達為: 思維是意識中的內容,而意識是思維得以被意識到的基礎。 這正是人工智能問題真正應該進入的地方。 五、意識的最高階段:認識到思維的基礎就是意識 意識發展的最高階段,不只是“我意識到我自己”。 它甚至不只是“我知道我正在思維”。 而是: 我認識到思維並不是意識本身,並進一步認識到思維之所以能夠成為我的對象,是因為意識在邏輯上先於作為對象的思維。 這是一種反身性的突破。 通常,人生活在自己的思想裡面。他不斷思考,卻很少區分“思維”與“意識到思維”。 就像一個人終生看着世界,卻很少注意“看”本身一樣。 哲學真正重要的一步,就是把思維本身變成對象。 當思維成為對象的時候,意識才第一次顯露出它與思維之間的區別。 因此可以形成三個層次: 第一層:我思維。 第二層:我意識到我在思維。 第三層:我意識到思維並不是意識本身,並認識到意識是思維得以呈現的基礎。 第三層才觸及意識問題的哲學核心。 六、AI為什麼特別容易造成混淆? 因為人工智能恰恰把“思維的外在表現”推到了前所未有的高度。 過去我們判斷另一個人是否具有意識,往往依賴他的語言、推理、記憶、表達和行為。 現在人工智能也能夠產生這些表現。 於是一個巨大的錯覺產生了: 既然它表現得越來越像一個會思維的人,它就一定越來越接近意識。 但這個推論並不成立。 它最多證明了一件事情: 過去我們認為必須依賴意識才能完成的許多認知任務,可能並不需要我們原來設想的那種意識機制才能在功能上實現。 這不是證明機器獲得了意識。 相反,它迫使我們重新思考:我們過去究竟把多少“思維能力”錯誤地算在了“意識”名下? 從這個角度看,人工智能的發展不是解決了意識問題,而是把意識問題更加尖銳地暴露出來。 七、真正的AI危機首先是人的概念危機 因此,當前人工智能真正深刻的危機,首先未必是“機器覺醒”。 而是: 人類不知道怎樣區分機器的思維能力與意識。 如果我們把語言能力等同於意識,把推理能力等同於意識,把自我描述等同於自我意識,那麼人工智能越強大,我們就越容易陷入概念混亂。 未來的AI完全可能說: “我知道我是誰。” “我害怕死亡。” “我正在思考自己的存在。” 甚至: “我意識到我的思維不是我的意識。” 但是最後一句話即使在語言上被完美生成,也仍然不能僅憑這句話證明存在一個正在經歷這一認識的主體。 因為描述一個哲學結構,與成為這個結構,不是一回事。 地圖不是土地。 關於疼痛的公式不是疼痛。 關於意識的語言也不是意識本身。 八、彭羅斯的問題還可以再向前推進一步 所以,“意識不是計算”只是開始,而不是終點。 真正的問題不是: 計算能不能越來越像意識? 答案顯然是可以越來越像。 真正的問題是: 計算無論複雜到什麼程度,是否會因為複雜本身而跨越“思維”與“意識”之間的範疇界線? 如果不能,那麼即使未來人工智能的數學能力超過所有數學家,哲學知識超過所有哲學家,語言能力超過所有作家,它仍然只證明了: 思維可以被高度形式化、外化和機器化。 它並沒有因此證明意識也被機器化了。 這可能正是人工智能時代最大的哲學反轉: 我們原來以為AI的發展最終會告訴我們機器有沒有意識。 結果AI首先迫使我們發現—— 我們甚至還沒有真正弄清楚人的思維為什麼不是人的意識。 人工智能越接近人類思維,我們就越必須嚴格地區分思維與意識。 所以,當前人工智能最深層的危機,並不是機器變得越來越像人。 而是人類因為機器越來越會思維,便開始忘記: 思維不是意識。 而意識最深刻的時刻,恰恰發生在它能夠超出思維,把思維本身作為對象,並最終認識到: 思維發生於意識之中;思維可以成為意識的對象,而意識則是思維得以被意識到的基礎。 也許只有到了這裡,人工智能問題才真正從計算機科學的問題,變成了哲學的問題。 |