不知大家想過沒有：如果一個物種的生活由一種遠遠超過這個物種的智慧籠罩着、支配着，會是什麼感覺？存在感或成就感，不是很玄虛的東西，甚至體現在很瑣碎的地方，這些瑣碎感受的總和，就是人生的價值。若被抽去，人還能成其為人嗎？這才是真正的釜底抽薪


　　老高按：三年多前，有一次與兩位朋友一起喝酒，一位是中國剛退休的官員，一位是美國剛退休的官員。我剛讀完以色列學者尤瓦爾·赫拉利的《今日簡史》（中文版），震驚於書中（以及作者的前一本《未來簡史》）對人工智能發展水平很快就要到達“奇點”，將引發人類社會的極大變化——
　　在生物工程與人工智能興起之後，人類可能會分裂成兩個群體：一小群超人類，以及絕大多數位於下層而且毫無用途的智人。雪上加霜的是，等到民眾不再具備經濟與政治上的力量，國家對國民健康、教育和福利的投資意願也可能降低。成了多餘的人，是件非常危險的事。這時候，民眾的未來只能依賴一小群精英能否心存善意。
　　在杯盞交錯中我提起這個話頭，沒想到，兩位朋友不以為意，說那是幾十年之後要擔心的事——言外之意，那時我們都已經不在這個世界上了，不必為此操心；而且從歷史上看，每一次大規模的產業轉移，一些行業消失了，另一些行業興起，沒什麼了不起，對於夕陽產業的從業人員個人來講，眼看要丟飯碗，那就趕快學會新技能，轉到朝陽產業去唄，“從來就沒有什麼救世主，全靠自己救自己”！
　　《今日簡史》中還有一段話，指出對於人工智能搶奪人類飯碗，人類採取的對策有如下三類，前兩類，沒有超出我們目前的思維框架，也是政府的慣例；難題是第三類：
　　如何避免工作消失；
　　如何創造足夠的新工作；
　　就算盡了最大的努力，但消失的工作還是遠遠多於新創造的就業機會，該怎麼辦？
　　《今日簡史》作者赫拉利教授告訴我們，解決這第三類問題，“有一種新模式越來越受到關注，即全民基本收入（universal basic income, UBI）”。
　　這種新模式，說白了，就是按人頭髮錢。錢從哪兒來？全民基本收入方案的設計者主張：
　　政府對控制算法和機器人的億萬富翁和企業徵稅，再用此稅金為男女老少每個人提供保證其基本需求的津貼。這樣既能解決因失業和經濟混亂而產生的貧窮問題，也能保護富人不受平民主義的怒火洗禮。
　　《今日簡史》中介紹：還有一種做法，政府提供全民基本服務，而非全民基本收入。換言之，政府不是直接發錢，而是提供免費的教育、醫療保健、交通等服務。事實上，這就是共產主義描繪的願景。
　　是該為民眾提供全民基本收入（資本主義天堂）還是全民基本服務（共產主義天堂）？各有優缺點。
　　我是個常常“憂天”的“杞人”，山雨欲來風滿樓，我認為大可放下意識形態的桎梏，不必管左與右、民主與專制的標籤，直面現實剖析全人類的難題，“能抓老鼠的就是好貓！”
　　但兩位朋友並不認為這是迫在眉睫的“近憂”，不必“遠慮”，我也就知趣閉嘴了。
　　誰也沒想到，AI的步伐這麼快，一天等於二十年，當今已經闖入我們的生活，全方位地迫近威脅所有的行業、所有的人！
　　AI即將造成的人類危機，還不是造成失業破產、貧富分化之類，更嚴重的是——
　　還是看孫立平教授的兩篇不長的文章吧！

　　近在眼前：這是美妙的前景，還是可怕的結局？

　　立平坐看雲起（孫立平），原載公眾號“老孫薦讀” 2025年1月17日

　　當300億機器人占領世界的時候

　　在CES 2025期間的一場特別專訪中，馬斯克暢聊了AI在認知任務、人形機器人、Neuralink等技術進步，如何對人類生活產生變革性的影響。
　　其中，關於人形機器人，馬斯克提出了這樣的設想：未來3-4年，AI能夠勝任所有與認知相關的工作，完成任何你想做的事情，甚至會提出你從未想到的想法。未來3年，特斯拉機器人產能將提升到50萬台。最終，人類世界將會有200-300億台人形機器人。
　　我認為大多數人，都希望擁有一個像《星球大戰》中的C-3PO或R2-D2那樣的機器人助手。實際上，人形機器人將成為歷史上最重要的產品。想象一下，幾乎每個人都會想要一個，有些人可能想要兩個，再加上整個工業領域都需要人形機器人來製造產品和提供服務。
　　你可能會問，人形機器人與人類的比例會是多少？馬斯克的回答是，我猜至少是3:1，甚至可能是4:1或5:1，這就意味着未來可能會有200-300億台人形機器人。到那個時候，金錢的概念可能會變得模糊，經濟體系是否存在有意義的上限都不好說。
　　然後他展望說，假設AI發展一切順利，我認為人類將不會有全民基本收入，而是全民高收入。

　　財富不再由人來創造，那時的財富將如何被支配？

　　從財富創造的意義上來理解，在馬斯克的展望中，至少包含如下幾點：第一，未來的財富不需要由人來創造了；第二，由機器人創造的財富將會比現在由人類創造的財富多得不可限量；第三，人們不用工作，但通過全民高收入過着不可想象的豐裕的生活，而這有賴於全民基本收入制度的實施。
　　這是一種多麼美妙的前景，而且在理論上完全行得通。問題是，在實踐的層面呢？
　　關鍵的問題是分配。機器人確實可以創造出比今天多得多的財富，而且不用人們花費絲毫力氣。那我想問的問題是，這些機器人和所創造出來的財富屬於誰，誰能夠支配這些財富呢？有能力支配這些財富的人會用這些財富來幹什麼呢？
　　現實的辦法，是馬斯克提到的全民基本收入，對，他提到的是更進一步的全民高收入。全民基本收入，是20世紀80年代比利時魯汶大學教授菲利普·范·帕里斯（Philippe Van Parijs）提出的一個構想。而這項制度的財政基礎，就是對機器人生產的產品徵稅，或者直接對機器人徵稅。在最近幾年中，一直有人提出對機器人徵稅的設想，比如比爾·蓋茨等。澤維爾•奧伯森甚至專門寫了一本《對機器人徵稅》的書。在韓國和美國的加州，也正在考慮將這一想法付諸實施。
　　但現實與理論不完全是一回事。對於馬斯克描繪的這種前景，我一直有兩個隱隱約約的擔心。
　　首先，會不會有一種基於機器人的技術利維坦出現？在機器人大量使用的情況下，有兩個因素是不可缺少的。一個是企業，一個是資本。比如，在馬斯克的想象中，特斯拉機器人是由特斯拉生產的。那生產的財富歸誰呢？顯然，至少首先是得歸特斯拉和馬斯克。當然，在未來財富多得沒有意義的情況下，企業和資本可能放棄對收益的擁有，但這中間得經過許多環節。
　　在美國的這次總統大選中，雖然不能說是馬斯克一人定乾坤，但他一人至少起到了至關重要的作用。現在，他又開始對歐洲的選舉及政局的變化施加影響，而這都基於他個人掌握的巨額財富。這難道還不能讓人產生可怕的聯想嗎？
　　其次，機器人創造的巨額財富，會不會被用來進行新的帝國爭霸？無論是對機器人生產的產品徵稅，還是直接對機器人徵稅，徵收的機構都是國家，或者說政府。理論上說，這些稅收的相當部分可以用於建立和實施全民基本收入制度，但國家相對自主性理論告訴我們，國家機構或政府是一個有着自己獨立利益和目標的實體。如果政府說，我們還有更重要的事情要做，這時候你主張全民基本收入的理由何在呢？財富是你創造的嗎？是我國家創造的。
　　幾年前，我曾經提出過“自處型社會”與“競爭型社會”這對概念。自處型社會是一個以共同體中人的生活改善為目標的社會，而競爭型社會則是以戰勝其他共同體為目標的社會。機器人創造出的巨額財富，在這兩種不同類型的體制中的使用，會有何不同？
　　現實可能沒有馬斯克想象的那樣美妙和絲滑。在財富是由人的勞動創造的時代，你還可以說，那都是我們勞動的成果。但在機器人生產出來的財富面前，你可能連這樣的理由也失去了。一個怪物，應用機器人創造出巨量的財富，並進而擁有這些財富，你不過是從中分一杯羹，而就是這一杯羹也帶有施捨的含義。難道這不是更合乎現實世界的邏輯嗎？
　　這不是很值得人們深思的事情嗎？
　　機器人是可以創造巨量的財富，但這些財富一定是你的嗎？有什麼東西能保障你對這些財富的分享？

　　事情比財富的分配更麻煩

　　最根本的問題還不在這裡。即使是能夠像馬斯克想象的那樣，機器人創造的巨額財富能順利而絲滑地轉化為所有人的福利，更麻煩的事情仍然在後面。
　　在將近100年前，凱恩斯曾經寫過一篇文章，題目是《我們後代在經濟上的可能前景》。凱恩斯說：我得出的結論是，假定不發生大規模的戰爭，沒有大規模的人口增長，那麼，“經濟問題”將可能在100年內獲得解決，或者至少是可望獲得解決。這意味着什麼呢？凱恩斯說，迄今為止，經濟問題、生存競爭，一直是人類首要的、最緊迫的問題。但如果設想中的這種情況成為現實，那麼，經濟問題並不是“人類的永恆問題”。
　　但問題是，這就是人類的一種美滿結局嗎？
　　凱恩斯自己也在問，這對人類到底是福還是禍呢？他說，如果你完全相信生命的真正價值，則這一遠景至少為我們展示了從中獲益的可能性。不過，那些經過無數代的培養，對於普通人來說已是根深蒂固的習慣和本能，要在幾十年內加以悉數拋棄，以使我們脫胎換骨、面目一新，是難乎其難的。慮及這一點，我仍然不能不感到非常憂慮。

　　其實，凱恩斯這裡說的還是一種過渡性的不適應。
　　凱恩斯問道：這會不會引起普遍的“精神崩潰”呢？對此，我們已有了些許體會。他說，這種精神崩潰現象，在英國和美國富裕階層的家庭婦女中，已經並不鮮見。她們中的許多人被自己的財富剝奪了傳統的任務和工作，由於經濟上的必需這一刺激已經消失，所以她們從烹調、灑掃和縫補這類活動中已不能得到足夠的快樂，而又難以找到更愉快的消遣。
　　想想這也是很令人感嘆的。打個比方說，對那些為了每日的麵包而辛勤勞動的人來說，閒暇是一件令人嚮往的樂事；而當這種嚮往成為現實時，他們才發現原來是另一番滋味。閒極無聊，這句話大家都知道。無所事事的悠閒與勞動之餘的閒暇，不是一回事。
　　有人會說，人類這不是犯賤嗎？是，但人的天性就是如此。

　　真正而終極的問題是人生的意義

　　而所有這些問題的最終指向，都是價值與意義。
　　有人曾經講到過這樣的一種感受：原來對那些象棋大師們充滿崇敬，他們是多麼的可望而不可即！但當機器人可以輕而易舉地擊敗這些棋手，甚至是碾壓式擊敗，是降維式打擊的時候，他再也無法保持對這些大師的崇敬，甚至對象棋都失去了興趣。
　　在早前的一文中，我也曾經提出過一個類似的問題：不知大家想過沒有，如果一個物種的生活由一種遠遠超過這個物種的智慧籠罩着、支配着，會是一種什麼樣的感覺？會是一種什麼樣的結果？（見下面孫立平的第二篇文章）
　　我自己也無法回答這個問題。
　　從根本上說，人類的整體自尊與意義感是來自於創造，最直接的是對於財富的創造。
　　人類，從茹毛飲血，到今天的機械化、自動化、智能化生產，改善了自己的生存條件，同時，也獲得了意義與價值。這種意義與價值來自哪裡？是簡單地來自對這些改善了物質條件的擁有與享受嗎？恐怕不是，至少主要不是。那是來自哪裡？是來自不斷的、點點滴滴的改善，更重要的是這種改善與自己的努力之間的關係。
　　一個更根本性的問題是，難道人類現在真正缺少的是潑天的財富嗎？
　　這個，只要對比一下我們這些50後、60後、70後與90後、00後，就可以感受到這一點。再說得直接點，一對年輕人結婚，房子、汽車、家電這些東西都是父母給買好了，與所有這一切都是通過自己的努力和勞動掙得的，是一回事嗎？
　　其實，仔細想想，不寒而慄。馬斯克的設想都很好，他自己也會有極強的成就感。但作為整體的人類由此失去價值與意義的根基，人還能成其為人嗎？
　　抽去人類的意義與價值，這才是真正的釜底抽薪。


　　如果一個物種的生活被一種遠遠超過這個物種的智慧所籠罩和支配……

　　立平坐看雲起（孫立平），原載“孫立平社會觀察” 2024年6月1日

　　不知大家想過沒有，如果一個物種的生活由一種遠遠超過這個物種的智慧籠罩着、支配着，會是一種什麼樣的感覺？會是一種什麼樣的結果？
　　這是我最近在想的問題。老實說，我無法想象那是一種什麼樣的情景。
　　我勉強能想象的是一個不見得完全合適的類比：一群猴子，它們的智力應該是在許多其他物種之上的，但在某個時刻，它們遇到了比它們智力更高的人類。人類為了豐富自己的生活，想建一個動物園，於是，就把這群猴子抓來，放到動物園裡，供人觀賞。從此，一種遠遠超過猴子的智慧支配了猴子的生活。在動物園裡，猴子們在人類的悉心照顧下，生存當然是沒有問題了，有足夠的吃喝，有足夠的舒適。這是一種用猴子自己的智慧根本達不到的生活水平。
　　人工智能時代的到來，人類會不會面臨着與此相類似的處境？
　　在人工智能剛剛出現之際，其對於人類的意義問題，特別是安全問題，就成為人們的一種擔心和憂慮。所以，在過去這些年，關於人工智能安全性的問題，一直是人們討論和爭議的一個重要話題。
　　具體一點說，人們的擔憂主要是集中在如下三個層面：

　　第一層，是AI技術本身的問題，也可以看作是常規性風險，如隱私泄露和數據安全的問題等。因為人工智能系統通常需要大量的數據進行訓練和優化，而在這些數據中，往往包含着用戶的個人信息和隱私，如此一來，會不會導致隱私的泄露與數據安全的風險？還有一種情況，如果人工智能發出錯誤的指令會怎麼樣？這在流水線上曾多次發生過。
　　第二層，人工智能可能造成的負面經濟、社會、文化後果。人們關心最多的，就是就業問題。AI技術的廣泛應用，將可能導致大量的工作崗位被自動化替代，從而引發失業問題。這會在社會的層面產生什麼樣的影響？這個問題現在看已經越來越現實，波及面可能比原來人們想象的還要大。還有，AI技術如果在軍事領域得到廣泛應用，帶來的可能後果會是什麼？等等。
　　第三層，人工智能的失控問題。對於人工智能更深層的憂慮，是人工智能會不會失控？如果失控會怎麼樣？霍金是最早表達這種憂慮的人之一。霍金認為，人工智能可以比人類的智慧發展得更快，那麼，當機器發展到能自己演化的重要階段時，它們的目標與人類願望之間的相符程度就很難預料了。現在看，這也已經是一個越來越現實的問題。
　　但今天我想說的不是這些。上面的這些擔憂，都是很具體的，設想的情景，也都是在某種情況發生後會怎麼怎麼樣。但在這裡，我想在一個更一般、更抽象似乎又有點虛，同時又是一種常態的層面來討論這個問題。
　　這個問題就是：即使不發生常規性風險，即使人類設計的制度安排足以解決其在經濟和社會層面帶來的副作用，即使失控的問題在技術上能得到很好的解決，但如果有一種遠遠超過我們人類的智慧籠罩在我們的周圍，如果我們人類每日每時的生活是由一種遠遠超過人類的智慧所設定和支配的，那會是一種什麼樣的情形？人們的感覺又會是什麼樣的？
　　在我看來，這才是人工智能可能給我們帶來的最大問題。
　　從根本上來說，這個問題涉及的是人類自身的意義與存在的問題，在這樣的情況下人類為什麼還要活着，而其可能是很卑微地活着？活着的意義是像猴子有一種優渥的生活，而這個生活並不是你自己創造出來的？
　　但說句老實話，這個問題太大了，已經遠遠超出我能討論的範圍。下面將我這兩天與網友互動時一些想法的片段，摘錄如下，供各位思考和討論：

　　我：儘管人類有了這麼漫長的歷史，但有一個關於自己的問題我們一直沒有真正弄清楚，這就是人生的意義，換句話說，是什麼支撐你活着。我想，首先是存在感，我們還先不說成就感。我們假設一種情形，一群人在一個客廳里聊天，客廳很舒適，有茶水咖啡水果，你可以盡情取用，但就是沒有任何一個人和你說一句話，甚至沒有人看你一眼。這時你的感覺是什麼？如果你還有某種程度的自尊的話。

　　我：兩口子在一塊兒過日子，有意思在什麼地方呢？存在感和成就感。為什麼很多人不願意一個人做飯一個人吃？因為做飯不完全為了自己，你看到別人吃你的飯，不用說吃得很盡興，就是僅僅是吃飽了，你都會有一種成就感，至少有一種存在感。

　　我：其實，存在感或成就感，不是一種很玄虛的東西，甚至體現在很瑣碎的地方。還是用兩口子過日子來比方，對方弄一個東西，弄不好，或者是弄不動。你說，我來。弄完之後，你心裡可能有一句沒說出口的話是，看，你不行吧。這是一種對存在感或成就感的自我感受。人生的價值是什麼？就是這些瑣瑣碎碎感受的總和。
　　好了，假如現在你身邊有一種巨大的能力和高超的智慧存在，在這種力和智慧的面前，你就像一個傻子一樣，就是無能兒，就是一個窩囊廢，你會是一種什麼樣的感覺？形象一點說，假如你是一個小學生，而在你的班級里，幾乎所有人的智力都比你高很多倍，10倍，100倍，1000倍，1萬倍，而你就像一個傻子一樣，這時候這感覺會是什麼樣子？
　　如果每個人都覺得自己傻子一樣，這會是一個什麼樣的物種，什麼樣的世界？

　　我：退休了，和我年齡相仿的一些人在學畫畫。是想當藝術家嗎？是想在藝術上有所成就嗎？也不是。為什麼呢？就是想從中找到一種成就感。看，我畫得不錯吧。但最近我就聽到有的朋友說，不畫了，人工智能合成的比我畫的還好呢。當然，你可以說，畢竟自己畫出來的和人工智能合成的畢竟不一樣嘛。但不可否認的是，這時的成就感已經打了相當的折扣。
　　我想，這種感受，也許就是人類在被更高智慧碾壓時的一種最初的感受。各位可以再想想我們經常說的“沒勁”這個詞的意思是什麼。

　　網友：看起來可以安頓人心的歸屬是宗教。在這種情況下，人類需要宗教和藝術的繁榮。
　　我：如果在宗教和藝術的目前，人類也會失去智慧的尊嚴呢？過去有一句話，說人一思考，上帝就會發笑。但如果在人工智能的時代，上帝一思考，人工智能就會發笑呢？


　　近期文章：

　　許多摯友被或左或右極端潮流裹挾而去，剩下我形影相弔
　　對“白左”的非正式研究：標籤的後面是什麼？後果是什麼？
　　過去的這一年，難忘那些逝去的人
　　2024這一年經歷了什麼？藉助這篇奇文來一一盤點！
　　美國與俄羅斯兩位重量級政治思想家對話全文
　　川普再次進白宮，與八年前首次進白宮面對的中國大不一樣
　　下一代人若想有出息，就別聽我們這一代人的話
　　沒想到這部俄羅斯小說竟成為習近平的精神指南
　　寫回憶錄儘量讓被追憶的人物和事件保留鮮活的草根氣息
　　美國的名校為什麼左翼思潮占絕對上風
　　特朗普看到了美國真的病狀，但他是否能開出對的藥方？