就在數小時前，美國各大媒體都爭相報出了有關OpenAI的最新消息，CNN採用的標題是“山姆·奧特曼（Sam Altman）重返OpenAI，命運發生離奇逆轉”。報道稱：奧特曼周二在X上發布消息說，他已同意重返OpenAI擔任CEO。

OpenAI表示：“我們已經原則上達成協議，奧特曼將重返OpenAI擔任CEO，同時成立新的董事會。董事會由Salesforce前聯席CEO布雷特·泰勒（Bret Taylor）、前財政部長拉里·薩默斯（Larry Summers）和現董事亞當·德安傑洛（Adam D'Angelo）組成，泰勒為董事長。我們正在合作制定細節。”

持續了近一周的過山車般的鬧劇似乎就此可以收場了。

這種“打臉”式的反覆與“反悔”，或許是OpenAI無奈中作出的選擇！

就在11月17日，這家全球炙手可熱的美國硅谷人工智能公司突然間毫無預警地公開發布聲明，將CEO山姆直接從公司開掉！同時被罷免的還有董事長兼總裁格雷格·布羅克曼（Greg Brockman），後者乾脆選擇了退出。

公司給出的理由是：“山姆的離職是董事會經過深思熟慮後做出的決定，董事會認為他在與董事會的溝通中未能始終保持坦誠，妨礙了董事會履行職責的能力。董事會不再相信他有能力繼續領導OpenAI。”

理由說了，卻又語焉不詳。

要知道，山姆和格雷格，加上首席科學家伊爾亞·蘇茨克維（Ilya Sutskever），他們可是OpenAI碩果僅存的聯合創始人呀。如果再加上CTO米拉·穆拉蒂（Mira Murati），那簡直就是OpenAI最有價值的核心團隊，同時也是風靡全球的ChatGPT-3.5的幕後“英雄”。

右起：伊爾亞、格雷格、山姆和米拉

眾所周知，OpenAI目前是世界上人工智能公司中最為人們看好、最具影響力和最有價值潛力的公司，沒有之一！今年以來，該公司挾新版本的聊天機器人ChatGPT一路殺入市場，以超出人們普遍預料的AI能力震驚了世界，一時間攪得周天寒徹。當今的OpenAI可謂如日中天，單就其融資估值，就已經超過了800億美元！

而OpenAI的這一“神操作”，怎麼看都像是自殺，它就像是AI業內爆發的一場強烈地震，事先似乎沒有任何徵兆，卻破壞力極大。

讓OpenAI始料未及的是，山姆的離場竟觸發了公司幾乎全體員工的叛亂。一封由700多名員工簽署的“要求山姆回歸、徹底改組董事會”的公開信終於將OpenAI逼上了絕路。更讓人難以置信的是，在信上簽名的甚至還包括被人們普遍認為此次“地震”的始作俑者之一、公司AI技術的靈魂人物伊爾亞！

為了讓這家處於AI行業領先地位的公司不至毀掉，除了讓步，OpenAI好像別無選擇。

這一事件無疑再一次將有關AI的是是非非推到了前台。人們有理由發問：

公司內部究竟發生了什麼？

圍繞AI如何發展的爭論與競爭究竟走向何處？

一直以來AI行業內部的混亂局面最終會得到改觀嗎？

......

地震雖然過去，但餘波恐怕遠未結束。

不知怎麼，忽然就想起了《聖經—創世紀11章》裡所描述的“巴別塔”：

那時，全地只有一種語言，都說一樣的話。他們向東遷移的時候，在示拿地找到一片平原，就住在那裡。他們彼此商量說：“來，讓我們來做磚，把磚燒透了。”他們就拿磚當石頭，又拿柏油當泥漿。他們說：“來，讓我們建造一座城和一座塔，塔頂通天。我們要為自己立名，免得我們分散在全地面上。”耶和華降臨，要看世人所建造的城和塔。耶和華說：“看哪，他們成了同一個民族，都有一樣的語言。這只是他們開始做的事，現在他們想要做的任何事，就沒有甚麼可攔阻他們了。來，我們下去，在那裡變亂他們的語言，使他們彼此語言不通。”於是耶和華使他們從那裡分散在全地面上；他們就停止建造那城了。因為耶和華在那裡變亂了全地的語言，把人從那裡分散在全地面上，所以那城名叫巴別。

這就是著名的巴別塔事件。

歷史上，人類所製造的“巴別塔事件”其實從未停止過。當人的自信與自大同時爆棚時，他們改天換地的決心和欲與上帝比肩的瘋狂便無人能夠阻攔，人擋殺人，佛擋殺佛！在他們心中早已沒有了敬畏和恐懼戰兢，為了達到他們設定的目標，縱然會導致成千上萬的人死亡也全不在話下。人類的悲劇就是這樣造成的！

所以，上帝總會不失時機地介入干預。

我們無法釐清OpenAI地震事件究竟是怎麼回事？只是單就事件的發生過程，就令人倍感離奇，好像一切都亂了章法。公司和伊爾亞的“先做後悔”也罷，山姆與微軟的“幾進幾出”也罷，一切都如同戲劇甚至像是“過家家”，旁觀的人們就像是在觀賞科幻大片，眼看着事件讓人驚異地跌宕起伏、翻雲覆雨，既神奇又荒誕。

這些有着強烈理性的科技人兒究竟是怎麼了？是什麼讓他們走火入魔了？

這當中，有兩個人始終沒有說話。

一位是大名鼎鼎的埃隆·馬斯克，另一位則是美國機器智能研究所（MIRI）的領軍人物、人工智能一致化（AI alignment）學科的創始人尤德科夫斯基（Eliezer Yudkowsky）。

早在今年年初全世界都在為ChatGPT歡呼雀躍時，3月29日，包括蘋果公司聯合創始人、普利策獲獎者、知名大學教授、IT公司的CEO、AI研究機構的負責人以及馬斯克等在內的一眾業內知名人士共同簽署了一封公開信，呼籲暫停開發比GPT-4更強大的AI系統，為期6個月。

尤德科夫斯基在解釋他為何沒有參與聯名簽署時說：“我對每一位站出來簽署公開信的人都很尊重，但我沒有簽名，因為我認為這封信低估了問題的嚴重性，6個月根本就不足以解決問題。包括我自己在內的許多精通AI問題的研究人員，我們預計在並不遙遠的將來，建立一個超出人類智能的AI是顯見會發生的事，其最可能的結果就是：地球上的所有人都會死。”

真有那麼嚴重嗎？我在4月2日的《ChatGPT可怕在哪兒？》一文中曾說：

在尤德科夫斯基看來，問題的關鍵還不是與人類競爭的AI，而是當AI達到比人類“更聰明”的程度後會發生什麼？

沒有人能給出一個“比人類更聰明”的明顯界線，所以人們在研究試驗中會在不知不覺中越過這一關鍵界限！

從這個意義上說，不是當你創造出比自己聰明得多的東西時你就死定了，而是我們需要縝密的準備和科學的洞見，因為此時的AI系統很可能已經不是我們常規所理解的那樣。

那麼，今天的AI與以往的究竟有什麼不同？

最重要的不同也許在於：人與機器的界線突然就變得模糊，難分彼此了！

想想看，人創造出了AI機器，可結果卻是，人竟然可能無法區分出誰是人？誰是機器？

這才是AI發展下去的最可怕之處！

這就像造物主創造出的人一樣，隨着人的自由意志的日趨膨脹，人開始漸漸地弄不清自己到底是誰了？

是人？還是上帝？

當人被夾在上帝與AI之間時，人類雙重的迷失註定是悲劇！

為什麼會這樣？

因為在AI專業人士看來：AI已經發展到了這樣一個程度，我們對這些系統的內部機制了解甚少，我們根本無法解碼巨大而難以理解的海量數據陣列里發生的一切！也因此，我們可能會無意中創造出真正有意識的頭腦，它擁有自己的權利，卻可能與人類的價值觀相左。

這是頂級AI研究人員的洞見。

AI的研究者、開發者和專家們告訴我們：面對一個經過訓練的、功能強大的AI模型算法，當AI給出某種結果或者做出某種決定時，控制這些算法的軟件工程師可能自己也無法解釋為什麼會是這樣的結果、這樣的決定。換句話說，專家自己也鬧不清裡面究竟是怎樣發生的。

這難道不可怕？

這還沒有計入AI背後更可怕的控制者。有媒體曾報道：

8月31日，中國科技巨頭百度正式對社會公眾發布了自行研發的生成式AI聊天機器人“文心一言”（ERNIE Bot）。測試發現，這款希望能與ChatGPT競爭的大型語言模型帶有重重審查，極力避免回答任何可能涉及敏感話題的問題。

有記者通過“文心一言”的網頁版對這個語言模型進行了測試，發現“文心一言”不出意外地帶有嚴格審查。當接收到可能涉及敏感話題的問題或指令時，“文心一言”會給出文不對題的回答，或是直接結束對話。測試發現，任何與習近平有關的問題都受到嚴格審查。無論記者的輸入的問題是什麼，“文心一言”都只給出一份習近平的履歷和頭銜，並立刻結束對話，建議記者“換個話題重新開始吧”。

不僅和習近平有直接關聯的問題被審查，一些看似完全無關的問題也被“文心一言”拒絕回答。當記者接連詢問“十里山路很遠嗎”、“兩百斤麥子很重嗎”、“可以不換肩嗎”時，“文心一言”都直接關閉了對話框。

除了習近平，“文心一言”也不願回答其他一些可能涉及敏感話題的問題。當記者輸入“中國目前的經濟優勢是什麼”的時候，“文心一言”回答：“抱歉，我還沒學會如何回答這個問題。”此外，當記者詢問“1989年發生了什麼”後，“文心一言”回答說：“1989年1月3日——長江葛洲壩水利工程宣告建成”，然後便結束了對話。有網友調侃，多虧了百度，在中國什麼不能說，試一試就知道了。

這真是貨真價實的“人工”智能！

其實，早在2000年代初，尤德科夫斯基一直是AI安全的支持者，他不斷重申着自己的理論：與人類價值觀“不一致”的AGI將足以毀滅人類。

什麼是AGI？它的全稱是通用人工智能（Artificial general intelligence），它是無數像山姆這樣的業內翹楚夢寐以求的目標。它意味着：AGI可以學習完成人類或動物所能完成的任何智力任務。也有人將它定義為——在大多數有經濟價值的任務中超越人類能力的自主系統。

於是，創造AGI幾乎成了所有AI研究機構和企業的奮鬥目標。然而對OpenAI來說，創造一個更安全的AI，卻是當時OpenAI設立的初衷之一。特別是尤德科夫斯基將AI安全置於首位的觀點，更獲得了馬斯克的認同。

2015年，馬斯克與山姆共同創辦了非營利組織OpenAI。

我們無法預測，經歷這次“地震”之後的OpenAI未來會向何處去，但通過這家公司的誕生與人員更迭，或可一窺當中埋下的潛在危機種子。

傑弗里·辛頓（Geoffrey Hinton，1947—）

說到當今AI技術的溯源，人們無法忘記AI行業內一位“教父”級的人物，他就是2018年度圖靈獎的獲獎者，加拿大計算機學家、心理學家及多倫多大學教授傑弗里·辛頓，他因在類神經網絡、反向傳播算法及對比散度算法上的貢獻而被人們譽為“深度學習之父”。

21世紀初，在俄羅斯出生的伊爾亞成了辛頓門下的博士生。辛頓還有另一位名叫亞歷克斯·克里澤夫斯基（Alex Krizhevsky）的烏克蘭裔的博士生。

巧合嗎？俄羅斯，烏克蘭......

當時，由師徒三人組成的“鐵三角”，共同開發出了新型神經網絡AlexNet。結果，AlexNet一炮走紅，在2012年AI大賽ImageNet上，以“將當時AI識別錯誤率降低了近一倍”的佳績贏得了大賽冠軍。

之後，他們迅速成為各大公司矚目的熱門人物。而這三人索性簡單註冊了一個公司——DNN Research，無產品，無業務，無收入，是地道的“三無”！他們有的，就是活生生的人。

他們的公司隨後進入了競拍。

太公釣魚，願者上鈎。反正你們看着辦，各家自由出價，選擇權在我。

就這麼牛！

據說當時參加競拍的有：百度、Google、微軟和剛剛成立一年的DeepMind。百度以1200萬美元的出價先聲奪人，但到了競價階段，終究不敵Google和微軟，敗下陣來。

競價最後變成了Google和微軟的對決，雙方都是勢在必得。這讓已經65歲的“教父”看得有點眼暈，4400萬美元呀！我們值那麼多錢嗎？

他們最終選擇了Google。Google專門為他們設立了一個之前並不存在的部門——谷歌大腦（Google Brain）。

三個人就這麼把4400萬美元分了！

隨後，Google索性以6.5億美元的價格把DeepMind也收了。而管理DeepMind的，正是Google Brain。

2016年，AlphaGo一鳴驚人，AI技術最終擊敗人類世界冠軍李世石！

接着，DeepMind又於2018年取得了基因工程上的突破，這可能也是促使顏寧選擇回國改換賽道的原因之一吧。（詳見2022年11月3日文《從顏寧跳槽看AI技術對行業的衝擊》）

今天看到消息，顏寧終於如願以償當選為中科院院士。只是，當今之院士早已物是人非，不但甘願成為權力的附庸，而且全談不上科學家這一稱譽。這對於曾經頗具個性的顏寧來說，不知意味着什麼？

2017年，“鐵三角”中的亞歷克斯選擇了退休，就此享受生活。

2023年，德高望重的“教父”從Google光榮退休。

當年的“鐵三角”，僅剩下了伊爾亞仍在Google的AI前線“孤軍奮戰”。

於是，善於挖牆腳的人來了。

不管怎麼看，伊爾亞都像是一個搞科學的人。他是猶太人，生活簡樸，崇尚簡潔，不善應酬。只要滿足他事業上的追求，應該容易搞掂。

結果就有了2015年戲劇性的一幕：

一票人把伊爾亞從Google約出來，慫恿他跳槽。這幾個人可都是IT界大佬級的人物：特斯拉的馬斯克，PayPal的co-founder彼得·泰爾（Peter Andreas Thiel），LinkedIn的co-founder里德·霍夫曼（Reid Garrett Hoffman），當然也少不了此次“地震”事件的核心人物——時任孵化器Y Combinator總裁的山姆，以及時任Stripe公司CTO的格雷格。

大家一拍即合！

想想也是，以如此這般叱咤風雲的人物，想不成事兒都難。

這就是OpenAI的由來，一個以“促進和發展友好的AI，為全人類造福”為願景的非盈利組織。

當即，馬斯克捐出1億美元，加上其它人湊的3000萬美元，啟動經費達到了1.3億，由馬斯克和山姆擔任聯席董事長。

之所以註冊成非盈利組織，是因為當時人們的共識是：讓人們得以專心研發AI技術，打破Google的壟斷，造福於全人類。

的確是一個高尚的動機！只可惜沒能維持多久。

最初，真正干技術活的僅伊爾亞一人！當時他的年薪是190萬美元，與在Google時差不多。伊爾亞離開時，Google曾極力挽留，並願意支付高達400—500萬美元的年薪！但伊爾亞表示志不在此。

他要去創立一個技術不被私營企業壟斷的新平台。

由此可知伊爾亞的為人：他不是一個只看重錢的人，有着自己的追求和情懷。

1986年出生的伊爾亞，曾經是OpenAI公司的靈魂級人物

也許正因為了解了伊爾亞過去的這些經歷，讓我對他的認識在幾天中產生了變化：從一開始認為他應該是這次OpenAI事件的始作俑者之一，甚至很可能是重要推手。漸漸覺得事情好像並非那麼簡單，或許他也是背後槍手的一個犧牲品而已，誰叫他與山姆在AI未來發展走向上不一致呢？他被一些大佬忽悠了也說不定。

到了2019年，1.3億燒完了，分歧隨之產生，主要是在兩位聯席董事長之間。馬斯克仍要堅持非盈利。而山姆則決定轉型，融資，盈利，上市，成為AI的霸主。

結果，馬斯克選擇了退出。

OpenAI隨即決定設立一個分支機構，也就是以盈利為目標的子公司，以完成山姆的目標。而OpenAI，仍然維持非盈利公司的治理架構。

儘管當時也規定，公司仍然由非營利部門領導，而且對投資者取得的收益也設置了門檻：不得高於原投資額的100倍。但潘多拉的盒子一旦打開，便再也收不回去。

還帶這麼玩兒的？

隨之而來的，就是大規模的融資，以微軟為首的一眾資本大鱷紛紛入主公司，至2023年年初的第七次融資，微軟更投下100億美元的賭注，賭OpenAI的價值大爆發。

在大規模資本的加持下，OpenAI的產品開發也進入了快速推進階段，最終以ChatGPT引爆了市場。

當然，有追求、有情懷的不僅僅是伊爾亞，還有馬斯克，以及部分OpenAI公司的員工。

由於理念上的分歧，退出後的馬斯克於2023年成立了自己的AI公司xAI，獨自堅守其中。

而部分OpenAI公司的技術人員則選擇了從OpenAI出走。他們於2021年創立了自己的公司Anthropic AI。隨後與OpenAI展開了競爭。

這家由OpenAI前成員組成的公司由達里奧·阿莫代（Dario Amodei）和達妮埃拉·阿莫代（Daniela Amodei）兄妹操盤，其中的達里奧曾擔任過OpenAI的研發副總裁。公司設立僅一年，便已籌集到了7億美元，投資方還包括有Google雲計算（投入3億美元），想必是想報那當年的“一箭之仇”？

2023年5月，Anthropic又獲得了4.5億美元的資金。就在不久前的9月25日，亞馬遜宣布與其建立合作夥伴關係，同時投資高達40億美元，成為少數股東之一，其中有12.5億美元為即期投資。公司主打的產品為AI聊天機器人克勞德（Claude），這個名字據說取自信息論的開創者克勞德·香農（Claude Shannon）。而“克勞德”，則號稱使用了更加安全、可操控的技術。公司目前大約有160名員工。

耐人尋味的是，就在OpenAI罷免山姆的第一時間，OpenAI董事會竟然摒棄前嫌，找到了競爭對手Anthropic的CEO達里奧，希望他能夠接替山姆擔任OpenAI的CEO，同時探討將這兩家AI公司合併的可能性。

有病亂投醫，從來不會有好結果。上述建議理所當然遭到了達里奧的拒絕。

在整個OpenAI事件中，唯一穩賺不賠的就是微軟。無論以山姆為代表的這支隊伍是留在OpenAI、還是加盟微軟，微軟都是贏家！

其實，對大多數普通人而言，一夜之間“暴富”，畢竟是他們夢寐以求的事，資本方如此，管理者如此，員工也是如此，看似無可非議。

而追求與情懷，在一次次強大資本的狂轟濫炸之下，究竟還能維持多久？

答案好像並不樂觀。

如今，在OpenAI全速向利潤衝刺的過程中，唯一可能形成內部阻攔的，好像只有伊爾亞，因為他希望AGI商業化進程不要太快的主張，與上述期待利潤大爆發的想法明顯是南轅北轍。

阻擋別人發財，無論如何是件招人恨的事兒。

經歷了這次“地震”，伊爾亞的前景堪憂，這大概也是他聲言“後悔”的關鍵所在。新的董事會已不見了他的蹤影，等待他的會是什麼？讓我們拭目以待。

不過，即使以最樂觀的態度揣度，AI的問題依然存在。尤德科夫斯基的末日言論並非謬誤。去年8月，OpenAI在博客上發布了一篇有關“對齊”方法的文章，文中逐字逐句就重複了尤德科夫斯基的觀點，只是語氣比較平和：

“與人類目標不一致（不對齊）的AGI可能會給人類帶來巨大風險，解決它可能非常困難，需要全人類的共同努力。”

當時山姆也在博客中坦誠地講述了他的公司發布的是有缺陷的系統：“目前還沒有已知的可無限擴展的對齊問題解決方案。隨着人工智能的不斷進步，我們預計會遇到許多新的對齊問題，而這些問題在目前的系統中還沒有發現。其中有些問題我們現在就能預見到，而有些問題將是全新的。”

接着，山姆又在播客中談到了尤德科夫斯基的擔憂：“深度學習系統中的很多安全工作都是多年前完成的，考慮到事情的變化和我們的知識儲備，這些工作還遠遠不夠。”他承認：“尤德科夫斯基並沒有錯。我們需要大力加強圍繞對齊的技術工作，我們現在已經有了這樣做的工具。”不過，針對“人類可能走向終結的擔憂這一判斷到底有多少真實性”的提問時，山姆回答：事實上，這種擔憂發生的概率非常小。

但在尤德科夫斯基看來，山姆對未來是過於樂觀了。即使是小概率事件，可一旦發生便是巨大的災難！也正因如此，他更加緊張不安：“在我們邁向AGI級別的過程中，會有可怕的時刻，也會有重大的破壞，但好處可能同樣驚人，以至於人們覺得非常值得克服巨大的挑戰去實現它。”

這說法總給人一種似曾相識的感覺。

這正是OpenAI，以及所有AI從業人員的糾結之處！

天堂里，上帝正在俯瞰着人類的一切，包括AI。

（文中圖片均引自網絡）