它可能發動生物武器攻擊，或掀起一場全球無人機戰爭。它可能引爆核彈。或者，它也可能通過囤積全球所有經濟資源、讓我們無法獲得食物、住房或藥品，以一種更加漸進的方式摧毀人類社會。

這些正是如今圍繞人工智慧產生的一些黑暗想像。這項技術已被證明是人類成就的一項巨大進步，但一些人擔心，它同樣有可能讓人類徹底走向滅亡。

本週，當Anthropic的一名研究人員離開這個行業，表示他擔心自己所在的實驗室及其他類似機構正在建造人類無法控制的超級智能機器時，這種焦慮登上了全球新聞頭條。

人們對人工智慧可能帶來的威脅感到害怕，是可以理解的。但現代世界充斥著各種各樣可能威脅人類生存的風險。人類同樣面臨著毀於殺手小行星、大流行病、熱核戰爭、氣候變化、太陽噴射出的巨大熾熱物質團塊、生態系統崩潰以及突然降臨的冰河時代的可能。

科學家和公共政策專家表示，問題與其說在於這些威脅本身——人工智慧只是其中最新的一個，不如說在於人類天生難以正確看待和權衡這些威脅。

「我們能夠容忍自己已經習慣的風險，卻害怕那些新出現的風險，」哈佛大學風險分析中心主任詹姆斯·哈米特說。

他說，我們開車出行的頻率高於坐飛機，所以「與機動車相比，人們會認為坐飛機更危險，但實際上並非如此」。

他指出，人工智慧「顯然還沒有得到充分理解，也不在我們自認為能夠控制的範圍之內，因此引發了巨大的社會擔憂」。

在構建人工智慧系統的科技高管和研究人員中，一直有一派人警告人工智慧可能毀滅人類。

一些人認為，從短期來看，人工智慧可能幫助那些缺乏專業技能但懷有惡意的人製造病毒或有毒物質，從而造成大範圍的疾病和死亡。就在週四，Anthropic表示，該公司挫敗了若干科學家的數次嘗試；這些科學家正在進行可能導致生物武器開發的研究。

從長期來看，那些警告人工智慧潛在危險的人認為，科技公司可能賦予人工智慧系統更大的自主權，將它們接入互聯網，甚至讓它們連接到包括電網、股市和軍事武器在內的重要基礎設施。他們認為，一旦與這些基礎設施連接起來，人工智慧系統就可能以人們意想不到的方式引發問題。

如今，如果人工智慧系統失控，OpenAI等公司只需把它們關掉即可。但一些專家擔心，未來的系統可能會抵抗人類關閉它們的嘗試。

目前，這些都是假設性的擔憂。

NASA的「小行星威脅評估項目」利用超級計算能力評估假設性小行星撞擊可能造成的損害和風險。 LORIEN WHEELER, NASA/AMES

「我們距離那一步還非常遙遠，」華盛頓大學教授、艾倫人工智慧研究所創始首席執行官奧倫·埃齊奧尼說。「如果非要讓我在『人工智慧逃出實驗室並殺死數百萬人』和『一種病毒逃逸並殺死數百萬人』這兩件事之間選擇一個需要擔心的，我根本不會猶豫。應該擔心的是病毒。」

事實證明，就連炭疽也有相當的機會毀滅人類。

炭疽自古以來就存在，但到了近現代，它一直是發展生物武器計劃的流氓國家的最愛。

科學家早就知道，如果將一加侖炭疽以適當的方式散播出去，就可能讓地球上的人類全部死亡。但這種事情從未發生過，儘管長期以來，人們一直懷疑朝鮮以及包括伊朗在內的其他好戰國家藏有這種致命病菌。

在現代生活的瘋狂恐慌中，人們經常忽略的一點是，至少對於蓄意威脅而言，最簡單的威懾手段就可以避免災難。國家行為體不願向敵人釋放炭疽，因為它們會面臨報復——這會讓一次攻擊變成自殺式行動，從而形成了剋制的動機。

成立於1989年的哈佛大學風險分析中心試圖幫助人們正確看待這些形形色色的末日情景，尤其是那些無法通過威懾加以阻止的風險，例如環境風險以及人類健康的重大威脅。該中心試圖運用決策科學、經濟學和風險評估等方法，對政策制定進行評估並加以改進。

同樣，美國國家航空航天局在「小行星威脅評估項目」中依賴超級計算機。總體而言，這家航天機構認為，本世紀發生足以威脅人類生存的小行星撞擊事件的風險基本為零。該機構計算認為，地球人很可能至少在未來1000年內都可以鬆一口氣。

那麼，知識淵博的科學家如何評估一場可能消滅大部分人類的全球大流行病的風險？

他們認為威脅很低，甚至接近於零。牛津大學研究員托比·奧德在其2020年出版的《懸崖邊緣：生存性風險與人類的未來》(The Precipice: Existential Risk and the Future of Humanity)一書中估計，未來100年發生一場由大流行病引發的、足以威脅人類生存的災難，其概率為三十分之一，也就是大約3%。

科技行業那些末日論者與航空領域評估飛機失事風險的科學家不同之處在於，早在這項技術開始展現其威力之前，許多人工智慧領域的高管和研究人員就已經抱有如此悲觀的看法。他們之所以認為生存風險是一個嚴重問題，一定程度上恰恰在於他們一直以來就這麼認為。

「這種亞文化形成的時候，我就在現場，」人工智慧安全公司Embroidery的創始人之一紮克·科曼說。他指的是自己在牛津大學的經歷。當時，那裡是「有效利他主義」運動的大本營，而許多關於人工智慧生存風險的擔憂最初正是在這一運動中孕育出來的。科曼說，如今關於這一問題的思考者中，有太多人「用這個講述了十多年的故事來解釋所有發生的事情」。

不過，世界上許多頂尖研究人員並不認同這種看法。他們認為，這些擔憂被嚴重誇大了。而矽谷以外的科學家往往對人工智慧威脅持有截然不同的看法。

「這個討論有一個既定框架，而且是一個非常特定的框架。那是深度學習興起之前就存在的框架，並且一直沿用至今，」牛津大學人工智慧研究員布蘭頓·德莫斯說，他指的是神經網路的興起。「而我並不認同這個框架。」

在最近的一篇貼文中，奧德博士將世界不同風險的走向概括為有升有降——氣候災難下降，核災難上升。他對大流行病和人工智慧的判斷則是喜憂參半：相關情況發生了許多變化，但總體風險並沒有明確的上升或下降方向。

專家指出，災難性風險和生存風險同樣可以通過完善的應對方案和預警系統加以降低。如果面對的是一個明確而迫在眉睫的危險——比如一顆小行星正沿著撞向地球的軌道飛來——人類很可能會圍繞一個共同的敵人團結起來，將紛爭擱置一旁。

奧德博士希望，他所稱的「生存性安全」有一天能夠實現。

他在貼文中寫道：「這是一種假設的未來世界狀態，在這個世界裡，生存風險很低，而且能夠一直保持在較低水平。」奧德博士寫道，人類不僅會撲滅眼下的各種火災，還會「建立起相應的機制，確保火災不再構成實質性的威脅」。