
6月18日:在新加坡舉行的超級人工智能大會上,一個機器人與一位與會者下棋。© Getty Images 《地緣政治情報服務》於周一發表以色列 RISE Israel Institute 首席執行官烏里·加拜 (Uri Gabai) 的報告:人工智能的炒作或許正在消退,但其真正的影響才剛剛顯現。從地緣政治到就業,五大關鍵矛盾將決定其在重塑世界中的角色。簡而言之: 國際合作對於負責任的人工智能監管至關重要; 私營企業引領人工智能創新, 引發公眾監督質疑; 能源密集型數據中心對資源造成壓力, 超越綠色解決方案。 歷史表明,對於真正具有變革意義的技術,我們往往會高估其短期影響,卻低估其長期效應。人工智能也不例外。在經歷了一波前所未有的炒作之後,其中很大一部分是由開發這些系統的科技巨頭推動的,我們現在正進入一個幻滅期。公眾開始質疑:“承諾的突破在哪裡?”以及“為什麼一切還沒有改變?” 但這具有誤導性。正如20世紀90年代沒有人能夠預見到互聯網會導致人們每天在智能手機上花費近五個小時一樣,人工智能的真正影響仍在不斷顯現——深刻、難以預測且不可逆轉。 本報告探討了人工智能長期影響最為關鍵的五個新興領域:地緣政治、治理、環境、經濟和社會凝聚力。這些領域正在被重塑,其重塑方式往往尚未完全顯現。理解這些問題是為人工智能的角色做好準備的第一步,這不僅是一場技術革命,更是一場更廣泛的全球變革。 全球人工智能競賽:新的地緣政治秩序 人工智能正成為地緣政治競爭的核心。美國和中國正在進行一場戰略競賽,以爭奪人工智能開發、部署和治理領域的領導地位。這場競賽的賭注很高:經濟主導地位、軍事優勢以及對全球標準的影響力。 美國目前在前沿模型開發和私人投資方面處於領先地位,而中國則憑藉龐大的數據集、國家支持的資金和集中協調,正在快速發展。與此同時,歐盟將自己定位為主要監管機構,即使在能力落後的情況下也在塑造規範。2024年,美國機構開發出40個值得關注的人工智能模型,超過中國的15個和歐洲的3個。儘管美國在模型數量上仍然領先,但中國的發展已迅速縮小了質量差距。 以色列、新加坡和阿聯酋等規模較小的創新中心旨在通過專注於戰略利基市場並確保自身在全球競賽中保持關鍵地位,從而超越自身實力。 隨着人工智能向通用人工智能(AGI)——一種能夠匹敵人類思維的理論體系——邁進,關鍵問題浮現:誰將掌控最強大的人工智能?AGI的突破能否帶來新的技術霸權?這場人工智能競賽甚至可能引發現實世界的衝突,例如圍繞台灣半導體產業的軍事衝突? 全球護欄對於防止導致不穩定或濫用的競賽至關重要,但目前大國之間的信任赤字使得此類合作充滿挑戰。 事實與數據 什麼是通用人工智能? 通用人工智能(AGI)是指機器能夠理解或學習人類能夠執行的任何智力任務的理論能力。這類人工智能旨在模擬人腦的認知功能。儘管目前AGI仍是一個假設概念,但它有可能複製類似人類的技能,例如推理、解決問題、感知、學習和語言理解。自人工智能發展以來,AGI的研究一直在進行,但學者們對於AGI的確切定義或實現AGI的最有效方法仍未達成共識。 誰來掌管智能? 當今最先進的人工智能系統並非由政府開發,而是由私營公司開發。在美國,OpenAI、谷歌、Anthropic、Meta等公司正在競相突破能力和雄心的界限,其速度往往超越了公共監管機構。 與早期的通用技術(例如電力、計算或互聯網)不同,政府在其最初的發展中發揮了重要作用,而美國當前的人工智能浪潮主要由私營企業推動。在中國,這種情況在一定程度上屬實,儘管中國共產黨正在引導私營實體進行服務於中央政府利益的開發。這標誌着一個顯著的轉變,因為突破性的創新主要發生在公共機構之外。這造成了根本性的衝突,因為企業控制着具有深遠公共影響的技術,但卻基於私人利益來運作。 雖然互聯網服務確實受科技公司控制,但它們主要充當的是溝通和分發的平台。相比之下,人工智能是一種決策技術,能夠解讀數據、生成內容,甚至自主行動。這種區別帶來了更高的偏見、濫用和意外後果的風險。例如,一旦開發完成,個人可以利用開源通用人工智能系統自主生成和部署個性化生物武器,或者通過識別漏洞、執行大規模交易和破壞系統穩定來操縱金融市場,其速度甚至快於監管機構的響應速度。 正如“戰爭太重要了,不能留給將軍們”這句格言一樣,許多人認為,人工智能太重要了,不能完全交給科技公司。公眾監督並非官僚主義的負擔,而是民主的必需。 隨着人工智能向通用人工智能邁進,儘管關於這一概念的真正含義仍存在爭議,但政府可能被迫通過許可要求、強制審計甚至國有化等措施來加強控制。由於系統能夠在各個領域超越人類,人們對私有制的擔憂也隨之而來。我們如何確保監管既有效又民主? 此外,人工智能與任何數字技術一樣,不分國界。它的開發、部署和影響本質上是跨國界的。這意味着有效的人工智能監管需要跨境合作。經濟合作與發展組織(OECD)等國際組織致力於促進各國在合乎道德和高效的人工智能治理方面開展合作,它們應該在制定標準、協調原則和防止全球監管競爭方面發揮關鍵作用。 去年,全球人工智能治理合作顯著加強。包括 OECD、歐盟、聯合國和非洲聯盟在內的主要組織已經推出了強調透明度、可信度和其他負責任的人工智能基本原則的框架。 以犧牲可持續性為代價追求智能? 訓練先進的人工智能模型需要巨大的資源,其環境影響也不容忽視。為這些進步提供動力的大型數據中心消耗了大量的電力和水。科學家估計,到2022年,全球數據中心的電力消耗約為460太瓦時(TWh),大致相當於法國全年的能源消耗總量。 國際能源署預測,到2030年,全球數據中心的電力需求將增長一倍以上,達到約945TWh。推動這一增長的一個重要因素是人工智能,因為預計到2030年,經過人工智能優化的數據中心的電力需求將增長四倍以上。 
數據中心巷位於華盛頓特區郊外,占地30平方英里,擁有200多個數據中心,其能耗與波士頓市相當。© Getty Images 隨着對生成式人工智能和實時推理的需求不斷增長,與之相關的環境成本也隨之上升。這在推進人工智能技術與保護環境之間造成了一個頗具挑戰性的困境。人工智能有可能成為解決環境問題的寶貴工具,無論是通過優化電網、模擬氣候變化還是加速綠色技術的研發。然而,就目前的情況而言,人工智能對氣候危機的貢獻可能大於提供解決方案。計算基礎設施的擴張速度通常超過可再生能源的增長速度,尤其是在主要雲服務提供商正在建設大型數據中心的地區。 節能芯片、模型優化和可持續冷卻方面的創新正在不斷推進,但創造日益強大的人工智能的環境成本仍然是一個主要隱患。 創造就業機會、取代就業和未來就業 “我們正遭受一種新疾病的折磨……技術性失業。” 這番警告並非出自當代科技悲觀主義者,而是出自史上最偉大的經濟學家之一約翰·梅納德·凱恩斯之口。凱恩斯在1930年撰文指出,在一個世紀內,“經濟問題”或許能夠得到解決,人類將不再需要工作。 儘管他關於自動化將導致大規模失業的預測尚未成真,但隨着技術在取代現有就業崗位的同時,也創造了新的就業崗位,他的第二個預測在今天引發了質疑。一百年後,社會或許正在走向一個以休閒而非勞動為主導的世界,物質需求不再是主要關注點。 許多人認為,人工智能既蘊含着這種希望,又蘊含着威脅,人工智能帶來的富足與人們對未來失業的擔憂交織在一起。據估計,未來幾十年,全球數億個工作崗位可能被部分自動化。隨着模型能力的增強,整個工作類別可能會消失,隨之而來的是人類的專業知識。從工業革命到互聯網時代,歷史先例表明,經濟體的調整往往伴隨着痛苦的轉型和日益加劇的不平等。如果通用人工智能成為現實,其經濟風險將成倍增加。新的社會契約,例如全民基本收入或縮短工作周,或許是必要的。培訓工人從事尚不存在的工作,並確保人工智能能夠增強而非取代人類潛能,將至關重要。 不平等、包容與信任結構 人工智能可以成為一種強大的均衡器。人工智能導師或許能夠實現教育的民主化。人工智能診斷可以為偏遠地區提供醫療保健。人工智能助手或許可以幫助服務匱乏的人群應對官僚主義,學習新技能並獲得重要服務。 但這些結果並非必然。如果沒有積極主動的政策,更有可能出現相反的情況。首先,目前,人工智能工具的獲取並不均衡,大多數益處僅限於精通技術且較為富裕的人群。 其次,數據偏見會加劇歧視。語言模型往往無法反映人類文化、聲音和需求的多樣性。儘管這些模型反映了人類的偏見,但過度依賴這些模型以及人類在心理上不願挑戰機器智能,可能會放大其影響。 第三,營利性公司部署的人工智能系統可能會進一步削弱信任。在缺乏透明度、問責制和包容性的情況下,公眾對人工智能系統以及部署這些系統的實體的不信任可能會引發強烈反彈。 隨着人工智能承擔起傳統上由教師、醫生、法官和官僚擔任的角色,我們必須問:誰參與了這些系統的設計?誰的價值觀被編碼在算法中?我們如何確保技術能夠強化而不是破壞我們的社會結構? 從炒作到責任 我們正在走出人工智能最初的炒作周期,進入一個更加複雜、影響深遠的階段。上述五大矛盾並非僅僅是抽象的困境;它們代表着決定人工智能時代未來的關鍵戰場。雖然世界尚未為這一轉變做好準備,但準備就緒並非一成不變。它是一種選擇。 各國政府需要樹立超越下一輪選舉周期的長遠願景。科技公司應該優先考慮社會責任,而非季度業績。公民必須保持參與,而非被動地消費信息。這些都是艱巨的任務。國際社會應該將人工智能視為塑造21世紀的重要力量,而不僅僅是一項新技術。 問題不在於變革是否會到來,而在於我們是否會塑造變革,還是被變革所塑造。 事態發展的可能 更有可能的情況:全球人工智能競賽升級,權力優先於公平 在這種情況下,全球人工智能競賽將愈演愈烈,技術主導地位將成為首要戰略目標。美國和中國在激烈的競爭中,優先考慮速度和實力,而非倫理道德、合作或國內影響。相關法規零散、被動應對,且大多只是象徵性的。私營企業幾乎不受任何限制,而政府則將大量資金投入人工智能領域,用於軍事和商業用途。 因此,人工智能在社會、經濟和環境方面的應用缺乏協調一致的監管。不平等現象加劇,就業崗位流失加速,缺乏足夠的安全保障,環境成本也隨之增加。世界正在經歷由人工智能驅動的重大變革,但卻缺乏確保穩定或公平的明確計劃。 不太可能:人工智能技術被民主地應用於全球進步 西方民主國家在將人工智能發展納入包容性、以公民為中心的框架方面處於領先地位。受經濟學家達隆·阿西莫格魯願景的啟發,各國政府正在追求“民主人民力量”——利用公共政策、教育、勞動保護和治理來引導人工智能實現廣泛的社會效益。國際合作日益加強,經合組織、聯合國和歐盟等組織正在制定全球標準。人工智能的應用不僅是為了盈利或權力,還在於改善公共服務、提高工人生產力,並應對氣候變化和健康公平等問題。儘管挑戰依然存在,但這種協調一致的努力有助於大多數人而非少數人利用人工智能,確保民主而非技術寡頭統治未來。 |