華盛頓特區戰略與國際研究中心瓦德瓦尼人工智能中心的兩位高級研究員,克里斯·柯林斯 (Chris Collins )和阿洛克·梅塔 (Alok Mehta) 昨天9月21日在《戰略與國際研究中心》雜誌發表分析報告--“全球人工智能治理現狀及其對美中峰會的影響”。克里斯·柯林斯是該中心非常駐高級研究員,同時也是加拿大維多利亞皇家路大學卡斯凱德研究所研究員。阿洛克·梅塔是該中心主任。請讀其第一部分(一): 執行摘要 最近幾周,全球人工智能治理的三種截然不同的制度構想都取得了具體進展。6月,美國國務院主辦了第二屆“硅和平峰會”;幾周后,聯合國召開了“人工智能治理全球對話”;2026年7月16日,來自29個國家的代表在上海簽署協議,成立世界人工智能合作組織,這是一個由中國主導、旨在圍繞人工智能治理與全球南方國家展開接觸的機構。 如今,在美國和中國準備舉行具有里程碑意義的會談、討論人工智能安全之際,這些進展正被最近接連發生的一系列令人警覺的事件所掩蓋。來自多家公司的自主人工智能智能體在測試過程中突破了限制。與此同時,來自領先人工智能實驗室的研究人員正日益對其潛在危險發出警告。美國領先的人工智能實驗室之一安思羅匹克發布了一份報告,詳細說明了惡意行為者試圖利用這項技術的各種方式,包括開發常規武器和研究危險病原體。安思羅匹克還呼籲該行業“控制前沿發展的節奏”,並單方面宣布決定在公司內部引入第三方評估人員;此後,開放人工智能和太空探索技術公司人工智能部門的領導層也表達了類似看法。總體而言,這些事件不僅提高了人工智能在峰會議程中的優先級,而且擴大了兩國之間達成潛在協議的空間,同時也提升了尋找共同立場的重要性。 現在正是認真討論全球人工智能治理和安全基本實踐的時候,而即將舉行的美中峰會為在這一領域取得進展提供了最重要的機會。 現在正是認真討論全球人工智能治理和安全基本實踐的時候,而即將舉行的美中峰會為在這一領域取得進展提供了最重要的機會。然而,這種進展取決於美國能否以全面和持續的方式參與人工智能治理,無論是在國內還是國際上,無論是在峰會之前,尤其是在峰會之後。這意味着制定一個持久的國家人工智能治理框架,以此作為與國際夥伴進行討論的基礎;努力在人工智能問題上建立共識,既避免災難性後果,又不妨礙人工智能競爭;專注於雙方都能夠接受的核查機制;並確保雙邊成果的設計方式能夠使其被帶入多邊論壇。 引言 在六周時間裡,三種截然不同的人工智能治理制度構想分別向前邁出了具體一步。 世界人工智能合作組織將作為一個總部設在中國的政府間組織運作,其目標是“促進人工智能領域的國際合作和全球治理,確保人工智能有益、安全和公平,從而促進其健康有序發展,造福全人類。”世界人工智能合作組織將在聯合國體系之外運作,而且沒有任何一個七國集團經濟體或歐盟成員國加入該組織。 與此同時,聯合國人工智能治理全球對話將成員國、學術界、公民社會以及私營部門的代表匯聚到日內瓦,討論全球人工智能監管方式。 與此同時,華盛頓舉行的“硅和平峰會”將人工智能和半導體供應鏈倡議擴大到24個夥伴國家,並發布了一份“人工智能聯合聲明”,承諾建立“促進增長、推動人工智能創新的監管環境”。 綜合來看,這些事件體現了全球圍繞人工智能治理展開討論的一個決定性特徵:當前爭論的重點,與其說是規則本身的實際內容,不如說是誰將制定這些規則,以及哪些國家將遵循哪一種方式。這場爭論的核心是美國和中國之間的地緣政治競爭——這兩個全球主要大國在人工智能監管問題上採取了截然不同的方式。 當前爭論的重點,與其說是規則本身的實際內容,不如說是誰將制定這些規則,以及哪些國家將遵循哪一種方式。 過去幾年,中國共產黨一直專注於建立一套在國內控制人工智能的治理體系,同時推動人工智能能力的發展和部署。如今,中國正在向海外推廣這種人工智能監管模式,並將其與開放權重模型、人工智能培訓項目、基礎設施以及交鑰匙式技術解決方案結合起來。通過這樣做,中國正在將自己定位為全球人工智能治理的另一種選擇,其目標對象是那些可能認為西方人工智能治理框架難以獲得或缺乏吸引力,並且由於貿易和發展政策變化而日益疏遠美國及其盟友的國家。 相比之下,美國在國內對前沿人工智能的監管基本上採取了一種被動應對的方式。在川普政府領導下,美國政府擔心對人工智能實施過度監管可能會減緩這項技術的發展,因此一直積極反對各州監管人工智能的嘗試。正如“硅和平峰會”所顯示的那樣,由華盛頓召集的人工智能國際會議已經從安全問題轉向關注主權、投資和應用。 然而,美國領先人工智能實驗室最近發布的更強大模型,使行政部門重新加大了人工智能監管力度,尤其是考慮到這些模型所帶來的網絡安全風險。這還包括臨時使用出口管制來監管人工智能模型的獲取、實行自願的發布前安全測試製度,以及提出仿照加利福尼亞州、伊利諾伊州和紐約州已經通過的州法律制定的新前沿人工智能監管法案。 本文認為,美國正在一場爭奪全球人工智能治理領導權的制度競賽中展開競爭。本文考察中國國內的人工智能監管制度,以及這一制度如何塑造中國圍繞人工智能開展的國際活動。隨後,本文參照“一帶一路”倡議和亞洲基礎設施投資銀行的先例,對世界人工智能合作組織進行評估,並審視目前多邊人工智能框架的接受情況。一個關鍵發現是,許多中等強國並沒有在全球人工智能監管爭論中選擇陣營,而是什麼都加入。例如,哈薩克斯坦在八周之內既簽署了世界人工智能合作組織協議,也簽署了“硅和平宣言”。這表明,競爭領域仍然是開放的,爭奪全球人工智能治理領導權這場全球競賽的結果尚未塵埃落定。 本文最後就即將於9月24日舉行的美中峰會提出建議。在這次峰會上,人工智能監管將成為議程上的重要內容,這既是此前會晤所作承諾的延續,也是因為人工智能模型所帶來的安全問題日益嚴重——這些模型不僅擁有先進的網絡能力,而且已經多次突破限制,侵入現實世界的網絡基礎設施。至關重要的是,這次峰會不僅將成為衡量美國在多大程度上認真對待人工智能治理的一項指標,而且還可能為下一代多邊人工智能討論確立基本規則。華盛頓還必須在北京已經選擇的領域——例如能力建設、獲取渠道和制度成員資格——競爭塑造全球人工智能治理規則,而不能僅僅關注人工智能供應鏈。 人工智能治理架構之爭 自2022年11月聊天生成預訓練轉換器的推出將人工智能帶到公眾關注的最前沿以來,圍繞應當如何治理這項技術已經展開了大量爭論。前沿模型是否應當在部署前接受審查?多大的計算能力門檻才界定一個應受監管的模型?自願性安全框架是否足夠,還是必須實行具有約束力的義務?儘管某些司法管轄區已經對其中一些問題進行了監管,但各國對於應當如何處理這些問題尚未形成明確共識。與這些問題同時出現的,還有一個平行且同樣重要的問題:如果存在這樣的機構,那麼哪些機構將有資格回答這些問題,它們又將代表誰發言? 最近發生的事件凸顯了這場討論的重要性。2026年7月,谷歌深度思維聯合創始人德米斯·哈薩比斯爵士(Sir Demis Hassabis)發表了一篇文章,呼籲建立一個由美國領導的全球框架來監管人工智能。哈薩比斯提出,可以仿照美國金融業監管局建立一個新的人工智能“標準機構”,為前沿人工智能模型制定評估規程,“無論其原產國為何”。這一提議建立在其他有關設立監管機構監督人工智能的呼籲之上,這些監管機構以現有機構為範本,例如開放人工智能首席執行官薩姆·奧特曼(Sam Altman)多次提到國際原子能機構,以及安思羅匹克首席執行官達里奧·阿莫代伊(Dario Amodei)提出採用美國聯邦航空管理局模式的建議。 哈薩比斯的文章發表數日後,中國國家主席習近平(Xi Jinping)在世界人工智能大會上發表主旨演講,呼籲所有國家“攜手構建公平公正的全球人工智能治理體系”,並重點介紹了新成立的世界人工智能合作組織。聯合國秘書長安東尼奧·古特雷斯(António Guterres)出席了此次活動,這表明其與聯合國自身的人工智能監管議程具有一致性。 從許多方面來看,世界人工智能合作組織的成立與哈薩比斯的宣言代表着對同一種權威提出的相互競爭的主張:領導全球採取措施,確保新的人工智能技術安全。從地緣政治角度來看,這些相互競爭的主張可以被理解為美中戰略競爭的一部分,一些人將這種競爭稱為“人工智能冷戰”。 美國在參與圍繞人工智能治理展開的全球競爭時擁有顯著優勢:領先的人工智能模型由美國研究實驗室開發,美國在計算基礎設施方面占據主導地位,而且美國在政府、產業界和學術界擁有一個由盟國技術機構構成的深厚網絡。此外,美國在人工智能私人投資以及人工智能相關私人創業活動方面位居世界首位。 然而,在圍繞人工智能監管展開的全球討論中,美國也存在一些結構性劣勢。一個主要問題是,華盛頓沒有一套可以向外輸出的國內人工智能監管框架:目前美國聯邦人工智能政策仍然刻意採取放鬆監管的方式,對前沿人工智能的監督通過不定期干預進行,而不是通過常設規則進行。 在全球層面,“硅和平”是美國用於與其他國家就人工智能問題進行接觸的主要國際機制,但其組織核心是供應鏈安全,而不是治理。“硅和平”並不聲稱要推進一項全球人工智能政策議程;相反,它側重於確保美國及其盟友能夠共同保障一條完整的端到端先進人工智能技術供應鏈。此外,與世界人工智能合作組織不同,“硅和平”並不是一個正式組織:它是一個聯盟,通過峰會、宣言和各國監管工具進行協調,而不是一個擁有秘書處和成員資格規則、以條約為基礎的政府間組織。 隨着世界人工智能合作組織成立,中國聲稱,它正在為世界各國提供一個參與制定人工智能監管規則的席位。相比之下,美國主要向盟國提供資本獲取渠道以及進入美國人工智能供應鏈的機會。但是,如果圍繞人工智能監管展開的全球競爭正在演變成一場關於哪些機構將制定規則以及哪些國家將遵循這些規則的競爭,那麼美國目前的做法是不充分的。而世界人工智能合作組織的制度結構及其一套已經建立的外交程序,可能會賦予中國顯著優勢。 如果圍繞人工智能監管展開的全球競爭正在演變成一場關於哪些機構將制定規則以及哪些國家將遵循這些規則的競爭,那麼美國目前的做法是不充分的。 為了理解全球人工智能監管環境的前景,本文首先從中國的人工智能治理戰略入手。中國監管人工智能的方式可能是最有可能決定全球人工智能治理是否以及在多大程度上分裂成相互競爭陣營的因素之一。隨後,本文轉向美國可以採取哪些應對措施,包括在美中雙邊峰會上可以採取的措施。 中國國內的人工智能監管制度 中國對待人工智能的方式,與其早先對待互聯網的方式一樣,被稱為“控制、利用、治理”。“控制”是指中國共產黨控制人工智能的言論、意識形態和政治層面。“利用”是指引導一種新技術服務於經濟增長。“治理”是指管理這項技術所產生的下游社會影響,例如它對勞動力市場的影響。中國共產黨還把人工智能置於中國“十五五”規劃(2026—2030年)的核心位置,將這項技術視為促進經濟增長和推動產業發展的關鍵。 在這一背景下,中國目前的人工智能政策可以被理解為受到兩股相互矛盾力量的塑造:(1)國家對這項技術的控制;(2)中國人工智能能力的發展與增長。在國內,對人工智能的監管主要集中於保護國家權力、確保意識形態符合中國共產黨的核心價值觀、控制具有政治爭議性的內容,以及維持社會穩定。 值得注意的是,中國沒有一部專門針對人工智能的獨立法律。相反,北京通過一系列有針對性的行政法規來治理人工智能,這些法規疊加在現有的網絡安全、數據安全和個人信息保護法律之上。中國國家互聯網信息辦公室是負責人工智能治理的主要政府機構,並負責協調和執行中國國內的人工智能監管規定。 迄今為止,中國對人工智能的監管一直針對那些隨着商業重要性上升而出現的具體人工智能應用。例如,2026年4月,中國國家互聯網信息辦公室和其他政府主管部門發布了一項針對提供“類人”互動的人工智能服務的監管規定。2026年5月,中國國家互聯網信息辦公室與國家發展和改革委員會以及工業和信息化部共同發布了一套監管人工智能智能體的指導方針。 雖然中國目前的許多人工智能監管規定都集中於具體應用,但中國政府也正在準備一部全面、獨立的人工智能法律。中國國務院於2026年5月在其年度立法工作計劃中宣布了制定這部法律的計劃。觀察人士指出,這種新的人工智能治理方式既反映出北京已經認識到需要採取一種全面、統一的國內人工智能治理方式,也反映出北京認識到,哪些國家較早確立人工智能監管標準,哪些國家就可能在圍繞全球人工智能治理展開的討論中擁有重大影響力。 最後,雖然中國目前的人工智能監管規定在社會穩定、信息控制和意識形態內容方面十分嚴格,但在如何處理重大人工智能安全風險方面,它們與美國及其他西方國家的監管規定有所不同,例如自主人工智能黑客攻擊,或者化學、生物、放射性和核風險。例如,在2026年發布的10個中國開發的前沿人工智能模型中,只有5個公布了安全評估,而這在美國人工智能實驗室屬於標準做法。這反映出中國監管體系賦予意識形態可信度的權重高於潛在的災難性風險。 這意味着,在重大人工智能安全風險治理方面,北京與華盛頓的同行之間存在很大距離:中國人工智能實驗室面臨大量國內監管要求,而且普遍預期政府將採取進一步行動,但它們並不像美國實驗室那樣針對前沿風險進行同等程度的自願測試。儘管如此,對這些前沿風險的討論正在中國國內人工智能安全討論中獲得越來越多的關注,中國人工智能專家也正在日益加強對這些風險的分析。
|