曾任美國國防部網絡政策助理部長、現任喬治城大學教授的邁克爾·薩爾邁耶(Michael Sulmeyer)周三7月22日在《外交事務》雜誌發文強烈呼籲--‘為人工智能 (AI) 網絡危機做準備:當中國也有自己的“神話”時: 今年4月,Anthropic披露,其最新的前沿人工智能模型 “Claude Mythos (神話)” 能夠比“除最頂尖人類專家之外的所有人”更擅長發現並利用軟件中的安全漏洞。作為例證,該公司表示,該模型發現了一個在用於運行保護敏感網絡防火牆的安全操作系統中隱藏了27年卻始終未被發現的漏洞。這一消息震動了網絡安全和國家安全領域。儘管有人指責Anthropic關於Mythos的警告不過是一種營銷手段,但提前獲得該模型使用權限的多家領先商業軟件公司都證實了Anthropic的說法。那些長期以來只能由極少數頂級專家完成的工作,如今人工智能不僅能夠完成,而且速度更快、規模更大,是人類團隊或早期自動化工具無法比擬的。 隨着企業利用Mythos尋找並修復其產品中的漏洞,一個更緊迫的問題浮現出來:如何保護美國及其盟友免受人工智能驅動的網絡戰攻擊。美國可能只有9至12個月的時間來保護其關鍵基礎設施免遭人工智能驅動的攻擊。目前,美國只有兩家公司——Anthropic(本人擔任其顧問)和OpenAI——公開展示了足夠先進的人工智能模型,這些模型發現軟件漏洞的能力遠遠超過人類所能達到的水平,而且它們目前都將這些模型的使用限制在防禦性網絡安全工作中。 但是,美國的對手以及圍繞他們活動的犯罪組織,很快也將掌握同樣的進攻性工具。尤其是中國,已經在競相開發和獲取這些人工智能能力,而且距離開發出屬於自己的Mythos,很可能比許多美國政策制定者所希望的更近。先進人工智能將進一步強化北京已經十分重視的一種工具:通過擾亂台灣及任何試圖保衛台灣國家的關鍵基礎設施,在台海衝突爆發之前形成可信的威懾,從而阻止戰爭發生。 過去,要成功攻擊運行關鍵基礎設施的計算機系統——真正讓發電廠、自來水淨化廠或輸油管道等設施發生物理性停擺——需要精通各類系統晦澀協議的專業人員。這類攻擊之所以罕見,是因為它們既耗時又耗費大量資源。而Mythos已經證明,它只需極少的人為指導,就能夠發現並利用漏洞,這樣的模型還能夠自動生成大量類似的破壞性攻擊。 這將帶來一種無論在規模還是性質上都不同於以往任何一次網絡攻擊的新型攻擊方式。風險不再是針對某一關鍵基礎設施發動一次大規模攻擊,即所謂“網絡珍珠港”,而是進入這樣一種世界:中國及其他國家能夠以低成本、快速滲透維繫日常生活運行的更多系統——供水、電力、交通運輸等——並長期控制這些系統,用於威懾、勒索,或者只是等待時機。 美國仍然有機會加強關鍵基礎設施的防禦能力,但這個窗口期十分短暫,而且這些防禦本來就很薄弱。在名為“伏特颱風”(Volt Typhoon)的行動中,與中國政府有關聯的黑客已經展示了他們能夠多麼深入地滲透美國關鍵基礎設施,包括供水、電力和交通運輸領域的相關機構。現在,是時候將過去一直被認為不可討論的政策選項擺上桌面了:採取大幅度行動預先阻止潛在攻擊、進行幾十年才會有一次規模的網絡防禦投資,以及幫助美國人工智能實驗室抵禦最先進的威脅。 先發優勢 在互聯網時代的大部分時間裡,發現新的軟件漏洞一直需要價格高昂、技術精湛的專業人員。這類專家的稀缺,限制了網絡攻防雙方最高水平競爭的上限。但是,隨着Mythos和GPT-5.5-Cyber等人工智能模型的出現,這種限制正在消失。在這些新模型問世之前,僅僅獲得基礎設施信息技術網絡的訪問權限,還很難可靠地控制那些負責開啟閥門、切斷斷路器或調整化學藥劑劑量的實體設備。例如,2017年,美國司法部認定與俄羅斯一家軍事研究機構有關聯的黑客滲透了一座沙特石化工廠,並試圖癱瘓其安全儀表系統——這是防止工業設備爆炸或釋放有毒氣體的最後一道自動化防線。然而,即使攻擊者已經獲得如此深層次的訪問權限,他們編寫的代碼仍未能準確掌握該工廠特定安全控制器的具體運行方式,結果意外觸發了設備的保護性停機,從而在造成實際物理損害之前暴露了整個行動。 長期以來,這最後一步始終依賴於極少數了解某一特定廠商專有控制系統的專家。正是由於擁有足夠相關經驗的人才極為稀缺,災難才始終較為少見。然而,一種能夠讀取晦澀工業固件,並開發出過去需要專家耗費數月才能完成的精確攻擊方案的高性能人工智能模型,將有可能把設計基礎設施攻擊中最困難的一環,變成一項日常任務。針對數百個供水系統、變電站以及輸油管道同時發動協同破壞,如今已經成為一種更加現實的風險。最先進的人工智能模型很快就可能使大規模物理性破壞成為單一對手能夠實施、甚至無需開火便足以可信威脅的事情。 意識到這一危險之後,Anthropic並沒有公開發布Mythos,而是率先將其交給防禦方使用,通過限制訪問權限,僅向一個由科技、金融以及開源組織組成的聯盟開放,並將這一計劃命名為“Glasswing計劃”。這是一個值得關注的決定:一家企業選擇不向公眾廣泛發布自己最強大的產品,因為這種產品只需稍作修改,就能夠變成一種武器。(後來,Anthropic向公眾推出了Fable——一款使用同一底層模型、但增加了更多安全防護機制的產品。) 在Anthropic推出Glasswing計劃幾周后,OpenAI也通過名為“網絡安全可信訪問計劃”的項目,向經過審核的安全團隊開放了GPT-5.5-Cyber。初步結果令人震驚。微軟利用一套結合多個模型構建的內部掃描系統,發現了Windows網絡協議棧中此前從未發現的16個漏洞。而網絡安全公司帕洛阿爾托網絡(Palo Alto Networks)利用這些新模型測試自身產品時表示,僅一次掃描所發現的漏洞數量,就遠遠超過其通常一個月披露的漏洞總數。 近在咫尺 目前,最先進的網絡漏洞發現工具仍然掌握在防禦者手中。這是數十年來網絡安全領域最令人振奮的消息。儘管中國近期也推出了一些性能十分出色的新模型,但目前看來,中國的人工智能實驗室似乎仍未擁有達到Mythos水平的人工智能模型。 但是,美國政策制定者未必能夠知道中國何時獲得這一能力。私人公司最終必須公開發布自己的模型,否則開發這些模型就失去了商業意義;即便Anthropic限制了Mythos的使用範圍,它仍然宣布了這一模型的存在。而各國政府則會非常謹慎地決定是否、何時以及如何公開自己擁有那些作為國家安全資產而研發的系統。 近期的發展表明,中國距離擁有屬於自己的Mythos級人工智能模型已經越來越近。6月中旬,在美國政府暫時禁止外國訪問Anthropic最新發布的Mythos和Fable模型大約一天之後,中國公司智譜AI發布了一款名為GLM-5.2的模型。該公司聲稱,在某些基準測試中,GLM-5.2已經能夠與Anthropic性能排名第二的模型Opus相競爭。與Mythos或OpenAI最先進的模型不同,GLM-5.2屬於“開放權重”模型,用戶無需獲得開發公司的許可,也無需依賴美國政府能夠控制的基礎設施,即可下載和部署該模型。任何安全限制都可以輕易被移除。實際上,幾乎任何人都能夠以僅為美國先進人工智能模型成本一小部分的代價獲取這一模型,並將其用於幾乎任何目的。 美國政策制定者未必能夠知道中國何時擁有一個Mythos級人工智能模型。 中國在開發此類模型方面取得的快速進展,很大程度上得益於該政權所擁有的一系列工具。第一種就是非法或對抗性蒸餾。中國競爭者利用美國領先模型生成的輸出結果來訓練成本更低的仿製模型。OpenAI在今年2月提交給國會的一份備忘錄中報告稱,其發現與DeepSeek員工有關聯的賬戶繞過了訪問控制,大量獲取模型輸出用於蒸餾訓練。同月,Anthropic也披露了一項類似行動。對抗性蒸餾,只不過是中國持續二十餘年竊取美國知識產權行動的最新篇章,這其中包括竊取美國超導公司風力發電機技術,以及中國殲-31戰鬥機與美國F-35戰鬥機之間令人懷疑的高度相似性。 隨着人工智能模型不斷進步,它們本身也成為構建能力更強人工智能的重要工具。美國人工智能公司利用自己的模型開發下一代模型,並不令人意外;但人們很容易忽視這樣一個事實:美國最主要的競爭對手也同樣在利用美國最先進的模型,來研發他們下一代自己的模型。 中國不僅正在開發美國人工智能模型的國產替代品。中國相關行為體還在努力非法獲取受到出口管制的最先進人工智能半導體芯片。在過去一年裡,美國司法部已經起訴了多個大型芯片走私網絡。僅靠走私並不足以提供訓練先進模型所需的算力。但正如中國正在開發自己的模型一樣,它也正在研發自己的芯片。 最後,每當中國獲得新的高端人工智能能力,這些能力很快就會被國家掌握。中國國內人工智能實驗室運行於一種以國家獲取為導向的監管框架之下。《國家情報法》要求中國企業配合國家情報工作,而國家互聯網信息辦公室則使政府能夠掌握模型的行為和輸出情況。一旦中國某家實驗室開發出具備Mythos級別攻擊性網絡能力的模型,中國人民解放軍和中國情報機構極有可能最早獲得這一模型的使用權。 四面受敵 美國企業決定限制那些可能策劃針對實體基礎設施發動前所未有攻擊的模型的使用權限,為防禦方爭取了寶貴時間。但是,對手每多一個月能夠從美國模型中提取能力、獲得更先進芯片的機會,防禦方領先優勢就會減少一個月。 關鍵基礎設施正越來越多地處於網絡空間與現實世界的交匯點。如果這些系統發生問題,其後果並不僅僅是用戶密碼被盜、需要進行信用監測,而可能是一座城市停電、一處供水系統遭到污染,或者整個區域交通網絡陷入癱瘓。這種風險絕非假設。2015年12月,利用名為BlackEnergy惡意軟件入侵烏克蘭公用事業公司的俄羅斯黑客,曾切斷超過20萬名用戶的電力供應,持續數小時。 美國關鍵基礎設施從結構上來說十分脆弱,也尚未準備好應對此類攻擊。它們由數以千計的小型和中型市政機構及公用事業公司擁有和運營,其中大多數既沒有足夠預算,也缺乏足夠人員,更沒有足夠議價能力要求供應商提供更加安全的產品。這些系統背負着幾十年的技術債務,許多仍在運行的運營技術原本甚至就不是為連接互聯網而設計,也無法輕易進行修補或更換。確保這些固件安全,遠比升級一部iPhone複雜得多;它需要重新進行安全驗證,包括測試和現場安裝,而這些工作都必須讓設施停機。因此,即便已經發現漏洞,並開發出安全的修複方案,也往往需要數年時間才能完成驗證、排期並部署到使用壽命長達15至25年的設備中,而許多運營商面對無法承受的停機成本,往往只能推遲更新。 因此,一項今天設計完成、並經過大量安全測試的修複方案,很可能直到2030年才能真正安裝完成。在人工智能驅動網絡攻擊時代,這幾乎等同於永恆。最容易受到即將到來攻擊浪潮衝擊的,恰恰是那些最沒有能力保護自己的運營單位,而任何自願的信息共享都無法彌補這一差距。 嚴陣以待 6月2日,美國總統川普簽署一項行政命令,建立一項自願性框架,使政府能夠在新一代前沿人工智能模型正式廣泛發布之前,提前最多30天獲得訪問權限,並要求聯邦信息技術網絡進行部分安全升級。這是一個有益的第一步,但華盛頓必須採取更加全面的行動。以下這些措施旨在預先阻止攻擊並防止損害發生。然而,部分入侵仍然不可避免,因此,美國還必須建立足夠的韌性,以便吸收、遏制並恢復那些無法阻止的攻擊所造成的影響。 美國及其最親密的國際夥伴應利用現有能力,破壞對手用於蒸餾和竊取美國模型以及非法獲取先進人工智能半導體芯片的基礎設施。華盛頓應當讓實施這些行動的行為體付出真正代價,並在敵方預先部署於美國網絡中的潛伏能力被激活之前,就將其摧毀。美國政府擁有國家安全局與美國網絡司令部這一理想合作機制,由同一位兼任兩項職務的負責人統一領導,集中運用國家情報、安全及網絡作戰能力,對這些威脅實施打擊。 美國還需要建立一個專門機構,以協調網絡防禦,並具備深入理解網絡攻擊實體後果的專業能力。最佳選擇是愛達荷國家實驗室(Idaho National Laboratory)。這家聯邦實驗室曾於2007年通過一次著名(也令人震驚)的實驗展示:網絡攻擊不僅能夠竊取數據或擾亂通信,而且能夠真正物理摧毀一台柴油發電機。該實驗室可以負責向供水、電力及交通運輸等領域的小型和中型運營商提供具體防禦能力。 僅僅掃描漏洞已經遠遠不夠。雖然修補漏洞是必要的,但仍然不足:防禦者必須做的不只是修補更多、更好、更快。未來由人工智能發現的大量漏洞,將使任何漏洞修補機制都不堪重負,而對於許多老舊系統而言,修補程序可能永遠不會出現。美國必須更加重視重新設計防禦體系,使即便成功發生入侵,也無法造成災難性的實體後果。這種韌性意味着,要確保運營商即使在系統受損情況下,也能夠以降級、人工方式繼續維持關鍵服務運行,直到系統恢復正常。 美國需要一個專門協調網絡防禦的機構。 美國政府以及基礎設施所有者和運營商,都必須推動供應商參與合作。人工智能實驗室向部分防禦機構共享其最強網絡安全模型的計劃,應優先吸納這些供應商參與其中。更為複雜的是,為美國供水系統、能源設施、工廠、輸油管道及其他基礎設施提供控制系統的許多大型企業,其總部都設在美國境外。要推動這些國際企業改進或修補其產品的網絡安全,就必須與外國政府協調,使美國關鍵基礎設施防禦不僅僅是國內政策問題,同時也是盟友協調的問題。 美國還必須立即吸取中國長期竊取美國知識產權行動的教訓。美國建立類似於國防部與獲得安全許可承包商之間威脅共享機制這樣的保護措施,耗費了太長時間。2014年,一份聯邦起訴書指控中國軍方人員早在2006年便入侵包括核反應堆製造商西屋公司在內的美國企業,但這一保護機制直到2012年才正式建立。如今,整個人工智能產業鏈上的企業都已成為外國情報機構的重要目標。美國不應重蹈這一拖延覆轍,而應迅速加強反間諜支持以及其他相關措施,以應對中國的這一行動模式。 如果美國領導層提出要求,那麼,破壞人工智能蒸餾及非法獲取最先進芯片的行動、通過一個統一的政府實驗室協調美國基礎設施運營商網絡安全修復工作,以及保護領先人工智能企業免遭間諜活動侵害等項目,都可以立即加速推進。總統可以直接下令實施其中許多措施,並與國會合作,加快批准具有實質意義的專項撥款,以開展這一幾十年才有一次機會的大規模關鍵基礎設施安全與韌性提升工程。華盛頓必須迅速行動。如果美國未能在其主要競爭對手獲得這些人工智能模型之前採取行動,那麼美國本土未來可能將面對一場前所未有的人工智能驅動網絡攻擊浪潮。
|