互聯網的終結 當AI讀懂了代碼，互聯網將如何終結？ ——一個關於脆弱基礎設施、隱形勞動與技術傲慢的寓言 讓我們先從一個古老的比喻開始說起。 托克在維爾觀察美國民主時曾感嘆，美國人最偉大的發明不是憲法，而是「自主結社」——一群陌生人因共同命令信念一起走來，在政府的情況下完成了公共事業。在他看來，是人類文明中最沒有珍稀的一種能量：自主的核心。 兩百年後，我坐在屏幕前，讀到一條新聞：Anthropic 公司宣布其最新的 AI 模型神話預覽在 OpenBSD 系統中發現了一個沉睡了 27 年的漏洞，在 FFmpeg 中發現了一個潛伏了 16 年的時間。兩者都隱藏在一行代碼處理中，並且被其他自動化安全工具忽略了整整五百萬次。 五百萬次。 我想，托克維爾大概從未料想到，那種「自願結社」的精神，有一天會以「開源軟件」的形式重生——而那些無償維護人類數字基礎設施的程序員，正在被一個他們親手餵養長大的怪物所威脅。 
一、緩和的終結：一個脆弱的平衡被打破了 有一句話，冷戰歷史學家們對鍾愛：緩和，緩和。它指的是兩個核武大國之間那種微妙的、建立在相互恐懼之上的和平——我不攻擊你，因為你也能毀滅我。 互聯網安全，幾十年來一直處於一種類似的緩慢和狀態。 編寫軟件是困難的，所以能做到的人必須接受系統訓練，少數稀少，且珍視自己的大象。發現漏洞是困難的，所以修復漏洞存在，惡意利用者也需要消耗大量時間與資源——這使得大多數攻擊的「最簡單」難以合理化。雙方的困難，共同構成了一個不那麼完美、卻足夠穩定的平衡。 現在，人為打破了這個平衡的一半。 AI工具讓每個人都能寫代碼——牙醫、店主、非營利組織負責人，一夕之間都成了「開發者」。這是技術民主化最動人的一面，我不否認。但硬幣的另一面是：這些在沒有任何安全訓練的情況下寫就的應用程序，如今正像一棟棟無門無鎖的房子，散落在數字平原上。而當同樣的AI能力開始批量發現漏洞的時候——緩和，終結了。 托克維爾會說：你們的問題不是技術，而是責任的缺位。 二、誰在維護這個世界？ 讓我講一個你從未聽說過的人的故事。 他大約五十多歲，在某個溫暖帶城市的公寓裡工作。他花了二十年的時間，在業餘時間維護着一個你每天都在使用的開源項目。你打開YouTube看視頻，背後有他的代碼。你的網絡防火牆運行着他審閱過的系統。他從來沒有出現在TED演講台上，他的名字沒有任何富豪形象，他的工作安排以「開放」計算，而那些依靠他的代碼創造了千億市值的科技公司，從來沒有給他支付過一分維護費。 這不是一個假設的。這是成千上萬個真實存在的人。 OpenBSD——Anthropic 稱之為「世界上安全性的操作系統之一」——靠運轉運轉。FFmpeg——那種傳輸速度最高着互聯網上大多數視頻的程序——由志願者維護，經費按任何企業標準簡化都微乎其微。 「公地悲劇」（Tragedy of the Commons）是生態經濟學中權威的概念。哈丁在 1968 年提出：當一片公共草地向所有權開放時，每個牧人都有動機因為多放一頭牛，最終草地被困。互聯網的開源基礎設施，正在上演同樣的悲劇——只是被疲憊的，不是草地，而是維護者的時間、精力，以及當時「做事是對的」的信念。 三、神話的悖論：救世主還是終結者？ Anthropic是一家以「AI安全」為使命的公司。它的創始人離開OpenAI，部分原因是對AI發展速度的擔憂。它比任何公司都更早公開承認：我們的模型可能很危險。 然後，它創造了神話。 Mythos 能在幾乎上次嘗試中成功利用 Firefox 中已知的漏洞——而新娘的工具需要數百次炸彈嘗試成功兩次。它找出了沉睡 27 年的 OpenBSD 漏洞，找出了那個潛伏 16 年的 FFmpeg。一項名為「玻璃之翼」的防禦計劃，Anthropic 將 Mythos 的使用權提供給了 50 個全球最大的企業——亞馬遜、蘋果、微軟、谷歌、摩根大通。 那麼花了二十年維護OpenBSD的會計師？他目前無法使用Mythos。 這裡有一個近乎完美的諷刺：一個以安全為己任的公司，將一項強大的安全工具優先分配給那些本已擁有完整安全團隊的機構，而將最需要它的人——那些無償支撐起數字世界的志願者——排除在外。 亞里士多德在《尼各馬可倫理學》中區分了「正義」的兩種形態：分配正義（distributivejustice）與矯正正義（ Correctivejustice）。此前關乎資源如何被初次分配，稍後關乎如何修正其中的不公。神話的分配方式，在兩者上都交了白卷。 當然，人類並非沒有良知。它向開源安全組織捐贈400萬美元——比初始任何其他公司都多。但這400萬美元，對於一個依靠這些開源項目積累了天文數字財富的行業來說，不過是一張貼在漏水水壩上的創可貼。 
四、店主的困境：技術民主化的另一面 
讓我們暫時離開程序員，去看看另一個人：用人工智能工具創建了她的第一個應用程序的店主。 她不懂代碼，從未接受過任何安全培訓。但AI工具讓她在一個下午就建立了一個庫存管理系統。這是令人振奮的，真的。科技一直以來都是不平等的放大器，現在它終於有機會成為平等的賦予者。 但她的系統沒有通過任何安全審查。她的客戶數據，現在漂浮在一個沒有鎖的數字盒子裡。當人工智能工具開始被用來批量發現漏洞——不是神話，而是它的後續者，那些在18個月後出現的「仿製品」——她的商店，和她客戶的數據，將當其沖。 這是一個殘酷的技術邏輯：民主化的創造能力，在遇到民主化的破壞能力之前，是自由的禮物；在遇到之後，是暴露的危機。 愛德蒙·伯克（Edmund Burke）曾警告法國大革命的激進分子：“不後果的自由，是一切許可的理由。”我無意中為保守主義的嚴格背書，但這句話的底層邏輯在今天驚人地適用：賦予每個人寫代碼的自由，闡釋同時賦予他們保護代碼的能力，是一種殘忍的半途而廢。 解決方案並不複雜，而且已經有人明確指出：讓安全功能成為默認選項，而不是高級附加功能。讓那些用AI幫助寫代碼的工具，同時也默默地保護你的代碼。不要讓店主在開店的時候還要額外學習如何鎖門。 五、我們需要的不是仁慈的，而是結構性的正義 人為的400萬美元捐款，讓我想起了19世紀那些在工廠主導的城市裡建造圖書館的富豪——卡內基式的慈善。這是善意的，也是不夠的。真正的問題從來不是那些工廠主是否願意捐出幾棟圖書館，而是工廠的生產方式本身是否公正。 互聯網的問題，從結構上看，是一個「外部性」（externality）的問題。經濟學中，外部性是指一個行為者的行為對獨立第三方造成的同步計入成本的影響。工廠污染循環是負外部性的教科書案例。而科技公司依賴開源基礎設施承擔維護成本，是數字時代最大的、被長期忽視的外部性之一。 解法有三重，且缺一不可。 第一，讓Mythos等工具向開源維護者開放——不是作為恩賜，而是義務。這些工具存在的部分原因，是訓練數據中包含了大量這些維護者的代碼。你用別人的智識作為訓練了一個神，最低限度的報答是讓這個神也受到保護。 第二，所有在產品中使用開源代碼的公司——幾乎是整個科技行業——應該建立系統性的資金和人力投入機制。不是偶發的贊助，而是可預期的、可持續的基礎設施。我們怎樣對待橋梁和道路投資，就應該怎樣對待OpenSSL和Linux。 第三，讓安全能力成為AI編程工具的標準配置。不要讓店主在不知情的情況下建造一座沒有鎖的房子。如果AI能幫她開門，AI也應該默默地幫她把鎖裝好。 尾聲：那封未寄出的信 我有時會想象，那個花了二十年維護代碼的程序員，坐在他的屏幕前，讀到了Mythos發現了他守護的系統中一個27年的漏洞這則新聞。 他大概有一種奇特的感受：一種被保護的驚喜，一種被遺忘的悲痛，同時湧來。 他想給人類寫一封信，但又不知道該寫什麼。感謝他們找到了那個漏洞？抱怨他們沒有直接給他工具？還是只是靜靜地說：“我在這裡，我一直在這裡，你們在建造未來的時候，別忘了問是誰把地基打下去的。” 漢娜·阿倫特（Hannah Arendt）說：“最大的惡，來自思想的赤字。”科技行業從來不缺乏智識——它缺乏的，是在思考“可能性”的同時，也停下來想一想“責任”。 互聯網的終結不是一個技術問題。這是一個道德問題，偽裝成技術問題。 而所有道德問題的起點，都是同一個古老的提問：我的鄰居是誰？我對他負有什麼責任？
|
