互联网的终结 当AI读懂了代码，互联网将如何终结？ ——一个关于脆弱基础设施、隐形劳动与技术傲慢的寓言 让我们先从一个古老的比喻开始说起。 托克在维尔观察美国民主时曾感叹，美国人最伟大的发明不是宪法，而是「自主结社」——一群陌生人因共同命令信念一起走来，在政府的情况下完成了公共事业。在他看来，是人类文明中最没有珍稀的一种能量：自主的核心。 两百年后，我坐在屏幕前，读到一条新闻：Anthropic 公司宣布其最新的 AI 模型神话预览在 OpenBSD 系统中发现了一个沉睡了 27 年的漏洞，在 FFmpeg 中发现了一个潜伏了 16 年的时间。两者都隐藏在一行代码处理中，并且被其他自动化安全工具忽略了整整五百万次。 五百万次。 我想，托克维尔大概从未料想到，那种「自愿结社」的精神，有一天会以「开源软件」的形式重生——而那些无偿维护人类数字基础设施的程序员，正在被一个他们亲手喂养长大的怪物所威胁。 
一、缓和的终结：一个脆弱的平衡被打破了 有一句话，冷战历史学家们对钟爱：缓和，缓和。它指的是两个核武大国之间那种微妙的、建立在相互恐惧之上的和平——我不攻击你，因为你也能毁灭我。 互联网安全，几十年来一直处于一种类似的缓慢和状态。 编写软件是困难的，所以能做到的人必须接受系统训练，少数稀少，且珍视自己的大象。发现漏洞是困难的，所以修复漏洞存在，恶意利用者也需要消耗大量时间与资源——这使得大多数攻击的「最简单」难以合理化。双方的困难，共同构成了一个不那么完美、却足够稳定的平衡。 现在，人为打破了这个平衡的一半。 AI工具让每个人都能写代码——牙医、店主、非营利组织负责人，一夕之间都成了「开发者」。这是技术民主化最动人的一面，我不否认。但硬币的另一面是：这些在没有任何安全训练的情况下写就的应用程序，如今正像一栋栋无门无锁的房子，散落在数字平原上。而当同样的AI能力开始批量发现漏洞的时候——缓和，终结了。 托克维尔会说：你们的问题不是技术，而是责任的缺位。 二、谁在维护这个世界？ 让我讲一个你从未听说过的人的故事。 他大约五十多岁，在某个温暖带城市的公寓里工作。他花了二十年的时间，在业余时间维护着一个你每天都在使用的开源项目。你打开YouTube看视频，背后有他的代码。你的网络防火墙运行着他审阅过的系统。他从来没有出现在TED演讲台上，他的名字没有任何富豪形象，他的工作安排以「开放」计算，而那些依靠他的代码创造了千亿市值的科技公司，从来没有给他支付过一分维护费。 这不是一个假设的。这是成千上万个真实存在的人。 OpenBSD——Anthropic 称之为「世界上安全性的操作系统之一」——靠运转运转。FFmpeg——那种传输速度最高着互联网上大多数视频的程序——由志愿者维护，经费按任何企业标准简化都微乎其微。 「公地悲剧」（Tragedy of the Commons）是生态经济学中权威的概念。哈丁在 1968 年提出：当一片公共草地向所有权开放时，每个牧人都有动机因为多放一头牛，最终草地被困。互联网的开源基础设施，正在上演同样的悲剧——只是被疲惫的，不是草地，而是维护者的时间、精力，以及当时「做事是对的」的信念。 三、神话的悖论：救世主还是终结者？ Anthropic是一家以「AI安全」为使命的公司。它的创始人离开OpenAI，部分原因是对AI发展速度的担忧。它比任何公司都更早公开承认：我们的模型可能很危险。 然后，它创造了神话。 Mythos 能在几乎上次尝试中成功利用 Firefox 中已知的漏洞——而新娘的工具需要数百次炸弹尝试成功两次。它找出了沉睡 27 年的 OpenBSD 漏洞，找出了那个潜伏 16 年的 FFmpeg。一项名为「玻璃之翼」的防御计划，Anthropic 将 Mythos 的使用权提供给了 50 个全球最大的企业——亚马逊、苹果、微软、谷歌、摩根大通。 那么花了二十年维护OpenBSD的会计师？他目前无法使用Mythos。 这里有一个近乎完美的讽刺：一个以安全为己任的公司，将一项强大的安全工具优先分配给那些本已拥有完整安全团队的机构，而将最需要它的人——那些无偿支撑起数字世界的志愿者——排除在外。 亚里士多德在《尼各马可伦理学》中区分了「正义」的两种形态：分配正义（distributivejustice）与矫正正义（ Correctivejustice）。此前关乎资源如何被初次分配，稍后关乎如何修正其中的不公。神话的分配方式，在两者上都交了白卷。 当然，人类并非没有良知。它向开源安全组织捐赠400万美元——比初始任何其他公司都多。但这400万美元，对于一个依靠这些开源项目积累了天文数字财富的行业来说，不过是一张贴在漏水水坝上的创可贴。 
四、店主的困境：技术民主化的另一面 
让我们暂时离开程序员，去看看另一个人：用人工智能工具创建了她的第一个应用程序的店主。 她不懂代碼，從未接受過任何安全培訓。但AI工具讓她在一個下午就建立了一個庫存管理系統。這是令人振奮的，真的。科技一直以來都是不平等的放大器，現在它終於有機會成為平等的賦予者。 但她的系统没有通过任何安全审查。她的客户数据，现在漂浮在一个没有锁的数字盒子里。当人工智能工具开始被用来批量发现漏洞——不是神话，而是它的后续者，那些在18个月后出现的「仿制品」——她的商店，和她客户的数据，将当其冲。 这是一个残酷的技术逻辑：民主化的创造能力，在遇到民主化的破坏能力之前，是自由的礼物；在遇到之后，是暴露的危机。 爱德蒙·伯克（Edmund Burke）曾警告法国大革命的激进分子：“不后果的自由，是一切许可的理由。”我无意中为保守主义的严格背书，但这句话的底层逻辑在今天惊人地适用：赋予每个人写代码的自由，阐释同时赋予他们保护代码的能力，是一种残忍的半途而废。 解决方案并不复杂，而且已经有人明确指出：让安全功能成为默认选项，而不是高级附加功能。让那些用AI帮助写代码的工具，同时也默默地保护你的代码。不要让店主在开店的时候还要额外学习如何锁门。 五、我们需要的不是仁慈的，而是结构性的正义 人为的400万美元捐款，让我想起了19世纪那些在工厂主导的城市里建造图书馆的富豪——卡内基式的慈善。这是善意的，也是不够的。真正的问题从来不是那些工厂主是否愿意捐出几栋图书馆，而是工厂的生产方式本身是否公正。 互联网的问题，从结构上看，是一个「外部性」（externality）的问题。经济学中，外部性是指一个行为者的行为对独立第三方造成的同步计入成本的影响。工厂污染循环是负外部性的教科书案例。而科技公司依赖开源基础设施承担维护成本，是数字时代最大的、被长期忽视的外部性之一。 解法有三重，且缺一不可。 第一，让Mythos等工具向开源维护者开放——不是作为恩赐，而是义务。这些工具存在的部分原因，是训练数据中包含了大量这些维护者的代码。你用别人的智识作为训练了一个神，最低限度的报答是让这个神也受到保护。 第二，所有在产品中使用开源代码的公司——几乎是整个科技行业——应该建立系统性的资金和人力投入机制。不是偶发的赞助，而是可预期的、可持续的基础设施。我们怎样对待桥梁和道路投资，就应该怎样对待OpenSSL和Linux。 第三，让安全能力成为AI编程工具的标准配置。不要让店主在不知情的情况下建造一座没有锁的房子。如果AI能帮她开门，AI也应该默默地帮她把锁装好。 尾声：那封未寄出的信 我有时会想象，那个花了二十年维护代码的程序员，坐在他的屏幕前，读到了Mythos发现了他守护的系统中一个27年的漏洞这则新闻。 他大概有一种奇特的感受：一种被保护的惊喜，一种被遗忘的悲痛，同时涌来。 他想给人类写一封信，但又不知道该写什么。感谢他们找到了那个漏洞？抱怨他们没有直接给他工具？还是只是静静地说：“我在这里，我一直在这里，你们在建造未来的时候，别忘了问是谁把地基打下去的。” 汉娜·阿伦特（Hannah Arendt）说：“最大的恶，来自思想的赤字。”科技行业从来不缺乏智识——它缺乏的，是在思考“可能性”的同时，也停下来想一想“责任”。 互联网的终结不是一个技术问题。这是一个道德问题，伪装成技术问题。 而所有道德问题的起点，都是同一个古老的提问：我的邻居是谁？我对他负有什么责任？
|
