一家中國公司一直在嘗試開發一項由人工智能驅動的技術，不僅能讓威權政府監控異見人士，還能潛在地預測未來誰可能成為異見人士。

這項似乎還處於研究階段的工作簡直如同出自反烏托邦科幻小說，讓我們得以一瞥一個威權國家在公民尚未公開表達異議之前就對其採取行動的世界。

這家名為積至的中國公司銷售商業版的“防火長城”——中國用於控制網絡活動的監控和審查軟件。這些工具使政府可以監控互聯網流量，並在有人試圖繞過傳統互聯網審查時發出警告。

但范德比爾特大學的研究人員表示，根據泄露的公司文件，該公司正在開發使用人工智能審查位置數據和互聯網使用情況的新產品，以預測哪些人可能會發表批評政府的言論，或是有所行動。

這種技術一旦完善，將為威權政府提供一個對付假想敵的強大工具。

威權政府利用人工智能鎮壓異見的想法已經足夠令人不安。但一些業內人士表示，在個人採取行動之前就使用人工智能來預測異見傾向已經成為一種噩夢般的場景。

“這就是大規模監控與人工智能結合時會發生的情況，”范德比爾特大學國家安全研究所棘手問題實驗室主任布雷特·戈德斯坦說。“在沒有制衡的情況下，中國對其本國公民所做的事情預示着，任何缺乏監管的地方都可能發生這樣的事情。”

范德比爾特大學的研究人員發現，積至正與其政府支持的研究分支MESA實驗室合作，開發一種技術，能生成中國公民的個人檔案，然後使用人工智能來篩選出可能構成政治風險的人員。

但拜登政府時期對驅動人工智能的美國設計計算機芯片實施的出口管制似乎阻礙了該公司的進展。這表明，美國的限制措施可能已經減緩了中國下一代監控技術的發展。

積至的文件顯示，2024年，當美國對中國實施嚴厲的出口管制時，該公司及其實驗室很難為監控技術找到足夠的算力。

英偉達首席執行官黃仁勛，這是一家總部位於美國的科技公司，設計全球最強大的人工智能芯片。 MIKAYLA WHITMORE FOR THE NEW YORK TIMES

范德比爾特大學政治學教授布雷特·本森表示，這些文件提到了 GPU（圖形處理器）的限制。GPU是驅動人工智能模型的芯片。他說，由於這些限制，該公司開始使用較舊、性能較低的人工智能模型和芯片。

美國官員表示，如今，積至可以獲得足夠的圖形處理器用於其當前的產品。但官員們指出，要實現其最具野心的預測技術版本，該公司可能需要比中國所能獲得的更先進芯片。

前拜登政府官員表示，情報顯示，他們限制中國獲取美國設計的高端芯片的政策在保持美國人工智能優勢和減緩中國其他技術發展方面發揮了作用。

但美國的出口管制是否會減緩中國開發更具壓迫性的人工智能應用仍是一個懸而未決的問題。

特朗普政府放寬了拜登時代的一些出口管制，保留了對英偉達最先進處理器的限制。英偉達是設計全球最強大人工智能芯片的美國公司。在特朗普總統最近的北京之行中，美國官員表示，中國將可以獲得更先進版本的英偉達芯片。

但中國正試圖讓其人工智能公司擺脫對美國設計芯片的依賴，以便出口管制無法再束縛它們的雄心。

在特朗普總統最近訪問北京期間，美國官員表示，中國將能夠獲得英偉達芯片的更先進版本。 NG HAN GUAN/ASSOCIATED PRESS

為未來的批評者建立檔案

這些新信息是從大量數據中收集的，其中包括最初在去年9月發布的10萬份積至文件。通過研究這些文件，《連線》(Wired)和其他出版物概述了積至如何將其網絡安全軟件出口到埃塞俄比亞、哈薩克斯坦、緬甸和巴基斯坦等國家，使這些國家能夠對移動網絡進行大規模監控。

范德比爾特大學的研究人員在梳理這些文件時，關注的重點並非積至正在銷售的技術，而是它試圖開發的下一代技術，以及可能阻礙其實施戰略的限制因素。

根據積至的文件，在2024年的前幾個月，該公司的研究人員致力於根據電信、社交媒體和位置數據開發人們的行為檔案。人工智能模型被用來對人群進行分類，並“檢測有害信息”——這是一種委婉說法，通常是指中國共產黨用來識別政治異見或其他政府希望壓制的材料。

根據2024年2月5日某次會議的紀要，研究人員討論了如何建立人員檔案以“識別其意圖”並“實現對有害信息的發現”。

積至的研究人員似乎正在開發一種工具，利用人工智能根據該公司監控技術收集的數據模式，預測哪些人可能會成為中國政府的批評者。

中科天璣致力於開發一款基於人工智能的軟件，用於傳播針對性的中國宣傳內容。 FANG JIANFEI/VCG, VIA GETTY IMAGES

“積至的研究團隊所做的不只是記錄行為模式。他們還試圖預測公民接下來可能會做什麼，以及和誰一起做，”本森說。“那些關於普通材料的龐大數據儲備，是生成個人檔案的原材料，這些檔案可以決定你是什麼樣的人，以及你下一步會做什麼。”

積至沒有回應置評請求。

范德比爾特大學的研究人員表示，這些文件表明，該公司的團隊正致力於將物理移動軌跡與其他網絡活動聯繫起來，包括人們看什麼電影和讀什麼書。

積至的研究在某些方面與另一家與政府有聯繫的中國公司中科天璣的工作相似。去年，范德比爾特大學和《紐約時報》概述了中科天璣開發人工智能驅動軟件的努力，該軟件將推送定向宣傳，這些宣傳主題得到中國政府的支持，並且反駁北京所反對的觀點。

在某些方面，積至的工作也讓人想起2002年的電影《少數派報告》(Minority Report)，在電影中，政府能預測誰可能會犯罪，一個專門的警察部隊會在違法行為發生前採取行動逮捕這些人。儘管被視為絕無差錯，但電影中預測未來的“先知”卻錯誤地指控了由演員湯姆·克魯斯扮演的主角涉嫌謀殺。

中國多年來一直在追求預測性監控技術。但正如積至的文件所示，人工智能模型加速了此類工具的開發。

而且積至展示了預測性警務技術可能很快成為中國出口產品的趨勢。

DeepSeek的手機端人工智能助手。 KELSEY MCCLELLAN FOR THE NEW YORK TIMES

完善監控國家體系

儘管這些文件沒有涵蓋最近幾個月的情況，但據要求匿名討論敏感評估的美國官員稱，沒有證據表明積至已經定型或部署了這種預測技術。

但官員們承認，中國企業正在努力開發這種技術，以完善其監控國家體系。據專家和政府官員透露，中國的公安局也一直在競相使用該國領先的人工智能模型DeepSeek，開發其他預測性警務技術。

美國官員表示，積至和其他中國監控公司可能擁有足夠的算力來支持其當前一代的工具。

但預測性工具——尤其是如果該公司最終將截獲的電話通話或監控視頻整合進來——可能會面臨算力上的限制。

美國官員表示，如果該公司試圖利用這類監控數據流來預測安全威脅，將更快地觸及中國當前算力的極限。

“中國安全部門正面臨數據過載的問題，”加州大學全球衝突與合作研究所高級研究員吉米·古德里奇說。“他們同時擁有太多的信息。人工智能的真正價值在於他們可以對數據進行分類並發現威脅。但他們擴大這種能力取決於他們獲得算力的途徑。這就是出口管制如此重要的原因。”