《大西洋理事會網站》周五6月5日刊發該理事會五位專家聯名撰寫的文章－－"如何對抗人工智能時代的恐怖主義宣傳"。請君一閱： 要點: 在過去四分之一個世紀裡，潛在恐怖分子從被招募到採取行動之間的時間之所以縮短，很大程度上是由於能夠接觸現代技術。通過社交媒體進行快速溝通以及人工智能工具使用範圍的擴大，幫助恐怖組織迅速招募潛在恐怖分子，使他們接觸暴力宣傳，並鼓勵他們代表恐怖組織採取行動。這代表着2026年最重大的變化之一，也是正在出現的威脅之一。 哈馬斯、基地組織以及伊拉克和沙姆伊斯蘭國（ISIS）等組織利用技術，在遠離其地理重心的地方開展活動，以數字哈里發國取代其曾經的實體哈里發國。連接性技術將分散的個人和組織單元聯繫起來，使他們能夠分享恐怖主義宣傳和“操作指南”，通過激進化和招募擴大網絡，並使分散的組織能夠共享知識和開展交易。通過在線基礎設施與大型組織相連接的小型恐怖組織單元，對美國及其盟友構成了複雜威脅，因為它們難以被發現，而且不斷進行創新。 持續存在的威脅 2024年10月，兩名阿富汗移民因策劃在選舉日發動襲擊而在俄克拉何馬州被捕。隨後，在2025年元旦，新奧爾良法國區發生的一起爆炸事件造成十五名慶祝者死亡。2026年初發生的另一起陰謀和另外兩次襲擊，凸顯了伊斯蘭國及其附屬組織持續對美國構成的威脅。在這些案件中，這些人在發動襲擊之前都曾接觸過與伊斯蘭國有關聯的媒體內容，這表明接觸網絡極端主義宣傳在恐怖主義激進化過程中所發揮的作用正不斷增強。 激進化是一個複雜且高度個體化的過程。儘管導致激進化的具體原因因人而異，但學術研究人員報告稱，接觸為暴力行為提供正當化理由的宣傳內容，與個人是否會激進化以及是否會接受極端信念密切相關。互聯網，尤其是社交媒體，使這類恐怖主義宣傳能夠迅速而輕易地觸及脆弱人群。在幾年前之前，有興趣的人必須專門通過暗網網站或小眾論壇尋找恐怖主義宣傳；如今，恐怖組織能夠利用容易獲取的工具接觸潛在追隨者。例如，在2023年和2024年，支持哈馬斯的網絡影響者劫持了原本代表支持巴勒斯坦人的標籤，在推特和抖音上傳播恐怖主義內容。伊斯蘭國尤其擅長利用互聯網傳播其信息並使個人激進化，因為該組織通過社交媒體傳播信息的能力，在其崛起以及持續吸引追隨者方面都發揮了關鍵作用。 基地組織也展示了其持續接觸西方受眾的能力，並通過有針對性的宣傳實現這一目標。2023年底，阿拉伯半島基地組織（AQAP）恢復發行其英文網絡雜誌《啟示》，該雜誌旨在向西方受眾傳播襲擊戰術、招募宣傳以及意識形態培訓內容。2025年6月，阿拉伯半島基地組織利用《啟示》呼籲暗殺美國政治領導人。2026年初版《啟示》則鼓勵西方潛在恐怖分子獲取製造炸彈的材料，並美化那些在2025年12月澳大利亞襲擊事件中使用自製簡易爆炸裝置的人。 此外，生成式人工智能已經成為恐怖主義宣傳和激進化工作的力量倍增器。例如，伊斯蘭國能夠在重大事件發生後的數天內，製作出多種語言版本的人工智能生成新聞視頻和深度偽造音頻片段。在2023年加沙衝突期間，與哈馬斯有關聯的宣傳人員傳播了經過人工智能操縱的圖像，其中包括捏造的暴行照片以及偽造的以色列士兵圖片，以煽動情緒並削弱敵方士氣。通過使用模仿合法新聞或流行娛樂內容的合成媒體，恐怖分子能夠迅速而廣泛地傳播虛假信息和仇恨敘事，同時規避內容審查。 從激進化到行動 並非所有接觸親恐怖主義網絡內容的人都會決定採取行動支持某個組織。根據學術文獻，激進化本身並不會直接導致暴力行為；加入恐怖組織並代表其採取行動，往往需要他人的鼓勵和互動。然而，恐怖組織正在利用技術降低實施暴力行動的門檻，並且比以往任何時候都更快地招募個人實施暴力行為。例如，伊斯蘭國的數字體系，包括加密信息平台和快速內容複製機制，對於其持續存在以及不斷招募成員的能力至關重要。這一數字生態系統使該組織能夠傳播指令、協助支持者並傳遞指導，而無需持續的面對面接觸，從而縮短了從激進化到動員行動之間的時間。 《啟示》雜誌三月底發表的一篇鼓勵使用自製簡易爆炸裝置的文章，凸顯了近年來恐怖主義中最令人擔憂的趨勢之一，即縮短激進化與行動之間的時間。包括伊斯蘭國和基地組織在內的恐怖組織，正在網上提供武器製造操作指南，其中許多指南描述了可用於造成大規模傷亡、並且能夠利用五金商店材料製造的簡易炸彈。通過在鼓動性材料旁邊提供製造炸彈的說明，恐怖組織消除了發動襲擊的障礙，使心懷不滿的人能夠迅速從激進化走向行動。 例如，奧地利一名年輕男子最近因其企圖襲擊2023年維也納泰勒·斯威夫特（Taylor Swift）演唱會而受審；針對他的證據包括他從伊斯蘭國網站下載的製造破片炸彈說明。除了提供製造炸彈的操作指南之外，還有一些案例顯示聖戰組織正在利用三維打印技術擴大武器獲取渠道。2024年底，一名美國軍人因出售原計劃用於一起受基地組織啟發襲擊行動的三維打印機槍部件而被捕。 由人工智能驅動的聊天機器人和互動系統的興起，能夠促進招募並支持短期行動規劃，從而進一步加劇激進化到行動流程縮短的趨勢。由大型語言模型驅動的極端主義聊天機器人能夠與潛在招募對象進行個別互動，根據其特定興趣或不滿情緒量身定製激進信息。這種自動化方式使恐怖網絡能夠大規模培養和灌輸支持者思想，而人類招募人員只需在最後審核階段介入。除了招募之外，人工智能“顧問”還能夠協助培訓和規劃：經過微調並去除安全限制的開源模型可能會提供製造爆炸物或制定襲擊策略的指導。研究人員已經證明，被“越獄”的人工智能模型能夠被引導協助恐怖主義培訓、行動規劃以及宣傳內容開發。技術能力較強的武裝分子構建不受限制的聖戰聊天機器人的潛力，可能使暴力知識隨時可得，提供一種虛擬策劃者，引導獨狼行動者完成襲擊的每一個步驟。 去中心化與強化通信 隨着恐怖組織轉向互聯網來實施激進化、招募新成員並煽動襲擊，同樣的系統也使恐怖組織減少了對地理據點的需求。曾經在黎凡特地區擁有領土據點的組織，例如伊斯蘭國和基地組織，如今已成為依賴數字骨幹網絡運作的網絡化實體。這種結構通過分散行動職能，同時在不需要嚴密指揮控制體系的情況下保持品牌一致性，從而增強了領導層的韌性，並降低了其遭受地理性挫折時的脆弱性。加密生態系統充當採購交易平台、同伴支持論壇以及技術故障排除中心，伊斯蘭國支持者在其中分享關於獲取無人機部件、電子設備、通信設備以及爆炸物前體材料的指導信息。這些系統還實現了去中心化後勤保障，減少了地方組織單元對集中式供應鏈或傳統走私網絡的依賴。 除了激進化之外，恐怖組織不斷變化且去中心化的特性，正在使組織管理能夠從分散地點進行，同時使宣傳內容更難被清除。恐怖主義網絡正在利用基於區塊鏈的互聯網技術和去中心化平台來強化其通信體系。隨着主流社交媒體和託管網站加大對極端內容的打擊力度，恐怖分子正遷移至更難被關閉的區塊鏈網絡和點對點網絡。例如，伊斯蘭國支持者曾嘗試將宣傳內容鑄造成公共區塊鏈上的非同質化代幣（NFT），從而實際上創建了永久存在、無法刪除的極端主義內容記錄。同樣，一些組織正在探索利用去中心化文件共享網絡和加密社交信息流來傳播視頻和手冊，使其超出科技公司內容政策的管轄範圍。再加上人工智能驅動的自動翻譯工具，一份宣傳材料便能夠即時被翻譯成數十種語言，並通過無法審查的渠道傳播。生成式人工智能與區塊鏈基礎設施的融合，擴大了恐怖主義信息傳播的全球覆蓋範圍，幫助武裝分子繞過開放網絡中的傳統監控，並跨越語言和國家邊界進行招募。 索馬里伊斯蘭國（ISIS-S）是一個規模較小的伊斯蘭國附屬組織，它體現了去中心化恐怖主義網絡的特徵。儘管該組織並不控制主要人口中心，也不實施重大襲擊，但它作為整個伊斯蘭國體系的收入來源和協調樞紐而運作。通過爆炸物專業知識、新興無人機使用能力、加密協調機制以及海上聯通能力，索馬里伊斯蘭國支持伊斯蘭國組織在不同地區的重建，並加速戰術經驗在整個組織中的下游擴散。 在戰術層面上，索馬里伊斯蘭國將索馬里視為一個測試和完善戰術的環境。該組織在當地進行試驗，識別在真實條件下有效的方法，並將成功做法轉化為適用於整個組織的規範化指導。例如，加密通信平台允許索馬里伊斯蘭國協調人員將當地實驗所獲得的經驗教訓傳播到整個伊斯蘭國網絡之中。這種互動使其他附屬組織能夠從這些經驗中學習，並消除了建立實體訓練營的必要性。尤其值得注意的是，索馬里伊斯蘭國利用索馬里寬鬆的環境擴大了商業無人航空系統的使用範圍，將無人機用於偵察、監視和宣傳活動。它還將這些知識傳播給其他伊斯蘭國附屬組織，為整個組織提供關於將無人機與爆炸載荷結合運用的經驗和見解。 政策建議 應對這些受技術影響的恐怖主義趨勢的政策選擇，必須跟上私營部門技術進步的步伐。這項工作將要求公共部門和私營部門合作協同，同時確保言論自由和隱私權被納入政策保障之中。這些政策方案需要強調跨境以及各個層級之間的標準化與合作。以統一的恐怖主義或激進化定義為基礎，並形成協調一致的國際回應，將比單獨實施一兩項政策建議更加有效。隨着反恐工作的轉變，從業人員需要重新思考解決這些問題的方式，包括納入開源情報、人權保護、社區參與以及金融調查等手段。 隨着接觸激進內容與實施暴力行為之間的時間不斷縮短，各項努力必須着眼於從源頭上限制對此類內容的獲取。若公共和私營機構能夠建立夥伴關係，推動國際合作，那麼目前已經開展的若干有前景項目將獲得更大的成效和影響力。在所有情況下，法律以及言論自由權利都必須得到保護和維護。多年來，相關立法和討論一直圍繞媒體平台（無論是傳統媒體還是社交媒體）作為辯論和討論空間的能力展開。任何旨在應對激進化和招募活動的舉措，都必須始終確保公民權利得到維護。 哈希共享：哈希值，即一段在線內容的數字指紋，能夠迅速識別某項內容是否具有暴力性質或以其他方式支持恐怖主義。組織之間以及國家之間共享哈希值，有助於快速識別這些內容，並使科技公司能夠在不重新傳播相關內容、從而避免無意間擴大其影響的情況下識別恐怖主義內容。哈希共享已被證明在防止兒童遭受網絡侵害方面十分有效，因為美國政府與谷歌之間共享了相關哈希值，以識別並迅速刪除虐待性材料。將同樣的理念應用於反恐工作，並利用組織和國家之間現有的反恐合作夥伴關係，可能為在相關內容廣泛傳播之前迅速識別並將其刪除提供一條路徑。在反恐背景下，通過公司和政府實體之間共享哈希值，反恐從業人員或許能夠減緩內容在不同平台之間和平台內部的複製速度——從而延長招募與行動之間的時間。 如今，傳統的哈希共享已經不足以應對挑戰。哈希值能夠識別已知的恐怖主義圖片和視頻，儘管對於哪些內容應被納入數據庫往往仍存在分歧。極端主義生態系統越來越依賴經過剪輯的視頻片段、截圖、修改後的音頻、翻譯文本、網絡迷因、合成媒體、網址鏈接、直播片段以及針對特定平台的重新發布策略。全球互聯網反恐論壇在防止恐怖主義和暴力極端主義利用數字平台方面所開展的工作，仍然是至關重要的基礎，但下一階段應從簡單的內容匹配轉向兼顧隱私保護的指標共享。這意味着，在法律允許且存在監督機制的情況下，共享哈希值、網址鏈接、行為信號、媒體指紋、對抗性修改樣本、危機響應包以及內容來源指標。這也意味着需要提高透明度、審計機制、申訴救濟渠道以及公民社會的參與機會，從而確保反恐系統不會過度刪除合法言論。 加強合作框架：儘管西方政府與科技公司之間已經存在部分合作紐帶，但這些合作關係應進一步完善，以更好地應對迅速變化的反恐環境。在政府與企業之間建立明確的法律授權，並實現接觸和協作協議的標準化，將有助於以更加靈活的方式應對跨國威脅。 基於技術的恐怖主義基礎設施具有分散化和跨國化特徵，其信息和系統通過多個國家進行傳輸，並可被全球用戶訪問。當前的框架無法匹配網絡重新形成以及數字信息出現和消失的速度，而實現這些框架的標準化將有助於更快作出反應。在政府之間，以及企業與政府之間建立常設機制，將比目前依賴臨時協調來共享威脅指標以及新興戰術、技術和程序的拼湊式體系更具響應能力。 司法管轄權挑戰、證據標準以及數據獲取方式在不同國家之間往往存在差異。努力識別這些銜接縫隙，並建立機制以加強溝通和尋找解決方案，將有助於應對這些新興趨勢。成功並不意味着僅僅從某一個平台刪除內容。這些努力必須針對整個數字生態系統，包括賬戶創建鏈條、鏡像網絡、支付渠道、翻譯節點、檔案存儲庫以及可信傳播者。 利用人工智能對抗恐怖主義信息：與社交媒體提供商合作開發能夠識別並刪除網絡恐怖主義內容的人工智能工具，可能有助於阻止極端主義信息接觸易受影響人群。最新研究表明，人工智能能夠有效識別支持網絡激進化的內容，而歐盟開展的一項研究發現，人工智能工具顯著提升了執法部門識別網絡激進化跡象的能力。 元公司已經開發出一種人工智能工具，能夠識別互聯網中的仇恨視頻，從而幫助其他組織提升監測激進化威脅的能力。自該工具推出以來，元公司報告稱其平台上的網絡仇恨言論數量顯著下降。這些成功案例以及相關學術研究表明，擴大人工智能在識別網絡恐怖主義招募跡象以及刪除相關內容方面的應用，是防止個人接觸為暴力行為辯護的信息的有效方式。由於相關基礎設施已經存在，建立政府與私營企業共同開發潛在情景的機會，可能有助於尋找利用人工智能應對未來激進化內容的方法。 從內容刪除轉向網絡破壞：刪除內容能夠減少危害，但這不能成為全部策略。恐怖分子是在一個網絡體系中利用技術，因此任何回應措施都應瞄準這一網絡的連接結構。恐怖分子利用資金流動、域名基礎設施、雲服務濫用、採購渠道、翻譯節點、內容轉發網絡、意見領袖橋梁以及跨平台遷移模式。金融情報和制裁工具應與網絡破壞行動更加緊密結合，尤其是在附屬組織或支持者利用加密貨幣、眾籌、電商平台或非正式價值轉移系統的情況下。開源情報應支持這項工作，但分析人員必須依據法律標準驗證開源發現。在最佳模式下，情報機構、執法部門、發展機構以及社區預防組織應作為相互獨立但協調一致的行動線開展工作，各自擁有不同的權限和保障機制。 阻止青年參與：包括澳大利亞以及近期的巴西在內的多個國家，已經建立法律框架以防止未成年人使用社交媒體。此類法律工具能夠幫助阻止易受影響的青少年接觸恐怖主義內容，從而使他們更難在網絡環境中被激進化。這些年齡限制門檻還有助於阻止某些雖然在技術上合法、但對青少年有害的行為，例如參與邊緣網絡社群或接觸暴力及恐怖主義前導內容。通過借鑑那些成功禁止青少年使用社交媒體國家的經驗，其他國家也可以制定類似法律，在保護成年人公民自由的同時保護青少年。 維護權利與言論自由：在實施上述任何解決方案時，美國及其盟友都應謹慎避免損害公民自由、言論表達自由或合法政治言論。恐怖主義行為體往往有意在旨在保護言論自由的傳統法律門檻之下活動，並利用這些空隙。為了成功應對此類網絡內容，我們必須明確界定最有可能導致激進化的內容類型，澄清圍繞內容刪除的法律授權，並建立一個共同且清晰的定義，用於指導網絡反恐工作的具體實施。
|
