《大西洋理事会网站》周五6月5日刊发该理事会五位专家联名撰写的文章－－"如何对抗人工智能时代的恐怖主义宣传"。请君一阅： 要点: 在过去四分之一个世纪里，潜在恐怖分子从被招募到采取行动之间的时间之所以缩短，很大程度上是由于能够接触现代技术。通过社交媒体进行快速沟通以及人工智能工具使用范围的扩大，帮助恐怖组织迅速招募潜在恐怖分子，使他们接触暴力宣传，并鼓励他们代表恐怖组织采取行动。这代表着2026年最重大的变化之一，也是正在出现的威胁之一。 哈马斯、基地组织以及伊拉克和沙姆伊斯兰国（ISIS）等组织利用技术，在远离其地理重心的地方开展活动，以数字哈里发国取代其曾经的实体哈里发国。连接性技术将分散的个人和组织单元联系起来，使他们能够分享恐怖主义宣传和“操作指南”，通过激进化和招募扩大网络，并使分散的组织能够共享知识和开展交易。通过在线基础设施与大型组织相连接的小型恐怖组织单元，对美国及其盟友构成了复杂威胁，因为它们难以被发现，而且不断进行创新。 持续存在的威胁 2024年10月，两名阿富汗移民因策划在选举日发动袭击而在俄克拉何马州被捕。随后，在2025年元旦，新奥尔良法国区发生的一起爆炸事件造成十五名庆祝者死亡。2026年初发生的另一起阴谋和另外两次袭击，凸显了伊斯兰国及其附属组织持续对美国构成的威胁。在这些案件中，这些人在发动袭击之前都曾接触过与伊斯兰国有关联的媒体内容，这表明接触网络极端主义宣传在恐怖主义激进化过程中所发挥的作用正不断增强。 激进化是一个复杂且高度个体化的过程。尽管导致激进化的具体原因因人而异，但学术研究人员报告称，接触为暴力行为提供正当化理由的宣传内容，与个人是否会激进化以及是否会接受极端信念密切相关。互联网，尤其是社交媒体，使这类恐怖主义宣传能够迅速而轻易地触及脆弱人群。在几年前之前，有兴趣的人必须专门通过暗网网站或小众论坛寻找恐怖主义宣传；如今，恐怖组织能够利用容易获取的工具接触潜在追随者。例如，在2023年和2024年，支持哈马斯的网络影响者劫持了原本代表支持巴勒斯坦人的标签，在推特和抖音上传播恐怖主义内容。伊斯兰国尤其擅长利用互联网传播其信息并使个人激进化，因为该组织通过社交媒体传播信息的能力，在其崛起以及持续吸引追随者方面都发挥了关键作用。 基地组织也展示了其持续接触西方受众的能力，并通过有针对性的宣传实现这一目标。2023年底，阿拉伯半岛基地组织（AQAP）恢复发行其英文网络杂志《启示》，该杂志旨在向西方受众传播袭击战术、招募宣传以及意识形态培训内容。2025年6月，阿拉伯半岛基地组织利用《启示》呼吁暗杀美国政治领导人。2026年初版《启示》则鼓励西方潜在恐怖分子获取制造炸弹的材料，并美化那些在2025年12月澳大利亚袭击事件中使用自制简易爆炸装置的人。 此外，生成式人工智能已经成为恐怖主义宣传和激进化工作的力量倍增器。例如，伊斯兰国能够在重大事件发生后的数天内，制作出多种语言版本的人工智能生成新闻视频和深度伪造音频片段。在2023年加沙冲突期间，与哈马斯有关联的宣传人员传播了经过人工智能操纵的图像，其中包括捏造的暴行照片以及伪造的以色列士兵图片，以煽动情绪并削弱敌方士气。通过使用模仿合法新闻或流行娱乐内容的合成媒体，恐怖分子能够迅速而广泛地传播虚假信息和仇恨叙事，同时规避内容审查。 从激进化到行动 并非所有接触亲恐怖主义网络内容的人都会决定采取行动支持某个组织。根据学术文献，激进化本身并不会直接导致暴力行为；加入恐怖组织并代表其采取行动，往往需要他人的鼓励和互动。然而，恐怖组织正在利用技术降低实施暴力行动的门槛，并且比以往任何时候都更快地招募个人实施暴力行为。例如，伊斯兰国的数字体系，包括加密信息平台和快速内容复制机制，对于其持续存在以及不断招募成员的能力至关重要。这一数字生态系统使该组织能够传播指令、协助支持者并传递指导，而无需持续的面对面接触，从而缩短了从激进化到动员行动之间的时间。 《启示》杂志三月底发表的一篇鼓励使用自制简易爆炸装置的文章，凸显了近年来恐怖主义中最令人担忧的趋势之一，即缩短激进化与行动之间的时间。包括伊斯兰国和基地组织在内的恐怖组织，正在网上提供武器制造操作指南，其中许多指南描述了可用于造成大规模伤亡、并且能够利用五金商店材料制造的简易炸弹。通过在鼓动性材料旁边提供制造炸弹的说明，恐怖组织消除了发动袭击的障碍，使心怀不满的人能够迅速从激进化走向行动。 例如，奥地利一名年轻男子最近因其企图袭击2023年维也纳泰勒·斯威夫特（Taylor Swift）演唱会而受审；针对他的证据包括他从伊斯兰国网站下载的制造破片炸弹说明。除了提供制造炸弹的操作指南之外，还有一些案例显示圣战组织正在利用三维打印技术扩大武器获取渠道。2024年底，一名美国军人因出售原计划用于一起受基地组织启发袭击行动的三维打印机枪部件而被捕。 由人工智能驱动的聊天机器人和互动系统的兴起，能够促进招募并支持短期行动规划，从而进一步加剧激进化到行动流程缩短的趋势。由大型语言模型驱动的极端主义聊天机器人能够与潜在招募对象进行个别互动，根据其特定兴趣或不满情绪量身定制激进信息。这种自动化方式使恐怖网络能够大规模培养和灌输支持者思想，而人类招募人员只需在最后审核阶段介入。除了招募之外，人工智能“顾问”还能够协助培训和规划：经过微调并去除安全限制的开源模型可能会提供制造爆炸物或制定袭击策略的指导。研究人员已经证明，被“越狱”的人工智能模型能够被引导协助恐怖主义培训、行动规划以及宣传内容开发。技术能力较强的武装分子构建不受限制的圣战聊天机器人的潜力，可能使暴力知识随时可得，提供一种虚拟策划者，引导独狼行动者完成袭击的每一个步骤。 去中心化与强化通信 随着恐怖组织转向互联网来实施激进化、招募新成员并煽动袭击，同样的系统也使恐怖组织减少了对地理据点的需求。曾经在黎凡特地区拥有领土据点的组织，例如伊斯兰国和基地组织，如今已成为依赖数字骨干网络运作的网络化实体。这种结构通过分散行动职能，同时在不需要严密指挥控制体系的情况下保持品牌一致性，从而增强了领导层的韧性，并降低了其遭受地理性挫折时的脆弱性。加密生态系统充当采购交易平台、同伴支持论坛以及技术故障排除中心，伊斯兰国支持者在其中分享关于获取无人机部件、电子设备、通信设备以及爆炸物前体材料的指导信息。这些系统还实现了去中心化后勤保障，减少了地方组织单元对集中式供应链或传统走私网络的依赖。 除了激进化之外，恐怖组织不断变化且去中心化的特性，正在使组织管理能够从分散地点进行，同时使宣传内容更难被清除。恐怖主义网络正在利用基于区块链的互联网技术和去中心化平台来强化其通信体系。随着主流社交媒体和托管网站加大对极端内容的打击力度，恐怖分子正迁移至更难被关闭的区块链网络和点对点网络。例如，伊斯兰国支持者曾尝试将宣传内容铸造成公共区块链上的非同质化代币（NFT），从而实际上创建了永久存在、无法删除的极端主义内容记录。同样，一些组织正在探索利用去中心化文件共享网络和加密社交信息流来传播视频和手册，使其超出科技公司内容政策的管辖范围。再加上人工智能驱动的自动翻译工具，一份宣传材料便能够即时被翻译成数十种语言，并通过无法审查的渠道传播。生成式人工智能与区块链基础设施的融合，扩大了恐怖主义信息传播的全球覆盖范围，帮助武装分子绕过开放网络中的传统监控，并跨越语言和国家边界进行招募。 索马里伊斯兰国（ISIS-S）是一个规模较小的伊斯兰国附属组织，它体现了去中心化恐怖主义网络的特征。尽管该组织并不控制主要人口中心，也不实施重大袭击，但它作为整个伊斯兰国体系的收入来源和协调枢纽而运作。通过爆炸物专业知识、新兴无人机使用能力、加密协调机制以及海上联通能力，索马里伊斯兰国支持伊斯兰国组织在不同地区的重建，并加速战术经验在整个组织中的下游扩散。 在战术层面上，索马里伊斯兰国将索马里视为一个测试和完善战术的环境。该组织在当地进行试验，识别在真实条件下有效的方法，并将成功做法转化为适用于整个组织的规范化指导。例如，加密通信平台允许索马里伊斯兰国协调人员将当地实验所获得的经验教训传播到整个伊斯兰国网络之中。这种互动使其他附属组织能够从这些经验中学习，并消除了建立实体训练营的必要性。尤其值得注意的是，索马里伊斯兰国利用索马里宽松的环境扩大了商业无人航空系统的使用范围，将无人机用于侦察、监视和宣传活动。它还将这些知识传播给其他伊斯兰国附属组织，为整个组织提供关于将无人机与爆炸载荷结合运用的经验和见解。 政策建议 应对这些受技术影响的恐怖主义趋势的政策选择，必须跟上私营部门技术进步的步伐。这项工作将要求公共部门和私营部门合作协同，同时确保言论自由和隐私权被纳入政策保障之中。这些政策方案需要强调跨境以及各个层级之间的标准化与合作。以统一的恐怖主义或激进化定义为基础，并形成协调一致的国际回应，将比单独实施一两项政策建议更加有效。随着反恐工作的转变，从业人员需要重新思考解决这些问题的方式，包括纳入开源情报、人权保护、社区参与以及金融调查等手段。 随着接触激进内容与实施暴力行为之间的时间不断缩短，各项努力必须着眼于从源头上限制对此类内容的获取。若公共和私营机构能够建立伙伴关系，推动国际合作，那么目前已经开展的若干有前景项目将获得更大的成效和影响力。在所有情况下，法律以及言论自由权利都必须得到保护和维护。多年来，相关立法和讨论一直围绕媒体平台（无论是传统媒体还是社交媒体）作为辩论和讨论空间的能力展开。任何旨在应对激进化和招募活动的举措，都必须始终确保公民权利得到维护。 哈希共享：哈希值，即一段在线内容的数字指纹，能够迅速识别某项内容是否具有暴力性质或以其他方式支持恐怖主义。组织之间以及国家之间共享哈希值，有助于快速识别这些内容，并使科技公司能够在不重新传播相关内容、从而避免无意间扩大其影响的情况下识别恐怖主义内容。哈希共享已被证明在防止儿童遭受网络侵害方面十分有效，因为美国政府与谷歌之间共享了相关哈希值，以识别并迅速删除虐待性材料。将同样的理念应用于反恐工作，并利用组织和国家之间现有的反恐合作伙伴关系，可能为在相关内容广泛传播之前迅速识别并将其删除提供一条路径。在反恐背景下，通过公司和政府实体之间共享哈希值，反恐从业人员或许能够减缓内容在不同平台之间和平台内部的复制速度——从而延长招募与行动之间的时间。 如今，传统的哈希共享已经不足以应对挑战。哈希值能够识别已知的恐怖主义图片和视频，尽管对于哪些内容应被纳入数据库往往仍存在分歧。极端主义生态系统越来越依赖经过剪辑的视频片段、截图、修改后的音频、翻译文本、网络迷因、合成媒体、网址链接、直播片段以及针对特定平台的重新发布策略。全球互联网反恐论坛在防止恐怖主义和暴力极端主义利用数字平台方面所开展的工作，仍然是至关重要的基础，但下一阶段应从简单的内容匹配转向兼顾隐私保护的指标共享。这意味着，在法律允许且存在监督机制的情况下，共享哈希值、网址链接、行为信号、媒体指纹、对抗性修改样本、危机响应包以及内容来源指标。这也意味着需要提高透明度、审计机制、申诉救济渠道以及公民社会的参与机会，从而确保反恐系统不会过度删除合法言论。 加强合作框架：尽管西方政府与科技公司之间已经存在部分合作纽带，但这些合作关系应进一步完善，以更好地应对迅速变化的反恐环境。在政府与企业之间建立明确的法律授权，并实现接触和协作协议的标准化，将有助于以更加灵活的方式应对跨国威胁。 基于技术的恐怖主义基础设施具有分散化和跨国化特征，其信息和系统通过多个国家进行传输，并可被全球用户访问。当前的框架无法匹配网络重新形成以及数字信息出现和消失的速度，而实现这些框架的标准化将有助于更快作出反应。在政府之间，以及企业与政府之间建立常设机制，将比目前依赖临时协调来共享威胁指标以及新兴战术、技术和程序的拼凑式体系更具响应能力。 司法管辖权挑战、证据标准以及数据获取方式在不同国家之间往往存在差异。努力识别这些衔接缝隙，并建立机制以加强沟通和寻找解决方案，将有助于应对这些新兴趋势。成功并不意味着仅仅从某一个平台删除内容。这些努力必须针对整个数字生态系统，包括账户创建链条、镜像网络、支付渠道、翻译节点、档案存储库以及可信传播者。 利用人工智能对抗恐怖主义信息：与社交媒体提供商合作开发能够识别并删除网络恐怖主义内容的人工智能工具，可能有助于阻止极端主义信息接触易受影响人群。最新研究表明，人工智能能够有效识别支持网络激进化的内容，而欧盟开展的一项研究发现，人工智能工具显著提升了执法部门识别网络激进化迹象的能力。 元公司已经开发出一种人工智能工具，能够识别互联网中的仇恨视频，从而帮助其他组织提升监测激进化威胁的能力。自该工具推出以来，元公司报告称其平台上的网络仇恨言论数量显著下降。这些成功案例以及相关学术研究表明，扩大人工智能在识别网络恐怖主义招募迹象以及删除相关内容方面的应用，是防止个人接触为暴力行为辩护的信息的有效方式。由于相关基础设施已经存在，建立政府与私营企业共同开发潜在情景的机会，可能有助于寻找利用人工智能应对未来激进化内容的方法。 从内容删除转向网络破坏：删除内容能够减少危害，但这不能成为全部策略。恐怖分子是在一个网络体系中利用技术，因此任何回应措施都应瞄准这一网络的连接结构。恐怖分子利用资金流动、域名基础设施、云服务滥用、采购渠道、翻译节点、内容转发网络、意见领袖桥梁以及跨平台迁移模式。金融情报和制裁工具应与网络破坏行动更加紧密结合，尤其是在附属组织或支持者利用加密货币、众筹、电商平台或非正式价值转移系统的情况下。开源情报应支持这项工作，但分析人员必须依据法律标准验证开源发现。在最佳模式下，情报机构、执法部门、发展机构以及社区预防组织应作为相互独立但协调一致的行动线开展工作，各自拥有不同的权限和保障机制。 阻止青年参与：包括澳大利亚以及近期的巴西在内的多个国家，已经建立法律框架以防止未成年人使用社交媒体。此类法律工具能够帮助阻止易受影响的青少年接触恐怖主义内容，从而使他们更难在网络环境中被激进化。这些年龄限制门槛还有助于阻止某些虽然在技术上合法、但对青少年有害的行为，例如参与边缘网络社群或接触暴力及恐怖主义前导内容。通过借鉴那些成功禁止青少年使用社交媒体国家的经验，其他国家也可以制定类似法律，在保护成年人公民自由的同时保护青少年。 维护权利与言论自由：在实施上述任何解决方案时，美国及其盟友都应谨慎避免损害公民自由、言论表达自由或合法政治言论。恐怖主义行为体往往有意在旨在保护言论自由的传统法律门槛之下活动，并利用这些空隙。为了成功应对此类网络内容，我们必须明确界定最有可能导致激进化的内容类型，澄清围绕内容删除的法律授权，并建立一个共同且清晰的定义，用于指导网络反恐工作的具体实施。
|
