美国人工智能（AI）模型Claude开发商Anthropic发布长篇报告，详细披露月之暗面和深度求索（DeepSeek）等中国AI公司如何蒸馏美国模型，包括将疑似解放军、警察、国企用户的内部信息发给美国AI。 （路透社档案照片） 
美国人工智能（AI）模型Claude开发商Anthropic发布长篇报告，详细披露月之暗面和深度求索（DeepSeek）等中国AI公司如何蒸馏美国模型，包括将疑似解放军、警察、国企用户的内部信息发给美国AI。 Anthropic星期五（9月11日）发布迄今为止最详尽的威胁情报报告。这份报告涵盖了Claude如何被滥用于网络攻击、影响力行动、监控和制造武器等，以及Anthropic如何发现并阻止这些行为。 报告提到，开发Kimi系列模型的中国明星AI公司月之暗面，并没有使用Kimi模型处理客户请求，而是悄悄地将用户请求转发给Claude模型。月之暗面使用了一个由5380个欺诈账户组成的代理服务网络，今年5月至7月期间的蒸馏交互次数超过2300万次。用户以为自己使用的是Kimi模型，但实际上收到的是Claude模型的回复。 Anthropic称，月之暗面转接到Claude的用户查询中包含敏感信息。“我们尚不清楚月之暗面是否告知其客户，他们的请求将被转接到Anthropic并暴露给第三方。” 调查发现，这其中包括“与解放军有关联的监控活动”。 一名用户使用Kimi模型，从监控录像库中调取了针对特定目标人物的监控数据。这名用户要求Kimi分析这些监控数据，以判断被追踪者是否存在异常行为。这些监控数据包含来自成都市数百个摄像头的视频监控画面，其中包括驻军设施外、中国电子科技集团下属机构以及一家大型国有企业外的摄像头。 
一名就职于中国大型国有企业的工程师，也使用Kimi为公司构建内部系统。在完全不知道自己使用Kimi的行为会被转发给Claude的情况下，这名工程师泄露了多家中国大型企业的内部代码和有效凭证。 调查显示，DeepSeek也采用与月之暗面类似的策略，今年7月的14天内，来自DeepSeek的蒸馏攻击规模超过1210万次。 在DeepSeek的案例中，Anthropic披露，中国一地的公安局工程师在开发案件管理系统时使用DeepSeek，DeepSeek将这些请求转发给Claude。工程师随后开发出一个工具，利用公民的身份证号码，将个人的行踪与警方记录进行比对。 报告也披露了阿里巴巴、小米、智谱、商汤科技等中国科技公司的非法蒸馏行为。阿里巴巴被指发起是Anthropic迄今为止监测到的最大规模“蒸馏”。今年5月至7月期间，可归因于阿里巴巴的“蒸馏”规模超过1.51亿次。 Anthropic称，这些发现引发人们对中国AI实验室滥用用户数据的担忧。这些实验室将Claude的回复作为训练数据，其中一些对话包含敏感信息，包括来自个人用户、大型跨国公司以及与政府有关联实体的信息。这些会话包含数百名终端用户的姓名、电子邮件地址、公司数据和其他敏感数据，涉及至少十几种语言。此类做法很可能违反了隐私法律和这些实验室自身的服务条款。 报告同时提到，Anthropic还发现一些与中国政府有关联的用户行为，包括利用Claude追踪、分析叙利亚境内的维吾尔族人和维吾尔族武装组织，并招募其中能提供信息的人；对天主教、藏传佛教和台湾基督教社区的情报行动；利用Claude支持“维稳”监控和跨国镇压；将Claude作为自动化的“舆情监测”和情报分析系统等。
|
