随着中国政府推动国民接受人工智能，它正面临着一个部分由自身造成的问题：对这项技术的过度依赖。
官方媒体的报道刊登了一些警示案例：一名农民在向人工智能寻求建议后损失了150亩的幼苗；孩子们对聊天机器人过于依恋，甚至希望父母也像机器人那样说话；还有人工智能生成的短剧，其中的角色看起来几乎如出一辙。
这些案例及其他类似情况在中国引发了担忧，当中国争分夺秒地追赶美国在人工智能领域的步伐时，也遭遇了这项新技术带来的负面影响，人工智能技术被指责破坏人际关系并剥夺人们的判断力。为引导民众正确使用这项技术，政府已针对其使用及滥用行为出台了新的法规和司法指导方针。
分析人士指出，这样的回应反映出，执政的共产党正试图在推动人工智能广泛应用的雄心与避免可能破坏社会秩序的因素之间取得平衡。
卡内基国际和平基金会中国人工智能倡议研究员兼联合主任史考特·辛格表示，中共“认识到这项技术发展得越快，他们就越需要应对更多的社会挑战”。“中共特别关注的是那些他们认为技术进步可能从根本上破坏社会稳定的领域。”
辛格表示，随着人工智能威胁取代劳动者，中共不仅对人际关系受到的冲击特别敏感，而且对就业市场受到的破坏也特别敏感。
9月在北京举行的PT博览会上展出的类人伴侣机器人。随着中国面临历史最低出生率的困境，虚拟伴侣应用的兴起引发了人们对人工智能可能取代人际关系的担忧。 KEVIN FRAYER/GETTY IMAGES
中国民众也普遍担心人工智能被过度使用，他们认为该技术的普及不可避免，但同时也对其效益存疑，并对它无处不在的现象感到厌倦。
谢彤（音）是北京一家咨询公司的平面设计师，她在自己的工作中使用人工智能，已经无法想象没有它的生活。但对于身边随处可见的人工智能——无论是通勤途中看到的地铁广告，还是工作中那些显然依赖人工智能的承包商的作品——她感到绝望。
“就有点像那种你跟一个人结婚，你边骂他，但是你又离不了他那种感觉，”她说。
对虚拟朋友的限制
有一段时间，中国对人工智能的推动引发了虚拟伴侣应用软件的繁荣，其中包括提供恋爱伴侣、个人导师和家庭成员人工智能化身的应用。
在一个正面临人口减少和历史最低出生率困境的国家，这种泛滥引发了北京对人工智能取代人际关系的担忧。官方媒体援引专家的话称，人们可能很快就会发现，难以应对现实中的社交互动。报道引用了中国青少年研究中心2025年对8500多名未成年人进行的一项调查，结果显示，超过20%的受访者“只想和AI聊天，不想和真人聊天”。
这反映了一些父母的担忧，比如杭州的全职妈妈维维安·吕（音），两年前，她让五岁的女儿波莉开始使用豆包——一款由TikTok母公司字节跳动开发的人工智能助手。
今年2月，在北京首都国际机场，一则宣传字节跳动人工智能工具的广告。中国政府如今要求，若用户对人工智能伴侣表现出不健康的依赖，相关平台必须予以干预。 ADEK BERRY/AGENCE FRANCE-PRESSE — GETTY IMAGES
很快，孩子几乎每天都在该应用上与人工智能和个性化伴侣聊天。起初，维维安·吕认为当她需要料理家务时，人工智能可以让波莉解闷。“那没得选择情况下就是我给一个豆包，”她说。
然而，随着时间的推移，波莉开始主动要求使用豆包，而不是去从事她以前感兴趣的活动，比如和其他孩子玩耍或画画。维维安·吕表示，她担心聊天机器人会扭曲女儿对人际关系运行方式的理解，她说，波莉有时以一种“完全以她自我为中心、想怎么样就怎么样的方式”与豆包交谈。
今年7月，政府对人工智能伴侣施加限制，要求平台在用户表现出不健康依赖时予以干预。根据新规，如果用户表现出自残迹象，平台必须进行干预。
规则还禁止聊天机器人与未成年人建立虚拟恋爱关系，这迫使字节跳动关闭了豆包上允许用户创建虚拟伴侣的功能。
维维安·吕说，波莉现在无法再使用她个性化的人工智能伴侣，但她仍在与豆包的人工智能聊天机器人对话。她曾考虑禁止女儿使用聊天机器人，但最终得出结论，这样做可能会使波莉长大后更难适应这项技术。因此，维维安·吕将波莉使用聊天机器人的时间限制在每天一小时。
“我比较希望从小时候就让她能感受到，就是说这些电子产品，或者说你所有的AI这些东西只是一个工具，”维维安·吕说。
现实世界的问题
和许多国家一样，中国也在应对所谓的“人工智能素养”问题，也就是理解这项技术的工作原理及其局限性。近几个月来，媒体报道了越来越多因盲目相信该技术而引发的人工智能事故。
今年8月，一名徒步旅行者因遵循人工智能生成的指南而装备不足，被困在山顶。今年夏天早些时候，还发生了多起因食用被人工智能误识的毒蘑菇而致病的情况，其中一名九岁男孩在医院住院八天。
最受关注的案例之一发生在东部的安徽省，由于遵循人工智能助手制定的农药施用方案，一名农民7月损失了150亩的芝麻幼苗。
报道称，这位67岁的农民（报道中仅透露其姓氏为吴）在人工智能推荐了一种后来被证明不适用的除草剂后，损失了价值15万元人民币的农作物。
中共官方媒体《人民日报》在一篇评论文章中指出，农业等领域的人工智能应该只使用来自权威渠道的信息。
北京的一家咖啡馆里，一名用户通过中国科技公司百度开发的人工聊天机器人“万话”展示她的虚拟男友。 JADE GAO/AGENCE FRANCE-PRESSE — GETTY IMAGES
文章还呼吁对农民进行“对AI建议的批判性思维”的培训，“帮助农民从被动的技术执行者转变为能主动掌控工具的参与者”。
对廉价人工智能“饲料”的反感
人工智能在短剧中也变得无处不在，短剧是一种专为移动端观看而制作、极受欢迎的短篇肥皂剧。政府在9月下旬表示，今年前八个月在中国上映的43万部微短剧中，90%以上是由人工智能生成的。
这些短剧无需摄像机、制作人员或真人演员，几分钟内就能以低成本批量生产。但它们因质量低下以及抢走人类的工作受到抨击。
共青团官方出版物《北京青年报》8月的一篇文章抱怨称，制作公司正在批量生产由人工智能创作的短剧，其中角色单调乏味、千篇一律。
一些有影响力的人士甚至表示，他们将抵制完全由人工智能生成的短剧。
国有《环球时报》前总编辑胡锡进最近在社交媒体平台微博上向其2500万粉丝表示，他不会看这类短剧，以避免“拿廉价的AI饲料像喂猪一样填充我们的娱乐时间”。
