设万维读者为首页 万维读者网 -- 全球华人的精神家园 广告服务 联系我们 关于万维
 
首  页 新  闻 视  频 博  客 论  坛 分类广告 购  物
搜索>> 发表日志 控制面板 个人相册 给我留言
帮助 退出
老高的博客  
你未必能看到很喜欢的观点,但一定会进入挑战性的视野。  
https://blog.creaders.net/u/3843/ > 复制 > 收藏本页
网络日志正文
假新闻:言论自由面临的新挑战和新考验 2021-05-12 11:21:57

  假新闻在近年爆发,有技术、心理、经济和政治社会学四方面原因。治理假新闻应从假新闻三个关键主体(制造者、消费者和传播者)入手,综合运用法律、技术、市场和规范手段,关键是改革以美国“230款”为代表的第一代互联网立法对平台责任的规定。
  打击假新闻与经典表达自由原则和理论间存在张力,治理假新闻需要一场表达自由的再平衡



  老高按:“假新闻”自古就有,但在交通、信息手段原始落后的年代里,其危害范围有限:一个谣言,十天半个月也跑不出三五十里地。“假新闻”是随着网络发展而加剧的公害,是随着移动通讯工具和社交媒体的兴旺而成为爆炸性灾难,当下人人深受其害,却人人束手无策,只能自求多福,甚至有人因无力或者无暇分辨真伪,便索性对新闻全部摒弃,声称“什么我都不信了”!
  也有很多人发狠:乱世要用重典!但是重典是把双刃剑,现代社会,各种价值追求交织在一起,利弊也错综复杂,更何况讲法治需要师出有名,找到制度根据。“假新闻”问题我曾经细想过,明白治理起来难度是何等之大!在“假新闻”盛行不可能短期内根本好转的情况下,我只能给自己订立几条原则防止受骗受害而已。
  今天读到中国大陆法学学者左亦鲁的长文《假新闻:是什么?为什么?怎么办?》,深受启发。这是我读到的最全面、最深刻地分析“假新闻”根源和难点的文章。在此与大家分享。


  假新闻:是什么?为什么?怎么办?

  左亦鲁,爱思想网

  左亦鲁,教育部人文社科重点研究基地北京大学宪法与行政法研究中心研究员,北京大学法学院助理教授

  导论

  “假新闻”(fake news)是一个热词。近年来,在特朗普上台、英国脱欧、香港“修例风波”、新型冠状病毒肺炎疫情以及2020年美国总统大选等事件中,都能看到它的身影。当人们谈论假新闻时,他们指的是什么?假新闻与传统的谣言有什么不同?它为何会在近年——特别是2016年前后——突然爆发?对于假新闻,是否存在有效的规制手段?治理假新闻的难点和痛点又在哪里?本文试图对这些问题做一初步回答。
  首先对假新闻进行概念上的限定。本文所讨论的“假新闻”,包含以下三个特征:
  第一,假新闻应聚焦存在主观故意的假信息。假新闻涉及的信息可以被分为“假信息”(disinformation)和“错信息”(misinformation)。两者的区别在于前者存在主观故意,后者则指因疏忽或过失导致的不准确信息。有观点认为两种均应被纳入假新闻,但也有观点认为只有“假信息”才属于“假新闻”的范畴。本文采取后一种立场,认为对假新闻的讨论应针对假信息。
  第二,讨论假新闻的主要语境是互联网。假新闻并不是全新事物,自古以来各类谣言、19世纪末的“黄色新闻”(yellow journalism)、街头小报上充斥的“垃圾新闻”(junk news)和“伪新闻”(pseudo-news)均可视为其前身。但本文并不是针对谣言的综述或历史研究,而是关注假新闻为何会在近年突然爆发。换言之,本文锁定的是互联网、社交媒体、人工智能和大数据等新兴技术背景下的这波假新闻爆发。
  第三,鼓动(propaganda)应被纳入讨论。按照传统新闻传播学的观点,传统新闻伦理强调客观、中立和基于事实的报道,“鼓动”却主观和立场鲜明。目前不少研究已将“鼓动”划归为假新闻,甚至有观点将“鼓动”等同于假新闻。本文并不认为鼓动就是假新闻,但在对假新闻的讨论中,鼓动应被纳入其中:一是因为给对方的鼓动扣上“假新闻”的帽子,已成为一种非常普遍的话语。换言之,“鼓动”已经构成了今天围绕假新闻种种话语中不可分割的部分。二是在传统媒体衰落、新媒体和自媒体崛起的今天,客观报道与主观评论、新闻与鼓动,两者间的界限已经十分模糊。姑且不论是否可欲,强行区分两者在现实中已变得不太可行。

  一、为什么:假新闻的技术、商业、心理和政治社会学基础

  (一)技术原因:深假技术和网状造假
  互联网、人工智能和大数据等新技术是假新闻近年泛滥的一个重要原因。其中最突出的莫过于深假技术(deep-fake)和网状造假,它们从制作和传播两方面极大地提升了假新闻的欺骗性。
  从制作上看,传统造假主要依靠文字,即便有时辅以造假的图片,也多以静态为主。但近年各种深假技术出现,其通过“换头术”、真声模拟等手段,使假新闻以视频和音频等动态方式呈现,而音频和视频明显比文字和静态图片更具欺骗性。过去制作一则政治谣言只能通过“编故事”,但编一个“好故事”并不容易。而且由于文字造假门槛极低,人们对文字信息的信任度也相应降低。因此即使编出了“好故事”,也不是那么容易骗到人。但如果假新闻是基于公众人物某段真实讲话或会议视频,再通过深假技术合成高度逼真的画面和声音,欺骗性就会大不一样。如果再考虑到公众人物已经有大量视频和音频流传在网上,以这些资料为语料库进行模拟和机器学习,会让假新闻不仅在声音和图像上接近,甚至连语法、措辞和表达习惯都跟真人更像。对一般人来说,识破这种动态画面和声音结合的深假新闻难度是非常大的。

  更进一步,“深假”技术并不满足于制造一个孤立的假新闻,而是编织一张巨大的假新闻网络。这些年经过各种假消息和“剧情反转”,网民对于初级假新闻已经拥有一些基本的警惕。在日常对话中,人们常会说“网上说如何如何”。在一定程度上,这表明网民已经把“网上”标记为一个独特的类别,它除了代表消息的来源,也隐含着对此类消息可信度相对较低的一个判断。换言之,“网上”的消息应与传统媒体的新闻区别对待。我们可以称之为“最低限度的怀疑主义”。在这种“最低限度的怀疑主义”之下,当面对来自网络的消息时,至少部分人会去对真实性——比如涉及的人物和事件,引用的文章、报道和数据等——做一些最简单的核实。
  但新一代假新闻的可怕之处就在于:它除了制造一个“点”,更会同时编织一张“网”。除了编造作为“原点”的那条假消息,它还会制造一系列相互佐证的“假证据”。为了抹黑甲,假新闻会说甲之前就有一系列不良记录曾被媒体报道过,造假者会附上已经做好的假网站和假报道的链接,或声称自己的假消息是来自某外国媒体,而内容、语言、版式都已经做好的假网站或“截图”早在那里等待人们去“检验”。同时,大量水军和机器人(bot)会去转发、评论这些辅助性的假报道、假网站和假证据,进一步增加可信度和覆盖面。
  将制作和传播结合起来,种种“深假”技术首先让作为“点”的假新闻变得前所未有的真。在接下来的传播过程中,之前的“点”会变成“网状”的假新闻。这个织网的过程并非简单只是覆盖面的扩大,而是通过各种假证据、假链接、假转发和假评论带来可信度的增加。因此,新技术对假新闻的帮助不只体现在网越织越大,更是网越织越密。

  (二)心理和认知原因:从个体到群体
  假新闻在近年爆发的另一原因来自心理和认知。现有大量心理学和社会学研究表明,虚假、误导、偏激的信息更容易在人群和网络世界传播。
  从个体的角度,锚定效应(anchoring)表明最早接触的信息会对人们的判断造成极大影响,即使后面出现新信息也很难让人做出改变和调整。这意味着如果人们一开始接触的信息就是假新闻,那么这种“第一印象”和“先入为主”很难被扭转。因此,即便后续辟谣,也很难产生效果。而且对一般公众来说,点开一篇标题耸动、立场鲜明甚至偏激的假新闻的几率,要远大于点开一篇客观专业、基于事实的报道。在理论上,真新闻和假新闻具有相同的锚定效应,但若加入假新闻更容易被人点开和阅读这一因素,这意味着在现实中,假新闻沉下去的“锚”会比真新闻多很多。
  如果说锚定效应至少假设个体是“一张白纸”,那么“偏颇吸收”(biased assimilation)则表明人们倾向于寻找和接受那些符合自己已有信念和偏见的信息。换言之,部分人群在接受假新闻时,可能并不是那么“无辜”;相反,他们选择相信和传播假新闻,是因为他们之前的信念和偏见本就倾向于假新闻背后的立场或结论。已有立场和偏见对认知的影响不只出现在信息接收的初始阶段,它们同样会影响人们对新证据或反驳的解读和接受。根据“确认偏误”(confirmation bias),人们会根据已有信念选择性地解读新证据。换言之,“确认偏误”告诉我们:即使出现针对假新闻的辟谣,相当部分的人会选择忽略与自己立场相左的证据,或者用一种有利于自己的方式去“解读”这些证据。在治理假新闻时,我们常能听到“辟谣没有用”的抱怨,确认偏误就是导致辟谣失灵的主要原因之一。
  从个体上升到群体,上述倾向则表现为社会流瀑(social cascades)、回音室效应(the echo chamber effect)、信息茧房(information cocoons)和群体极化(group polarization)。锚定效应和偏颇吸收解释了个体为何更容易相信假新闻,社会流瀑则告诉我们“一传十,十传百”:当看到越来越多的人相信某条消息时,人们也会倾向于接受。同时,“物以类聚,人以群分”,人们总会有意识或无意识地跟自己立场接近的人交往。因此,无论是现实世界交往还是虚拟世界朋友圈和微博关注,人们多会身处立场和自己接近的声音中,由此就形成了一个“回音室”和“信息茧房”。身处其中,人们只会接触到内容、立场相似的信息——如果一开始进入“回音室”的就是假新闻,那么人们只会看到类似的信息不断重复和强化,另一方的声音或“辟谣”很难进入。在“回音室”和“信息茧房”中待久了,群体极化就会出现——本就具有相同立场的人会整体变得更加极端。这又会导致新一轮的恶性循环,群体极化使得某一群体在面对符合其已有信念和立场的假新闻时,会更容易接受和去传播,这也使辟谣和纠错变得更加困难。
  但人的认知水平长期以来一直如此,为何假新闻在近年愈演愈烈?一个重要的变量是互联网的出现。这也是本文为何强调对这一轮假新闻爆发的研究必须置于互联网语境下。除了加速假新闻的扩散,桑斯坦等学者的研究表明,互联网的高度订制化和个人化使信息茧房和群体极化变得更加严重。新近出现的算法推荐和大数据分析等技术和商业模式则会进一步强化这种趋势。在前网络时代,人们会在街头、书店、报刊亭和电视上“不期而遇”很多不同声音,这多少会有助于人们减少偏见,兼听则明。但互联网在使人们接触的信息更加“精准”和“个性化”时,却也可能让他们变得更加狭隘和偏激。

  (三)经济和商业原因:“大交易”和流量经济
  假新闻泛滥的第三个原因是:基于经济和商业上的理由,社交媒体和平台缺乏足够激励规制自身平台上的假新闻。其背后的商业模式和逻辑可概括为社交媒体时代的“大交易”(the Grand Bargain)。换一个更通俗的说法,就是流量至上和注意力经济。
  社交媒体和平台在今天人们生活中的重要性无需多言。无论是获取资讯还是公共讨论,人们都越来越依赖脸书、推特、微博、微信、抖音等社交媒体和平台。如果说过去人们主要从《纽约时报》、CNN、《人民日报》和新闻联播获取新闻,现在则是脸书、微信群、朋友圈和微博。无论从职业伦理还是商业模式,传统少对多(few-to-many)媒体都有相对多的激励和约束去提高自己内容的可信度和质量。
  但在现有商业模式下,多对多(many-to-many)的社交媒体和平台却缺乏激励去治理假新闻。在一定意义上,假新闻甚至是受鼓励的。因为与需要订阅和付费的传统媒体相比,社交媒体和平台多以免费的面貌出现。但“免费”背后真正的逻辑是:用户免费使用社交媒体和平台,付出的“对价”则是为平台带来流量以及更重要的——数据。流量、日活跃用户数(DAU)等概念最直接地体现了“大交易”的内核——更多的流量和日活就等于更多的广告和收入,而用户在社交媒体和平台上留下的海量个人数据则具有虽不那么直接但却更惊人的商业潜力。首先,通过对数据的收集、分析和挖掘,商业巨头可以对用户画像,根据不同偏好生产和推荐更有针对性的广告。这些更能满足用户需求的内容,反过来又会带来更多的流量、广告、收入和留下更多的数据。其次,数据作为一种资产,拥有更直接也更巨大的价值潜力。以“剑桥数据”为代表的把数据卖给第三方的做法,只是拿数据赚钱最简单粗暴的一种方式。商业巨头目前可能还没有(或不敢)直接针对自己掌握的海量数据进行商业开发。但所有人都知道,在数字经济下,数据就是“新石油”。因此,拼命吸引流量和疯狂囤积数据就成了最理性和普遍的做法。
  “大交易”对假新闻泛滥的助推则体现在既然更多的用户和流量意味着更多的收入,社交媒体和平台就会想尽一切办法去吸引用户和流量。事实表明,假新闻、“标题党”、争议性和极端话题是“眼球经济”和“注意力经济”下最有效吸引用户和流量的方式之一。2019年初,由咪蒙旗下“才华有限青年”出品的《出身寒门状元之死》(以下简称《状元》)一文引发的巨大争议(和流量),就是“大交易”最好的例子之一。《状元》一文引发的事件可能最生动地刻画了社交媒体和平台今天的生态和商业模式。对它们而言,内容是否真实可能并不是那么重要。甚至在一定程度上,恰恰是这种具有高度争议的“标题党”和假新闻才能带来如此巨大的流量,一篇严谨、扎实的新闻报道是很难做到的。在“大交易”和流量经济之下,社交媒体和平台至少缺乏足够的激励去限制和删除《状元》这样的假新闻,甚至还有可能默许和鼓励它们的出现。“咪蒙”和“才华有限青年”微博和公号被封只会让新媒体和平台去学习如何更高明地吸引流量而又不会招来“杀身之祸”,却不会改变他们对流量和注意力的追逐。

  (四)政治社会学原因:后真相时代和传统权力的衰落
  本节聚焦假新闻泛滥的政治社会学根源,同时也试图回答假新闻为何会在2016年前后——这样一个相对具体的时间点——集中爆发?
  如前所述,2016年美国总统大选和英国脱欧公投两大“黑天鹅事件”把“假新闻”带入了全球视野。借用福柯的概念,作为“物”的假新闻古已有之,但2016年让作为“词”的假新闻以前所未有的规模出现。当然,并不能就此认为2016年美国大选和英国脱欧是导致假新闻爆发的“因”;相反,这两个事件很可能和假新闻一样,也是某种原因的“果”。
  在讨论假新闻时,“后真相”(post-truth)这一概念往往会同时出现。《牛津字典》在2016年——即特朗普当选美国总统和英国脱欧公投的同年——将“后真相”选为年度词汇。在西方颇具影响的慕尼黑安全峰会(Munich Security Conference)也将“后真相”作为2017年年初报告的三个主题之一。所谓“后真相”是指:“事实”和“真相”正变得越来越不受重视或难以获得;伴随这一趋势,政治文化和公共讨论越来越倾向于诉诸情感、偏见等非理性维度。“后真相”这一概念可为我们理解假新闻兴起提供一个政治社会学的视角。
  真相和真理往往与权力联系在一起。简单来说,政治和知识上拥有权力和权威的人,通常可以定义和代表真理和真相;反过来,对真理和真相的发现和定义又会进一步增强他们的权力和权威。美国最高法院杰克逊大法官“我们是终审法院不是因为我们不犯错,我们不犯错是因为我们是终审法院”就是这种关系的典型体现。
  在“后真相”时代出现前,政府、传统媒体以及专业人士和机构都是这种权力的代表。当他们的权力稳固时,所谓真相和真理也相对确定。在有关假新闻的讨论中,假新闻的首要危害被认为是对专业声音、权威机构和客观事实造成伤害,从而使整个社会基于共同认可的事实进行理性对话变得不再可能。的确,假新闻会伤害那些代表了“真”的机构;但假新闻之所以会在某一时期大量出现,恰恰说明这些机构和权力已经开始动摇。回想新型冠状病毒肺炎疫情爆发初期,之所以有那么多谣言和真假不明的消息传播,一个重要原因是这种级别的重大突发事件会造成短时间内政治、专业和媒体等传统权威集体失灵,而这种真空则为假新闻的生长提供了土壤。

  因此,“后真相”时代的到来和假新闻近年的兴起,背后的政治社会学原因是全球范围内传统权力和秩序的动摇。其中最突出的,就是二战后美国和西方主导的世界秩序从国家到国际层面的动摇。首先是美国国内,如一些学者所分析的,2016年特朗普当选(以及桑德斯在左翼阵营的崛起),都反映了自里根时期奠定的美国政治基本结构和力量对比正处于从衰败到新生的转型期。以两党建制派和传统主流媒体为代表的旧权力格局已经衰落,而新的还尚未建立。这种真空和混乱不仅导致特朗普当选,也使来自国内和国外(即所谓俄罗斯干预大选)的假新闻得以“趁虚而入”。同样,英国脱欧公投前后假新闻的泛滥则是英国国内政治和战后国际秩序——特别是欧洲一体化和全球化进程——动摇的反映。迈克尔·曼在《社会权力的来源》中,将资本主义、民族国家体系和美国领导的国际体系视为战后全球秩序的三大支柱。特朗普当选和英国脱欧至少部分反映,这三大支柱都出现了不同程度的问题。前文提到的慕尼黑安全峰会在“后真相”之外,还选择“后西方”(post-west)和“后秩序”(post-order)作为其2017年度报告的主题词,更清楚地展现了假新闻与传统权力和秩序衰落间的联系。
  除了政治权力,同样衰落的还包括传统媒体。如上一节分析的,相比新媒体,报纸和电视等传统媒体因人员素质、职业伦理和制度激励等因素,的确更可能产出更客观、专业的报道。但问题在于,年轻一代已经很少从这些传统平台和渠道获取新闻和信息。单纯批评年轻人不愿意从相对可靠渠道获取信息并不是很有建设性,传统媒体同样应该反思。仍以2016年特朗普当选和英国脱欧为例,主流媒体和民意调查机构事前几乎统统预判错误,这多少从侧面说明他们已经失去了对受众立场和偏好的把握。
  综上,这一轮假新闻爆发的政治社会学原因是:我们正身处一个传统权力和秩序急剧变化和调整的时代,他们曾拥有的定义和代表“真”的权力和权威也随之动摇和衰落。这一真空短时间内又无法被填上,由此形成了一个黑洞——能够提供和背书真相和真理的权威缺失,导致假新闻的出现;而假新闻的进一步泛滥,又让人感觉真相和真理已经不可求或不重要,“后真相”的症状进一步加剧。在如何治理假新闻的讨论中,很多建议指向重建和设立具有可信度和权威的机构——比如专门的事实核查机构。但若放在“后真相”这个背景下,需要重建或新建的可能不是一两个具体的机构,而是迈克尔·曼意义上秩序的重建与新生。

  二、怎么办:假新闻的制造、消费和传播者

  在分析了假新闻的成因后,本节将转向讨论怎么办——如何治理假新闻。本节的分析将围绕假新闻生命周期和传播链条中三个关键主体展开:制造者(记者、媒体、自媒体等)、传播者(报纸电视等传统媒体、社交媒体、搜索引擎等数字平台)、消费者(普通民众)。

  (一)假新闻的源头——制造者
  制造者是整个假新闻生命周期的源头。从理论上讲,从源头上遏制假新闻是最理想的,但在现实中却可能也最困难。按照本文开头的定义,“假新闻”主要是指存在主观故意的假信息而非错信息。既然存在主观故意,这意味着假新闻制造者是有意为之。这些故意制造假新闻的人,除了有意识地实现某种精准或模糊的目的外,同样也会有意识地隐藏身份和避免追责。
  从源头打击假新闻的困难是与归属(attribution)难题联系在一起的。归属一直被视为网络安全的头号难题。不仅仅是网络安全,治理假新闻也是如此。在关于俄罗斯军事和情报机构是否干预美国大选的争论中,难点恰恰是:首先,就像当年爱沙尼亚网络攻击事件所体现的,在网络空间很难清楚证明攻击或假新闻就是来自某国,掩盖痕迹或嫁祸别人,本就是网络战的基本操作。其次,即使有确凿证据表明假新闻源自某地,传统规制手段往往鞭长莫及。在有关假新闻的讨论中,“马其顿青少年”(Macedonian teenagers)已成为一个专有名词。据称,美国2006年大选中的大量假新闻,就是来自以韦莱斯(Veles)为代表的马其顿小城的青少年,他们以非常“低廉”的价格制造和传播各种假新闻。且不说外国专业的军情和网络战机构,在治理假新闻时,一国政府在应对“马其顿青少年”时所能采取的措施也相当有限。把目光从国外切换到国内,情况也只能得到有限的改善。在国内定位假新闻源头,多少会比追踪到国外要容易,但仍然难免大海捞针。在一定程度上,国外假新闻制造者虽距离遥远,但源头相对单一或集中,而国内的假新闻制造者则很可能更加分散和去中心化,这反而又会增加定位的难度。此外,规制国内的假新闻制造者,平衡打击假新闻和公民权利保护的的成本和敏感性也会显著增加。
  上述是从反面——限制假新闻制造者——出发提出的建议,另一种思路则是从正面——增加和扶持真新闻——入手。一些学者提出应建立新闻源“白名单”制度,即只有来自可信或被认可作者、机构和源头的信息才可以作为“新闻”发布。在西方,新闻白名单制度是应对日益泛滥假新闻的非常之举。但对中国公众来说,这一制度其实并不陌生。在一定程度上,根据《互联网信息服务管理办法》《互联网新闻信息服务管理规定》《微博客信息服务管理规定》《互联网用户公众账号信息服务管理规定》和《互联网新闻信息服务许可管理实施细则》,中国互联网新闻管理所采取的许可制就是“白名单”。根据上述规定,通过互联网站、应用程序、论坛、博客、微博客、公众账号、即时通信工具、网络直播等形式向社会公众提供互联网新闻信息服务,应当取得互联网新闻信息服务许可。对于何种主体可以申请,则存在一系列要求。但“白名单”存在的问题也相对明显:即使“白名单”可以垄断对“新闻”的供给,但却无法垄断对“信息”的供给。换言之,哪怕“白名单”让“新闻”都变成了真的,但谣言和假消息仍然会以评论、即时通信等形式迂回出现。

  (二)假新闻的末端——公众
  如果说制造者是假新闻的“头”,那么消费者——也就是公众——就是“尾”。在整个假新闻链条中,内容消费和接收者又可再细分为两类:在第一种情况下,甲只是阅读一篇假新闻而没有转发等行为。那么无论其是否相信,至少这条假新闻的传播在甲这里形成了闭环。在第二种情况下,如果甲选择转发或分享,那么其又以某种方式参与了假新闻的传播。在后一种情境中,甲的作用变得更加积极和复杂。在一定程度上,转发行为使其从纯粹消极的消费者变成了更加积极主动的转播者。
  从末端治理假新闻,困难尤其在于如何对上述第二种情况——消费者参与转发——进行规制。此处的关键是对参与了传播的消费者进一步区分。中国法律在这方面其实已经进行了某些探索。一个可参考的路径是最高院、最高检《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》(以下简称“两高”解释)的思路。除了惩罚诽谤内容的制造者,“两高”解释也规定了“转发者”和“分享者”的责任,并在一定程度上做出了区分:“明知是捏造的损害他人名誉的事实,在信息网络上散布,情节恶劣的,以‘捏造事实诽谤他人’论。”简言之,“两高”解释认为在“情节恶劣”时,转发者和分享者可以比照制造者处理。值得注意的是,这里的“情节恶劣”是独立于《刑法》第246条和上述司法解释第2条所列举的四种“情节严重”之外的多一层要求。换言之,对转发者来说,他转发的内容除了需要满足“浏览5000次或转发500次以上”等四种“情节严重”情形之一,还需要再有其他“情节恶劣”的因素。
  借鉴这种思路,对于“情节恶劣”的转发型消费者,也可以比照假新闻制造者惩罚。但这仍存不小的困难:首先,是如何设计“情节恶劣”的标准。标准过高会使法律形同虚设,标准过低则会对信息传播和公共讨论产生寒蝉效应。其次,则是如何处理那些“情节轻微”的转发者。一方面,他们行为的危害的确没有达到“恶劣”的地步;但另一方面,他们的转发也的确促进了假新闻的传播和再生产。在一定程度上,这些“情节轻微”的转发者——而非那些“情节恶劣”的转发者——才构成了假新闻传播中的绝大多数。
  治理“情节轻微”的转发者,可能需要借助法律之外的技术手段。不少假新闻都存在“标题党”的特征,而多数网民往往看完标题或开头就“随手”转发。一个简单的技术改进是稍微增加转发的成本。例如,可以要求平台或app提供如下功能:读者在内容页至少停留一定时间,或至少把内容从头到尾过一遍后才可以进行转发。更严格一些的话,可以要求读者转发前必须输入验证码或回答问题。这种设计可以减少两种情况的出现:一是被“标题党”误导而导致的转发;二是提供一个简单的“冷静期”,通过为转发设置一些障碍,一些基于冲动的“随手转发”会因此冷却。但这种做法的困难不在于技术,而是经济。如前所述,平台之所以默许假新闻的泛滥,是因为“标题党”和假新闻能带来最多的流量。对平台来说,增加转发和分享的难度,就是减少自身流量和收入,而这违背了社交媒体时代“大交易”最根本的逻辑。
  此外,也有很多研究者提出教育公民的重要性,比如在中小学加入假新闻识别和批判性思维等课程。从长远来看,教育当然是有用的。年轻一代网民比他们的父母相对更容易辨别假新闻,其中一个原因就是他们在这方面比父母受到了更好的“教育”——虽然这种“教育”更多是源自对新技术和网络信息更早和更频繁的接触,而非学校和课程。但公民教育的问题也在于见效太慢,作为一种长期措施可以提倡,但中短期仍需另寻他法。

  (三)假新闻的传播者——平台
  鉴于治理“一头一尾”——制造者和消费者——均存在一定困难,治理假新闻的可能和压力就越来越集中在作为传播者的平台身上。这也是传统法律规制最有可能发挥作用的地方。
  目前在治理假新闻的问题上,总的趋势是越来越多人呼吁改变法律对平台的“优待”或“豁免”,要求平台承担更多、更积极的责任。这方面最典型的莫过于近年围绕美国《1996年传播风化法》(The Communications Decency Actof1996,以下简称CDA)第230款产生的争论。作为《1996年电信法》(Telecommunications Actof1996)的一部分,CDA代表着人类规制互联网最早、最系统的尝试。后来绝大多数国家在设计自己有关平台责任和内容规制的法律时,都或多或少借鉴了CDA。因此,反思CDA绝不是一个简单的美国法问题,而是代表着人们对以CDA为代表的第一代互联网立法的反思与批判。
  CDA最初目的是限制网上某类内容的传播,某些条款因此被美国最高法院推翻。但具体到CDA第230款,它逐渐变成了鼓励互联网自由发展以及豁免平台法律责任的代表。CDA第230款(c)(1)规定:“交互式计算机服务的提供者或用户,不应被视为其他信息内容提供者所提供信息的发布者(publisher)或发言者(speaker)。”如果说(c)(1)是对平台身份的认定,(c)(2)直接是对平台责任的免除:“无论该材料是否受到宪法保护,交互式计算机服务的提供者和用户自愿出于善意采取行动,限制接触淫秽、低俗、猥亵、粗鄙、过度暴力、使人不安或其他令人无法接受的材料时,不应承担责任。”
  长期以来,(c)(1)和(c)(2)的结合为平台提供了强大的保护。电子前线基金会(EFF)更是将CDA第230款称为“保护互联网言论最重要的法律”。传统上,美国法律规制媒体和平台时存在两种模式:一是报纸模式,二是广播模式。前者把平台视为“发言者”(speaker),发布在平台上的言论等同于是平台自己说的“话”;后者则把平台视为“接收新闻、评论和广告的消极的容器或渠道”, 平台上的内容是别人说的“话”,平台只是负责传播这些声音。从权利和义务对等的角度看,报纸模式和广播模式是大致公平的:报纸虽然获得了“发言者”的地位,可以对内容进行更多的编辑,但也因此需要为自己发布的言论承担责任;广播没有被认定为“发言者”,因此不能对内容进行编辑(而只能客观、忠实地呈现),但也无须为发布内容承担太多责任。
  CDA第230款相当于赋予平台一个“加强版”的广播模式。(c)(1)的作用是把网络平台认定成媒介、容器和渠道——而非“发言者”或“出版者”。这接近红狮案对广播身份的定性。(c)(2)则意味着,网络平台同时拥有相当的权力去对内容进行编辑或规制,而这通常是属于报纸的权力。两者相加,网络平台既拥有编辑和规制内容的权力/权利,却又不用承担因获得“发言者”或“言论”身份而附加的责任。
  但这种“优待”却十分不利于激励平台规制假新闻。首先,当平台不想管假新闻时,他们完全可以援引(c)(1)主张自己不是假新闻的发言者或发布者,从而不用为假新闻承担责任;其次,(c)(2)原意是鼓励平台放手去管理内容,但这种激励却只局限于淫秽和低俗类内容。而在治理假新闻时,假新闻多涉及政治和公共议题,无疑比淫秽和低俗内容更接近表达自由“中心”,因此也更敏感和棘手。缺少“免责金牌”的平台很可能会因害怕惹上言论自由争议而对打击假新闻望而却步。
  如果说CDA主要给了平台“不当发言者”的好处,与算法规制有关的一系列判例又让平台享受了“当发言者”的好处。在抵制对自己算法进行规制时,平台最常主张的就是算法是他们的“言论”,平台对内容的选择、呈现和编辑就相当于算法在“说话”。照此逻辑,对算法和平台的规制都是在干涉他们的“言论自由”。目前已有的全部判决,都支持了算法和平台的这种主张。把算法的言论自由主张和CDA第230款放在一起会发现,平台把两头好处都占尽:当它想主张自己是“发言者”时(抵制算法规制),它就可以享受“发言者”的好处;当它不想为平台上内容承担责任,就可以获得豁免。
  在上述法律框架下,从平台入手治理假新闻就变得十分困难。一方面,以CDA为代表的法律相当于平台防御性的“盾”——它可以为平台的不作为辩护,平台可以声称自己不是假新闻的发布者,除传统的“通知—删除责任”外,无须承担更多义务;另一方面,算法的言论自由主张则是平台攻击性的“矛”——当平台对假新闻有更多认同甚至参与时,他们可以主张对内容的选择、编辑和呈现是平台的“言论自由”,法律无权对此进行干涉。
  伴随着平台角色和重要性的不断变化,要求收回平台特权或“免责金牌”的呼声日益强烈。修改甚至废止CDA第230款就成为了很多改革的主要目标。如《金融时报》所言,“如今,大科技公司不仅具有煽起仇恨言论和假新闻火焰的威力,也同样有能力随时随地清除这些东西,有鉴于此,今天的互联网显然是一个在根本上与1996年不同的世界,它需要在根本上不同的规则。”在学界和新闻界之外,美国民主党参议员克莱尔·麦卡斯基尔(Claire Mc Caskill)和共和党参议员罗布·波特曼(Rob Portman)领导的两党参议员小组已提交一项法案,要求对CDA第230款进行修改。特朗普因一条推特被贴上“事实核查”标签而号召“废除230!(REVOKE230!)”, 以及脸书、推特等社交媒体对特朗普“封号”所引发的争议,则是火力越来越集中在CDA和平台的最佳例证。
  但改革也并不容易。长期以来,以CDA第230款为代表的传统法律框架,都因其“松绑”和“减负”,极大地促进了技术、商业模式创新和权利保护,被认为构成了过去三十多年互联网飞速发展的基石。现在要改变这一规制平台责任的传统框架,真正的难点除了技术和设计层面,还体现为理念上转弯的困难——各方对平台应扮演何种角色以及承担什么责任存在根本分歧。目前花样繁多的对平台的称呼——公司城(company town)、广播者(broadcaster)、编辑(editor)、新总督(new governor)和受托者(fiduciary)等——同样反映了对各方平台认识的混乱。在此意义上,无论是假新闻治理还是电商“平台责任”,是知识产权保护中的“安全港”原则还是整个网络内容规制,其实都是一个问题的不同侧面。在它们的背后,是在网络法发展近三十年后,如何超越以CDA第230款为代表的第一代互联网立法,重新想象和定义平台的角色和责任。

  三、表达自由的再平衡

  在分析完成因和可能的措施后,本节将讨论治理假新闻的深层困境和矛盾。长期以来,表达自由曾在信息真实性和公共讨论活跃度间取得了较好的平衡,但假新闻的出现却打破了这种平衡,对经典表达自由的一些基本前提和原则构成挑战。旧的平衡已打破,新的平衡却未形成,这种“失衡”状态是导致打击假新闻在全球范围变得困难的深层原因。治理假新闻与经典表达自由的张力主要体现在两点:

  第一,治理假新闻要求在公共对话内对言论内容(content)的真实性进行严格审查,但西方经典表达自由原则上禁止基于内容(content-based)的规制,反对对言论的内容或实质进行审查。正如“第一修正案之下不存在所谓错误的观点”(Under the First Amendment there is no such thing as a false idea)所体现的,在公共对话中,一切言论都被视为“意见”(opinion),而意见是不分真假、对错和好坏的。
  影响早已超出美国的《纽约时报》诉萨利文案就是上述原则的最好体现。萨利文案本质就是一个“假新闻是否应受表达自由保护”的问题。萨利文之所以把《纽约时报》告上法庭,就是因为在涉及他的报道中出现了“对事实的不实描述”。从这一角度看,萨利文案判决所代表的原则和精神并不利于治理假新闻:美国最高法院承认的确存在“对事实的不实陈述”,但为了确保公共辩论是“不受限、活跃和开放的(uninhibited, robust and wide-open)”, 必须给公共讨论留出足够的“呼吸空间”。换言之,萨利文案表明:为了保持公共讨论的活跃和自由,必须在一定程度上保护或容忍假新闻;如果对言论的真实性提出过高要求,会扼杀表达自由的“呼吸空间”,形成“寒蝉效应”。
  萨利文案之后,对假新闻另一有力“保护”是2012年的合众国诉阿尔瓦雷兹案。该案涉及国会是否可以立法禁止人们谎称自己获得军事荣誉勋章,而美国最高法院的回答是不能。在阿尔瓦雷兹案中,最高法院进一步宣布:除极个别情况外,谎言和虚假陈述不是一种被禁止的言论类别(category)。布雷耶在他的附议更是明确表示:“在很多语境下,错误事实陈述都服务于有用的目的。更进一步,针对错误事实陈述的刑事起诉会导致发言者不敢进行真实陈述,而这会对处于第一修正案核心的言论产生‘寒蝉效应’。”在一定程度上,阿尔瓦雷兹案为假新闻提供了比萨利文案更坚实的保护基础:在萨利文案中,假新闻还是作为例外“破格”受到保护的;但到了阿尔瓦雷兹案,假新闻和虚假陈述作为一个整体是原则上受保护的。
  不仅仅是在经典案例中,对假新闻的“保护”更是已融入经典表达自由理论。在著名的思想市场理论中,霍姆斯指出:“思想的自由交流更有助于人们通向他们所期望的终极的善。检验真理的最佳标准是看某一思想是否具有足够的力量在市场竞争中被接受。”思想市场理论虽然把表达自由保护的正当性建立在“真理”之上,但这却恰恰要求思想市场不得把“真”作为一个标准引入竞争。希望表达自由能够帮助我们接近真理,反而不能要求在找寻真理的过程中,所有言论都必须是真理或真实的。恰恰相反,表达自由和公共对话保护的是一个真假好坏各种言论竞争的过程。如果一开始就把“真”的标准引入,反而是违背思想市场理论的。因为在真理被发现这个终极结果出现前,人们并无法判断言论的真假好坏(如果在这个阶段已经可以判断何为真理,那竞争和筛选的过程就变得没有必要了),过早下结论反而可能扼杀了真理或真相的产生。按照思想市场理论的逻辑,打击假新闻最好的办法就是不去管它,让真的、更优质的言论在竞争中将它击败。反过来,禁止假新闻不仅会破坏思想市场的自由竞争,而且按照“谣言倒逼真相”等说法,这甚至会阻碍真理和真相的产生。

  第二,经典表达自由假设公共对话中所有人都是平等、理性的主体,因此他们可以自己判断言论的真假对错。但打击假新闻则相当于推翻这一假设,宣告不能完全相信公民具备自行判断的能力。
  平等理性主体的假设一直是区分公共对话内外的界碑。公共对话内与公共对话外的本质区别就在于:后者不存在主体平等理性的假设,法律承认消费者、客户、患者和外行相对于厂家和广告商、律师、医生和专业学者处于弱势地位,并愿意提供倾斜性保护。如波斯特所说,“在公共对话之外,主体通常被想象成不独立的、脆弱的而不平等的。”而法律为弱者提供倾斜性保护的主要方式,就是对强者言论的内容提出要求——比如广告必须真实和不引人误解、律师和医生的建议必须专业尽职等。这种“内外二分法”泾渭分明:公共对话是一个“费厄泼赖”的竞技场,大家奉行公平竞争和买者自慎(caveat emptor)。人们被政客或媒体“忽悠”就只能愿赌服输。但在公共对话之外,法律不仅可以对言论的内容提出严格要求,人们因听信某些言论(比如虚假和引入误解的广告)上当受骗也可以获得救济。
  打击假新闻则意味着把公共对话外的原则和标准引入公共对话内。本来,判断言论真假对错的权力掌握在每一个公民的手里。一则内容是不是假新闻,应由每个公民自己判断。这是公民因理性获得的自由,也是他们必须承担的责任。但打击假新闻则意味着,这种对公民理性的信任不复存在。或者说,公共对话不再承受得起公民做出错误判断的后果。这是否意味着取消对公共对话内主体平等理性的假设,甚至一并取消公共对话内与外这一基本二元结构?这都是需要在表达自由基本理论层面给予解释甚至重构的。

  最后,“假新闻”的概念虽然源自西方,但如何应对谣言和假信息却是一个普遍的课题。在一定程度上,与近年才遭遇假新闻的西方相比,谣言和假信息给中国造成的困扰可能更久也更强。观察和思考西方如何应对假新闻,对我们可能具有一定的借鉴意义。同时,西方的表达自由原则与理论常常被拿来评判中国对言论和互联网的规制。但随着假新闻愈演愈烈,一些中国过去采取的饱受批评的措施也开始被西方重新评价,西方内部对其经典表达自由体系的一些根本性反思也开始出现。一个典型的例子就是哈佛法学院教授杰克·戈德史密斯(Jack Goldsmith)在《大西洋月刊》撰文宣称,在言论和网络规制上,“中国可能是对的,而美国错了”。当然事情远非谁对谁错这样简单。但这的确提醒我们,每个国家都应该走出属于自己的互联网治理之路。如果说假新闻对西方的挑战主要是,在过去精心打造的平衡破坏后如何实现再平衡,那么对仍在探索何处是平衡点的我们来说,至少应在寻找和建构自身的平衡点时,把假新闻以及新技术对表达自由产生的影响充分纳入考量。


  近期图文:

  读书决定一个人的修养、一个民族的素养  
  
艾哈迈德写百遍BLM与张铁生交白卷异同  
  
现代价值系统的三大支柱和两朵乌云  
  
香港出版业的黄金时代一去不复返了  
  
两个版本的“特朗普未输论”  
  
川普取得了成就,但失误让美国境遇更糟  
  
极权主义最令人惊异的是巨大诱惑力和能量  
  
美国是不是“清教立国”的基督教国家  
  
您是否满意大选诉讼中法官们的表现?  
  
《今日简史》作者提醒:人类面临两个重要选择  


浏览(3573) (22) 评论(10)
发表评论
文章评论
作者:liucarl 留言时间:2021-05-13 04:27:20

回复 | 0
作者:广东人. 留言时间:2021-05-12 21:49:13

媒体报道新闻时,应当尽量做到中立,从中立立场报道。然而媒体是由人操作的,每个人,每个团体不可能没有政冶立场,不触及不带有每种世界观人生观道德价值观文化生活习性。某个媒体的新闻报道,因而多多少少都带有某种偏面,夸大,或者“假”的东西。其实这是很正常的,自然的社会形态。只要有言论自由,个体媒体的偏见,“假”,可以被多个媒体的报道中和,从而给读者多方面的信息,多角度的观察,多层次的思考。

然而,当媒体被垄断,一如极权国家中共,一如主流媒体左媒,偏见和“假”可以被无限放大,因为没有多少反对和监督的媒体可以发声。

回复 | 5
作者:gmuoruo 回复 高伐林 留言时间:2021-05-12 14:47:09

不仅是他啦,而是整个左媒民主党一心想做,已帮你设好框框了。

脸书的真理部还在,民主党也把脸书盯的死死的。

回复 | 3
作者:高伐林 回复 gmuoruo 留言时间:2021-05-12 14:43:30

哈哈,原来您是针对他啊,您与他都有言论自由。

不过,要解决这个难题,不必先自我设框框。

回复 | 1
作者:gmuoruo 回复 高伐林 留言时间:2021-05-12 14:26:25

哈,哈,我是调侃,但左媒民主党可是当真的。此文结尾还特别强调美国左媒已开始反醒:


“一些中国过去采取的饱受批评的措施也开始被西方重新评价,西方内部对其经典表达自由体系的一些根本性反思也开始出现。一个典型的例子就是哈佛法学院教授杰克·戈德史密斯(Jack Goldsmith)在《大西洋月刊》撰文宣称,在言论和网络规制上,“中国可能是对的,而美国错了””。

回复 | 1
作者:高伐林 回复 gmuoruo 留言时间:2021-05-12 14:15:19

看来您也并没有高招啊,只能在您认为“很容易解决”的问题上闲扯调侃。哈哈!

回复 | 1
作者:gmuoruo 回复 高伐林 留言时间:2021-05-12 14:04:00

没啥棘手的,很容易解决。像脸书推特一样,成立一个真理部,检查不合格的,立马封杀。

但不同公司的真理部的裁决不可能完全相同,所以还是要有政府成立一个最高真理部,像最高法院一样,做最后的仲裁。不合格的新闻,所有网站立刻封杀。网站敢不配合的,就封杀网站。

这个方法理论上无懈可击,实践上么若有困难,找奥巴马派去中国的留学生当真理部主任,保证没有问题。

回复 | 3
作者:高伐林 回复 liucarl 留言时间:2021-05-12 13:34:35

您提的两个问题,本文都做了回答:

言论自由,当然包括发表错误言论的自由;

假新闻,当然包括新闻媒体制作的假新闻。

而这些,正是造成治理假新闻从理论和实践上都特别棘手的部分原因。

回复 | 1
作者:liucarl 留言时间:2021-05-12 12:08:21

一些表面是新闻媒体的机构,我就不点名了,在制作新闻产品的时候,表面上是新闻,其实夹带私货,有自己的立场和偏见,这才是新闻自由言论自由的真正威胁。

回复 | 4
作者:liucarl 留言时间:2021-05-12 12:07:02

言论自由不光是正确言论的自由,也有错误言论的自由。这种真和假,标准何在?谁就手握真理?

回复 | 4
我的名片
高伐林
注册日期: 2010-05-22
访问总量: 15,555,803 次
点击查看我的个人资料
Calendar
我的公告栏
文章欢迎转载,请注作者出处
最新发布
· 要是一条狗救了毛主席怎么办?
· 是中国权威部门出台一版《仇恨指
· 善良的人必须行动起来,勿以恶小
· 《青年论坛》鸣谢团中央始末——在
· 《青年论坛》的触角伸到了天子脚
· “尽到一个历史当事人应尽的责任”
· 一个民族需要有英雄——英雄没有免
友好链接
· 暗夜寻灯:暗夜寻灯的博客
· 旅泉:旅泉的博客
· 怀斯:怀斯的博客
· 海天简牍:海天别院
· 云乡客:云乡客的博客
· 老木屋:老木屋的博客
· 吴言:吴言的博客
· 寡言:寡言的博客
· lone-shepherd:牧人的博客
· 艺萌:艺萌的博客
· 德孤:德孤的小岛
· 虎猫:张石的博客
· 郭家院子:郭家院子
· 山哥:山哥的文化广场
· 史语:史语的博客
· 王清和:《金瓶梅》揭密市井私生
· 晚秋心情:不繫之舟
· 阿妞不牛:阿妞不牛的博客
· 解滨:解滨
· 汪翔:汪 翔
· 星辰的翅膀:星辰的翅膀
· 欧阳峰:欧阳峰的blog
· 岑岚:岑岚的博客
· 枫苑梦客:梦中不知身是客
· 怡然:怡然博客
分类目录
【诗】
· 一部童话引发图书界难得一见的翻
· 读书要读有趣的书:走这一条捷径
· 《长安三万里》藏着大国由盛转衰
· 世界上没有任何人是不受瘟疫侵袭
· 推荐三部中国作家描写瘟疫的优秀
· 横跨美国之旅(后记):来,享受
· 母亲节回忆与母亲有关的若干小事
· 中国百姓的诗歌江山被他们这样一
· 余英时先生在“祖国”“故乡”安然长
· 请告诉我哪句可原谅,哪句必须批
【识】
· 要是一条狗救了毛主席怎么办?
· 善良的人必须行动起来,勿以恶小
· 书里的乌托邦是曙光,现实的乌托
· 过去数十万年从动物升为主宰;今
· 孩子一出生,就能算出有多大几率
· 美国驴象两党究竟各自代表哪些选
· 以江泽民冠名的“三个代表”理论从
· 宪​法学教授眼里美国宪政
· 顾维钧和汪精卫看法相近,冯友兰
· 到美国查阅档案成了座上宾,回中
【史】
· 《青年论坛》鸣谢团中央始末——在
· 一个民族需要有英雄——英雄没有免
· 人类文明的竞争过程中,病菌插进
· 鲁迅说“民国以来最黑暗一天”留下
· “铁肩担道义,妙手著文章”背面的
· 夺得了令举世振奋的“大捷”?来,
· 文革最大受害者的另一个身份:文
· 不实之词无处不在,《革命烈士诗
· 连周恩来都承认:蒋介石还算一个
· 从长津湖到上甘岭:他的回忆颠覆
【事】
· 《青年论坛》的触角伸到了天子脚
· “尽到一个历史当事人应尽的责任”
· 犹太人和黑人:索维尔笔下的美国
· 一个青年干部的婚姻危机怎样惹翻
· 我的儿子,你的秘书:《进出中组
· 文革多少杀人犯,他是忏悔第一人
· 当你凝视深渊时,深渊也在凝视你
· 袁世凯大哉问:中国实现共和需要
· 中共的公信力是怎样磨损到最终折
· 华国锋让军权落到邓小平手里,不
【视】
· 好莱坞科幻题材电影大盘点
· 横跨美国之旅(第17天续):如何
· 横跨美国之旅(第17天):在“911
· 横跨美国之旅(第16天):见识了
· 横跨美国之旅(第15天续):地平
· 横跨美国之旅(第15天):第一位
· 横跨美国之旅(第14天续):一所
· 横跨美国之旅(第14天):不期而
· 横跨美国之旅(第13天):在造物
· 横跨美国之旅(第12天):把开胃
【拾】
· 是中国权威部门出台一版《仇恨指
· 为何这么多人认为中美难免一战?
· 科技不断进步,过去的社会形态绝
· 几乎没什么比实现中国民主宪政更
· 国家能力过于强大,就只能靠“死
· 你如果不想当井底之蛙,就不能不
· 大数据的神器也救不了计划经济的
· 一种解释:为何中国坚持另搞一套
· 俄乌只能在战场决出胜负?各方基
· 现在乌克兰战事在军事上结果已经
存档目录
2024-03-04 - 2024-03-18
2024-02-17 - 2024-02-28
2024-01-02 - 2024-01-02
2023-12-04 - 2023-12-26
2023-11-06 - 2023-11-27
2023-10-02 - 2023-10-30
2023-09-04 - 2023-09-25
2023-08-01 - 2023-08-28
2023-07-03 - 2023-07-28
2023-06-02 - 2023-06-30
2023-05-01 - 2023-05-31
2023-04-03 - 2023-04-28
2023-03-01 - 2023-03-31
2023-02-01 - 2023-02-27
2023-01-02 - 2023-01-30
2022-12-07 - 2022-12-30
2022-10-03 - 2022-10-17
2022-09-02 - 2022-09-30
2022-08-01 - 2022-08-31
2022-07-01 - 2022-07-29
2022-06-01 - 2022-06-29
2022-05-03 - 2022-05-30
2022-04-06 - 2022-04-29
2022-03-01 - 2022-03-31
2022-02-01 - 2022-02-28
2022-01-02 - 2022-01-27
2021-12-02 - 2021-12-31
2021-11-04 - 2021-11-23
2021-10-01 - 2021-10-30
2021-09-04 - 2021-09-30
2021-08-01 - 2021-08-24
2021-07-01 - 2021-07-28
2021-06-02 - 2021-06-28
2021-05-06 - 2021-05-27
2021-04-02 - 2021-04-26
2021-03-01 - 2021-03-31
2021-02-02 - 2021-02-25
2021-01-01 - 2021-01-30
2020-12-01 - 2020-12-30
2020-11-01 - 2020-11-30
2020-10-07 - 2020-10-29
2020-09-02 - 2020-09-30
2020-08-03 - 2020-08-31
2020-07-04 - 2020-07-29
2020-06-02 - 2020-06-24
2020-05-01 - 2020-05-31
2020-04-02 - 2020-04-30
2020-03-01 - 2020-03-30
2020-02-03 - 2020-02-29
2020-01-01 - 2020-01-27
2019-12-05 - 2019-12-27
2019-11-08 - 2019-11-26
2019-10-01 - 2019-10-29
2019-09-02 - 2019-09-27
2019-08-01 - 2019-08-30
2019-07-17 - 2019-07-31
2019-06-01 - 2019-06-29
2019-05-01 - 2019-05-31
2019-04-01 - 2019-04-30
2019-03-01 - 2019-03-29
2019-02-01 - 2019-02-28
2019-01-01 - 2019-01-31
2018-12-01 - 2018-12-31
2018-11-05 - 2018-11-30
2018-10-01 - 2018-10-18
2018-09-03 - 2018-09-28
2018-08-01 - 2018-08-31
2018-07-02 - 2018-07-31
2018-06-01 - 2018-06-29
2018-05-01 - 2018-05-31
2018-04-02 - 2018-04-30
2018-03-01 - 2018-03-30
2018-02-01 - 2018-02-28
2018-01-01 - 2018-01-31
2017-12-01 - 2017-12-29
2017-11-01 - 2017-11-30
2017-10-02 - 2017-10-31
2017-09-01 - 2017-09-28
2017-08-01 - 2017-08-31
2017-07-03 - 2017-07-31
2017-06-01 - 2017-06-30
2017-05-01 - 2017-05-31
2017-04-03 - 2017-04-16
2017-03-01 - 2017-03-30
2017-02-02 - 2017-02-28
2017-01-02 - 2017-01-31
2016-12-03 - 2016-12-31
2016-11-01 - 2016-11-30
2016-10-03 - 2016-10-22
2016-09-01 - 2016-09-30
2016-08-01 - 2016-08-31
2016-07-14 - 2016-07-29
2016-06-01 - 2016-06-22
2016-05-02 - 2016-05-31
2016-04-04 - 2016-04-28
2016-03-01 - 2016-03-31
2016-02-01 - 2016-02-29
2016-01-01 - 2016-01-31
2015-12-01 - 2015-12-31
2015-11-01 - 2015-11-30
2015-10-09 - 2015-10-31
2015-09-01 - 2015-09-28
2015-08-01 - 2015-08-28
2015-07-01 - 2015-07-31
2015-06-01 - 2015-06-30
2015-05-01 - 2015-05-28
2015-04-02 - 2015-04-30
2015-03-02 - 2015-03-31
2015-02-07 - 2015-02-28
2015-01-01 - 2015-01-29
2014-12-01 - 2014-12-23
2014-11-03 - 2014-11-26
2014-10-01 - 2014-10-29
2014-09-01 - 2014-09-30
2014-08-01 - 2014-08-29
2014-07-01 - 2014-07-30
2014-06-03 - 2014-06-30
2014-05-03 - 2014-05-31
2014-04-02 - 2014-04-29
2014-03-02 - 2014-03-31
2014-02-02 - 2014-02-28
2014-01-01 - 2014-01-31
2013-12-01 - 2013-12-30
2013-11-01 - 2013-11-29
2013-10-01 - 2013-10-31
2013-09-02 - 2013-09-30
2013-08-01 - 2013-08-28
2013-07-01 - 2013-07-29
2013-06-02 - 2013-06-28
2013-05-03 - 2013-05-31
2013-04-02 - 2013-04-30
2013-03-04 - 2013-03-31
2013-02-04 - 2013-02-27
2013-01-02 - 2013-01-31
2012-12-02 - 2012-12-31
2012-11-03 - 2012-11-30
2012-10-01 - 2012-10-28
2012-09-10 - 2012-09-27
2012-08-01 - 2012-08-27
2012-07-01 - 2012-07-31
2012-06-01 - 2012-06-29
2012-05-01 - 2012-05-31
2012-04-01 - 2012-04-30
2012-03-02 - 2012-03-29
2012-02-01 - 2012-02-27
2012-01-02 - 2012-01-31
2011-12-01 - 2011-12-31
2011-11-02 - 2011-11-30
2011-10-01 - 2011-10-29
2011-09-01 - 2011-09-29
2011-08-01 - 2011-08-31
2011-07-01 - 2011-07-31
2011-06-01 - 2011-06-30
2011-05-01 - 2011-05-31
2011-04-01 - 2011-04-29
2011-03-02 - 2011-03-31
2011-02-02 - 2011-02-28
2011-01-02 - 2011-01-31
2010-12-01 - 2010-12-30
2010-11-01 - 2010-11-30
2010-10-04 - 2010-10-31
2010-09-03 - 2010-09-30
2010-08-01 - 2010-08-31
2010-07-01 - 2010-07-30
2010-06-01 - 2010-06-30
2010-05-21 - 2010-05-31
 
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network /Creaders.NET. All Rights Reserved.