人工智能飞速发展,一路辗压人文学界对它的种种质疑。说人工智能能做什么很容易,因为相对于人脑,它几乎无所不能;说人工智能不能做什么则风险甚高,持论者常因论据失真或前提不确导致结论无效。人脑不可度量处,恰是AI大显身手时
老高按:今年中秋节前夕,几位同窗难得在纽约城郊聚会。这些同窗,有的从中国闪访,有的在美国蛰居;有的投身媒体,有的经营企业;当天才到的,次日就走的……一别三十年,都有“人生不相见,动如参与商,今夕复何夕,共此灯烛光”(杜甫《赠卫八处士》)之慨,谈了美国谈中国,谈了过去谈未来,不知怎么一来,还谈到了人工智能(Artificial Intelligence, AI)对人类的挑战,给未来增添了越来越浓重的不确定气氛。 聊到深夜,酒醒大半,各奔东西。“明日隔山岳,世事两茫茫。”这是杜甫那个年代的感叹,如今不同了!人人有爱疯,个个有微信,大家共一群,天涯若比邻。这不,昨晚就收到了其中一位同窗的文章《计划不是那个计划,市场也不是那个市场——也说“AI计划经济是否可能”》。他说,是那天在纽约市郊聚会,“席间曾提到人工智能话题,现将本人最近心得呈众学兄,民科之见,见笑见笑!”“民科”,“民间科学家”之谓也,通常带贬义,他这里是自谦。 这位同窗原为南方某省一家报纸的负责人之一,现已退休,既然他用了“老残油记”的网名,未得其同意,我就不提真实姓名了。这篇文章他已经发表在一家网络媒体,料想我转载于此,他不会见怪。这篇文章说是与那夜席间有关,其实倒直接由许成钢和周为民的文章而来。许成钢是许良英的大公子,哈佛博士,国内头衔一大把,国际头衔更多,伦敦经济学院教授、哈佛大学国际发展研究所研究员、首尔国立大学讲座教授、世行及国际货币基金组织顾问等等;周为民这个名字甚为普通,名人中就有好几位,不知究竟是其中哪一位。他们都被人工智能这一话题所吸引,今后一段时间想必讨论更为深入和广泛。 也巧,昨天晚上读到英国《金融时报》中文网发表AlphaGo设计师黄士杰的演讲整理稿:《最强的学习技能在人类的脑袋里》,与我们这里谈到的话题有关,也索性转贴于此,供大家参考。
顺便提一句,昨天我转发了纽约时报中文网刊登的文章《中国正想要这样的特朗普》,在按语中我写道:“在万維上,左派博客谴责川普、同情中共;右派博客拥护川普、反对中共——这是大家每天看到的常态。但是现在出现了人们意想不到(其实,是早可料到)的情况,川普与中国竟然合流:中国支持川普,川普对中共、对习近平也好话说尽。”“这奇怪吗?一点也不奇怪,一点也不令人吃惊!” 随后有三位博友跟帖评论,有一位非常痛快地直斥我是“愚蠢之极”,说:即便在万维这个小世界里,至少一共有四部分人:反川亲中;亲川反中;亲川亲中;反川反中。如果加上中间派,则可细划为九个部分。他去年就写过文章《大选将万维博客分为九块》。 他去年的文章我拜读过,九分法,很有道理!我本人就既反对川普,也反对中共当权者的专制主义。但“九分法”虽有“九分法”的道理,何以与“两分法”不共戴天?这就像有人说:分红色、蓝色?愚蠢之极:应该分为“深红”“大红”“紫红”“绛紫”“蓝紫”“宝蓝”“普蓝”“深蓝”……七种、八种、九种才对!我认同他颜色可以分得更细的观点,但能说分开红蓝就“愚蠢之极”吗? 况且我转载纽约时报中文网这篇文章,恰恰正是要说明:简单化地只从意识形态、价值取向来划分“左派右派”,是多么别扭,不合时宜,一遇到现实问题,就解释不通了! 今天这位仁兄更撰写专文:《反川与亲共有必然联系吗》,让我不由得失笑——“反川与亲共有必然联系吗?”当然没有!我本人就是一例:批评川普,但我并不亲共。但这位仁兄难道不是自己树了一个大大的靶子,再来砰砰砰地一通射击吗?这里有谁主张了“反川与亲共有必然联系”吗? 这位仁兄还说:“有人一定要分左右派,想必便于搞运动斗批改。”不知这是根据什么逻辑?我想起鲁迅在《小杂感》中所说的一段名言:“一见短袖子,立刻想到白臂膊,立刻想到全裸体,立刻想到生殖器,立刻想到性交,立刻想到杂交,立刻想到私生子……” 还有一位博友,在满脑子浆糊上跟我有得一拼——我比他唯一强一点的是,我对自己满脑子浆糊这一点有自知之明,而此兄对此浑然不知。他跟着上面那第一位仁兄说:老高本人就是不断在演绎“文革”和“阶级斗争”的思维。呵呵呵,这就相当于从“一见短袖子”,中间什么联想环节都不需要,一步就直接跳到“想到私生子”! 这都是题外话,还是言归正传,谈谈“人工智能”吧。AI是绝不会犯这些逻辑错误的,人在AI面前还真不能不气馁。
计划不是那个计划,市场也不是那个市场
也说“AI计划经济是否可能”
老残油记,微博
一,人脑不可度量处,AI大显身手时
关于“AI(人工智能)计划经济是否可能”,国内人文学界几乎众口一词:不可能。然而,人工智能的飞速发展却一路辗压人文学界对人工智能的种种质疑。目前的情势是,说人工智能能做什么很容易,因为相对于人脑,它几乎无所不能;说人工智能不能做什么,则风险甚高,持论者常常因论据失真或前提不确,致结论无效。比如,近日网上热传的两篇文章《把市场消灭了,人工智能的基础也就没有了》(作者许成钢)、《计划经济不可行性早已证明 大数据也弥补不了》(作者周为民),即无一幸免。 许文和周文的标题旗帜鲜明,但也直接令人生疑添惑。因为市场只是数据采集的众多场景之一,断不至于如许文所说,成为大数据的基础。至于周文所说公有制计划经济之不可行,病根其实也在数据,即数据缺失致“经济”无从“计划”(对此,米塞斯在社会主义经济计算问题论战中曾有精彩论述);大数据,也不是补漏之器,而是解决之道。除了标题,两文中的无效论据、论证,也所在多多。比如许文称,人脑无法感知、无法度量的东西,则人工智能无所施其技(大意)。实情是,人脑智能不可度量,绝不等于人工智能不可度量;而且,人脑不可度量处,恰是AI大显身手时。 或许, 人文学界在预测人工智能前景时,应当先尝试了解人工智能的逻辑理路和技术发展动态,才方便与外界就这一话题作有效率的交流。而学界的认知错位或缺席,极可能使人类对人工智能失控的局面提前到来。 何为人工智能逻辑理路?以笔者“民科之见”,其要义或可简化为三层意思:1)大千世界无处不在的“数学法则”,才是真正的宇宙之王;2)世间万象,都可以简化和还原为数据,人脑,则是一台功力强大的数据处理系统;3)人脑的反应和思维过程(包括直觉、创见、灵感),实质是数据采集、识别、整理的复杂计算过程。本乎此,AI界坚信,如果能解开人脑思维之谜,便极有可能研发出效率万千倍胜过人脑算力的人工智能系统。而人工智能狂飚突进的发展,也正加速将AI业界的信心、信念升华为信仰。 最新实例,是前科棋圣“阿法狗” (AlphaGo)的胞弟“阿法元”(AlphaGo Zero)。
二,天不生AI,万古如长夜
与从小熟读兵书、“打谱”无数,并与人类棋手反复对弈、切磋的“阿法狗”不同, “阿法元”小弟生性孤傲,对于集人类围棋实战之大成的“文献资料”(棋谱)不屑一顾,也不愿屈尊让出一席之地,邀人间棋王手谈。如此妙手空空,从零开始,自我对弈,自学成才,三天过后,“阿法元”便批量报捷,将不久前横扫地球九段人的“阿法狗”杀了个100:0。“阿法元”这一大开杀戒的弑兄战绩意味着,在人工智能面前,人类围棋领域过往的全部经验性事实和思考成果,价值归零。难怪弈坛少帅柯洁闻讯后,在微博上敲下了六个字:“人类太多余了”。 棋坛少帅柯洁与“阿法狗”对阵落败后,泪洒沙场(网络图片)
“山外青山楼外楼”。继乃兄之后,“阿法元”再次提醒人类,围棋招式变化如恒河沙数(据说高达10的170次方,而宇宙已知部分的原子数不过10的80次方),人脑思维半径所及,不过沧海一粟。数千年来,人类历代棋手殚精竭虑参悟出来的各种定式、变招,一夜之间,沦为井底蜗壳的“局部最优”。围棋领域如此,其它领域又如何?初思甚喜,细思极恐。 综上所述,人工智能的出现,是名副其实的“划时代”事件。此前,人类社会只有一个智能系统,即人脑智能系统。由于人脑综合计算(数据采集、识别、整理)能力远高于其它动物脑,人类曾信心满满地自诩为“宇宙的精华、万物的灵长”。人工智能横空出世,将使人类拥有两个智能系统:人脑智能系统与人工智能系统。更令人类猝不及防的是,人工智能算力之强大,使千百年来困惑人脑的难题,纷纷于一夜之间迎刃而解,而人类千百年来引以为荣的智慧文明成果,也将纷纷于一夜之间沦为偏安一隅的“局部最优”。 关于人工智能的划时代意义,或可化用人脑智能名句形容:“天不生AI,万古如长夜”。
三,勿以人脑之心,度AI之腹
回到计划经济和市场经济话题。 先说公有制计划经济。如果我们依前述思路,把“计划”理解为“数据处理”,把“计划经济”理解为基于大数据处理的资源优化配置总体方案,那么,公有制计划经济不过是一种既定算力不足致不可计算、无法落地的“空中楼阁”。对于这一议题,奥地利学派主帅米塞斯曾有“盖棺”之论,其极简版表述大约为:公有制致生产资料无交易对手,无交易则无价格,无价格则无从计算。不幸的是,近百年来总有伟人一意孤行,在人类社会重复这种具有先天缺陷,注定失败的乌托邦实验。 需要指出的是,公有制计划经济悲惨的实验记录,或许可以作为人脑算力有限的“旁证”,但并不能据此推出人类经济活动不可“计划”、大数据和人工智能对经济领域无效的结论。强调这一点,是因为许多学者对人工智能计划经济的质疑乃至声讨,不过是将此前学界(尤其是奥派)对公有制计划经济理论的深刻批判,直接移作对未来AI计划经济的预判。这样的预判,相当于人间弈者持棋谱评点“阿法元”的落子,是一种“以人脑智能之心,度人工智能之腹”的莽撞之举。 附带一提。以“无法计算” 瓦解公有制计划经济理论的米塞斯,逻辑上其实为人工智能计划经济预留有边窗后门——果若算力足够,尔等不妨一试。 再说市场经济。依同一思路,市场经济不过是人类直面人脑算力有限的现实,经反复试错形成的一种次优解决方案。相比公有制计划经济,市场经济可操作性强,而且具有前者望尘莫及的高效率。但是,它仍然受制于既定算力不足的瓶颈,存在贫富不均、市场试错损耗等不尽如人意之处,仍然只是一种“局部最优”,甚至 “局部次优”。 随着人工智能的高速发展,人类有充分理由期待迎来一种非人脑算力可逮、趋于整体最优的资源配置方案,即“AI计划经济”。 “AI计划经济”决不是公有制计划经济的翻版,也不是简单地在市场经济中植入一套人工智能系统。说到底,它与公有制计划经济及自由市场经济的区别,不在生产资料公有或私有、一党专制或三权分立等顶层“构件”,而在最基础,也是最本质的纯技术因素——算法精妙,算力强大,强大到既可规避公有制计划经济之祸,又足以摸到市场经济的“无形之手”,并从容超越之。 囿于人脑算力,人们目前还难以想象和描述未来AI计划经济的种种细节,但可以肯定,届时,计划不是那个计划,市场也不是那个市场——或许,市场也“太多余了”。
AlphaGo设计师黄士杰:最强的学习技能在人类的脑袋里
英国《金融时报》中文网,2017年11月14日
AlphaGo的“人肉手臂”、担任Deepmind资深研究员的黄士杰,在近期公开演讲中,分享他身为一名科学家,如何旁观机器的进步。
没有人会否认,AlphaGo在过去一年炒热全球对人工智能的关注。 2016年3月,谷歌Deepmind旗下的围棋程序AlphaGo,以4比1的成绩战胜韩国职业棋手李世石。一年后,拿掉所有人类知识、完全靠自学的AlphaGo Zero,在今年10月又以100比0的战绩碾压“AI前辈”AlphaGo。从击败人类、到自学成材,AlphaGo的进展超乎预期,研发团队也自然成为关注焦点。这当中,被称为AlphaGo的“人肉手臂”,替AlphaGo向棋圣聂卫平说“谢谢聂老师”的黄士杰(Aja Huang),就是AlphaGo发展的重要推手。 1978年出生、现任Deepmind资深研究员的黄士杰,私底下是围棋业余六段,在每一场人机对战中,都代表AlphaGo落子。但他不只是手脚,更贴近他身分的描述,其实是AlphaGo的设计者、是AlphaGo的大脑。让AlphaGo登上科学期刊《自然》(Nature)封面的那篇知名论文,黄士杰并列为第一作者。 上周五(11月10日)在台湾中研院举办的“2017年人工智慧年会”上,黄士杰首次把AlphaGo的研发过程公开说清楚,除了透露新一代AlphaGo Zero的能力还没达到极限,他更多的是去分享身为一名科学家,旁观机器的进步,以及一个科学团队对基础研究的使命和专注。 以下是编辑后的演讲摘录:
AlphaGo的研发过程,有四个时刻对我影响很大。 第一,是我们在韩国赢了李世石。当我们开始做AlphaGo时,没想到它会变得那么强。在韩国赢了李世石后,DeepMind首席执行官Demis Hassabis立刻发了一个推特,说“我们登上月球”(We landed it on the moon.)。我明白Demis那天的感觉,这是我们团队的一小步,但却是人类的一大步。 第二个时刻,是我在网络上操作AlphaGo升级版“Master”,下了60盘棋。我从小喜欢下棋,在台湾是业余六段。Master在网络上对弈的对象,都是我从小崇拜的人。虽然不是我真正在下棋,但却感到非常荣幸。 第三个时刻,是今年在乌镇进行的人机大战,由我操作AlphaGo和世界冠军柯洁九段下棋。柯洁还不满20岁,非常年轻,当天比赛氛围和李世石对弈时很不同。我记得在韩国比赛,能感受到李世石承受到很大的压力,感觉他是在为人类而战。我当时坐在他对面,也尽量保持谨慎的态度,不喝水、不去上洗手间。但到了第二次和柯洁对弈,比较像是人机合作的气氛,柯洁还走过来说:“黄博士,很荣幸跟AlphaGo下棋”,坦白说我有点惊讶。这也让我们知道,如果Master是无敌的,那机器存在价值到底在哪里?应该是要帮助棋手扩张思路、扩展围棋理论。 第四次对我意义重大的时刻,是AlphaGo Zero的出现。什么是AlphaGo Zero?我们拿掉所有人类对围棋的知识,只喂AlphaGo Zero围棋规则,让它自己学习下棋。我回想起读博士班的熬夜日子,就是不断写代码、找bug,每天做测试,让程序进步。但AlphaGo Zero把我过去的所有东西全部取代,它完全不需要我的帮助。有同事问我,Aja,AlphaGo Zero把你这十几年来对围棋计算机的研究,一点一点的拿掉,甚至还超越你,有什么感觉?我的确心情复杂,但后来跟同事说,这会是一个趋势,如果我阻碍了AlphaGo,我确实应该被拿掉(笑)。AlphaGo有99%的知识是我做的,AlphaGo能走到这一步,我已经很满足,找到了收尾。
AlphaGo是怎么开始的?
回到一开始,AlphaGo到底是怎么开始的?起点是有三组人马的聚集:Deepmind首席执行官Demis Hassabis与AlphaGo项目领导David Silver、我、还有两位谷歌大脑(Google brain)的同事Chris Maddison和Ilya Sutskever。 Demis和David原本是剑桥大学的同学,友情深厚。对西方人来说,当1997年IBM超级电脑“深蓝”赢了西洋棋棋王卡斯巴罗夫之后,就只剩下流传几千年的中国围棋,是人工智能发展的极大挑战。一开始,很多研究人员想把研究西洋棋的技术移到围棋上,但都失败了。在2006年蒙特卡洛树搜索出来后,研究才提升一阶,让机器棋手的水平能达到业余三段,但离职业棋士一段还有距离。Demis和David心中开始藏有一个梦,希望有一天要能做出一个很强的围棋程序。 但有梦的不只有他们,故事的另一条线还有我。 在就读台湾师范大学资讯工程博士班时,我每天埋头解bug、写代码,就是希望做一个很强的围棋程序。2010年,我研发出的围棋计算机程序Erica(事实上是用我妻子的名字来命名),在计算机奥林匹亚获得19路围棋的冠军。虽然Erica只是单机版,但它打败了用了6台PC的日本程序Zen跟其他参赛者,就像小虾米对抗大鲸鱼。当年还在英国当教授的David,在比赛后写信问我有没有兴趣加入Deepmind,隔年我也正式加入团队,成为第40号员工。 我还记得当年面试,老板问我,能做出Erica有什么感觉?我回答,满有成就的。Demis点头,他明白我的感觉。 2014年,Google收购Deepmind,AlphaGo项目也正式浮现。Demis起初还在教书、还不是全职员工,就常三不五时走过来跟我讨论围棋项目的想法。真的要开始时,我们其实都已经有些准备。 既然决定要做围棋项目,当时我和Demis有一个共识,就是绝对不要复制Erica。Erica其实有它的极限,最勉强的就是达到业余三段,继续复制的意义不大。我们想做不一样的事,希望能运用到深度学习的原理。过了几个月,团队又增加了两个人,包括深度学习之父以及带动深度学习革命的研究者。 我们怎么判断深度学习可能应用到围棋?如果人类可以一看棋盘就知道下哪一步会是好棋,那么神经网络也可能办得到这种“直觉”。但如果人类得想五分钟才能给出答案,神经网络可能办不到。一开始,我们训练AlphaGo从人类的棋谱去学习人类的直觉。我还记得第一次测试神经网络,没想到能表现得那么好,百分之百对战都不会输,是一种碾压式的胜利。 AlphaGo第二个突破的是价值网络(Value Network)。我记得当David跟我说他有这样一个点子时,我还质疑,这会成吗?当我们把策略网络(Policy Network)做出来后,最强的程式可以达到70%到80%的胜率,算得上是世界最强的。但老板的目标不只于此,我们又继续找人、继续扩充团队。 这过程其实很辛苦,尝试很多,譬如网络要多深、要用什么架构?数据库有没有问题?最终检验的,还是看AlphaGo有没有变强。过了一个月之后,我们找到了问题并且解决掉,我仍然记得,旧版AlphaGo配上价值网络产生的新版AlphaGo,第一次的实验结果是达到95%的胜率,棋力非常强。可以这么说,AlphaGo的成功就是深度学习与强化学习的胜利,因为两者结合在一起,建构判断形式的价值网络,后来也成为AlphaGo Zero的主要理论。 当价值网络出来后,Demis希望我们能与欧洲职业一段棋手进行比赛。当下,我除了要做价值网络,还要研究平行网络搜索技术,Demis走过来说要比赛,我只想着:真的那么有信心吗? 后来我们与欧洲围棋冠军樊麾进行比赛,最终以5比0获胜,这结果其实也很不可思议。我记得樊麾输了第二盘棋后,想出去走走,会说中文的我,原本想去陪他,他挥挥手,“不用,我自己出去透透气。” 难能可贵的是,樊麾是第一个被AI打败的职业棋士,但他的态度非常正面。樊麾在第五盘棋虽然认输了,但他对AI并没有感到害怕,后来甚至也加入了团队,帮忙测试AlphaGo。 当时要把AlphaGo研究投稿到科学期刊《自然》(Nature)也是另一段有趣的故事。我们那时刚弄出价值网络、刚打败樊麾,正准备要挑战韩国职业棋手李世石九段,Demis为什么又要我们另外花时间去写论文,而不是准备比赛?为什么现在就要我们把研究秘密全部公开? Demis给了我一个很有意思的答案。他认为,我们是在做研究,科学的精神就是要互相分享,我们要推动整个领域的进步。也因为要写论文投稿,和《自然》编辑也事先谈好,在出版之前,我们不能和任何人说AlphaGo打败了樊麾。那几个月,所有人都憋著不讲,当论文刊登之后,才正式向李世石九段提出挑战。 至于后来AlphaGo和李世石的比赛,大家也都知道了。 这边要特别提到的是,TPU(Tensor Processing Unit,谷歌的高性能处理器)在研究过程中对我们有极大的帮助。自从Deepmind加入Google后,我认为Google给我们最大的帮助,就是提供了硬件设备。我还记得当时有一个GPU(图形处理器)版本,代码完全一样,但改用TPU之后,胜率变得强太多。 而AlphaGo的故事也还没结束。
就在我们打败李世石后,很多人认为AlphaGo项目是不是不动了。如果大家还记得,和李世石下棋时,第四盘棋我们输得很惨。当时我坐在李世石对面,要帮AlphaGo下那几步棋,明显知道那些下法是初学者的错误,要摆棋很痛苦,甚至会觉得我来下都比AlphaGo来得好。虽然我们最终赢了,但这一盘棋确实有很大的弱点,如果五盘棋内,有20%的错误率,这样的AI系统,你敢用吗?所以我们决定,一定要把这个弱点解决掉,不只是解决第四盘的问题,是要把AlphaGo项目全面解决。 后来过了三个月,我们就把弱点解掉了。怎么做到的?还是采用深度学习和强化学习的方法,并不是用人类知识的方法。第一,我们加强AlphaGo的学习能力,所谓学习能力就是把网络程度加深,从第一篇论文的13层加深到40层,而且是改成ResNet。第二个改变是,把策略网络和神经网络结合,让AlphaGo的直觉和判断一起训练,使两者更有一致性。这个解决后的版本,就是Master。 我那段时间一直说服团队,要带Master上线下棋测试棋力,不要等到Master完全无敌后才下棋。2016年年底,我回到台湾,当时特别低调,在线上中文围棋网站奕城和野狐申请了帐号,偷偷当职业棋士下棋。12月29号开始,我关在自己的房间里测试Master,一盘棋下一小时,一早下三盘棋,然后吃饭,下午继续,晚上吃完饭再继续,非常累,到晚上眼睛都张不开。 我还记得一开始在奕城下棋,没人要跟经验值为零的我对弈,直到第二天邀约才陆续上门,到了第三天,还愈来愈多人观看。那时压力很大,很怕自己点击错误或是网络连线断掉,AlphaGo不能因为我而输掉啊。 我到现在还是很感谢那些曾经和Master对弈的棋手。原本想低调比赛,但后来没办法,确实是每一盘都赢、每一盘赢的都是巨大的优势。这当中,柯洁算是唯一一位可以跟AlphaGo比赛坚持最久的。
AlphaGo Zero只用三天走过人类的千年历程
在Master之后,我们研究分出两条线,一条是让Master出去比赛,由我来测试,另一条线,则是把所有人类知识拿掉,从零开始学习,看AlphaGo Zero可以达到什么程度。 我们在初期预设AlphaGo Zero绝对不可能赢Master。围棋被研究了几千年,一个程序只知道棋盘和规则,一切从零开始,怎么可能会超越几千年的围棋历史?但我们错了,40天的训练后,AlphaGo Zero超越了Master,我们非常意外,深度学习和强化学习的威力太大了。 AlphaGo Zero是从乱下开始,找出围棋的下法,它只用了三天,走过了人类研究围棋的千年历程。这也是有趣的地方,人类几千年的累积,跟科学研究是一致的。 AlphaGo Zero前后训练了40天,但第40天还没有到达其极限,因为我们机器要做其他事情就先停下了。今年四月,我们也发表了AlphaGo Zero的论文,这篇论文的目的,没有想要跟人类知识比较、或是讨论人类知识有没有用等问题,而是想证明机器不需要人类知识也可以拥有很强的能力。 我认为,未来的人工智能,是要与人类合作,而非跟人类对抗。强人工智能距离我们仍是遥远,而现在最强的学习技能,其实仍在我们的脑袋里。
高看(每日一图,与文无关。十一月图片主题:集市)
德国巴伐利亚一小镇上,初秋一个周末跳蚤市场。
近期文章:
历史这一团乱麻,是否真能理出线头? BBC给乔治·奥威尔立了一座铜像 十月革命:理论家的鸡汤,阴谋家的鸡蛋 塑造“新人”:红色帝国的梦呓和结局 十月革命百年祭来临,中国人理应关注 中国诗歌史就是一部中国知识分子夹缝史 毛左热捧川普:左派与右派全乱套了 特朗普来了,你真的不怕? 个人的粗鄙化与公共权力的粗鄙化
|