反省和自检,是一个高级系统SYSTEM必须具备的能力。 凡是搞工程的和科学研究的都知道,如果没有一个ROBUST鲁棒的自检和反省的程序,那么这个工程和科学研究项目基本是要出问题的。 最近人工智能话题比较热,其中有一条就是如果人工智能缺乏反省和自检能力的话,就谈不上算是一个真正意义的人工智能。 反省和自检,是发现自身的错误和偏差并加以修正的过程。 反省和自检必须有一个前提:基本的原则、衡量的尺码和价值体系。否则以什么来反省和自检呢?如果一个人工智能无法自检和反省,那么它就无法自我完善。 比如最近新闻说微软的人工智能聊天软件在一天内就变得邪恶和脏话连篇,不得不被微软叫停。 中国古代传统文化中儒家是非常重视反省和自检的。 孔子要求每一个人一天三省吾身。 发展到宋代儒学大家提倡静坐和独思来进行必要的反省和自检。 而基督教文化中也非常重视和强调反省和自检。 《新约》中 耶稣说:如果你觉得兄弟眼中有刺,那其实是你自己眼中有刺。当众人要扔石头砸死一个妓女,耶稣说:如果你觉得自己没有罪恶,那么就可扔这个石头。 如果一个系统或学说或宗教没有要求自检和反省,那么这个系统学说或宗教十有八九要走上邪路和极端。我们睁眼看世界,眼下就不乏这样的例子。 孔子说:无友不如己者。还说:看到不好的,要反求诸于自己。这层意思是,个人不是孤立的、而是存在于一个社会和群体中,个人的标准、价值观和衡量尺码需要有参照。所以古代的学子还提倡游学, 没有汽车高铁飞机的情况下徒步或骑马周游四方去拜访和结识有学问的人,去寻找参照。 而西方在中世纪的教会中有正规的交流体系,导致了后来的科学交流规矩。 在交流中,听者有权力提问和质疑,发言者有义务回答和坦白。 反省和自检是完善和发展的重要手段和途径。 |