电脑程序 AlphaGo 对韩国九段李世石四比一。程序改进后邀战中国九段柯洁，三比零胜。柯九段赛场飚泪。场外观战老聂绝望，谓 AlphaGo 水平已达围棋二十段或更高。聂棋圣一语到家，承认不是人下围棋可超过人，道出这场人机对弈－人机竞赛的意思所在。

赢完两位当世高手之后，AlphaGo 被研发者收起，暂时不再出战。是在继续改进? 还是研发者需要时间做些关于人类哲学的思考? 可以想见，两者都有可能。而后者，对于人工智能的发展来说，尤有必要。

记得某单位有位象棋高手，被一位爱下棋的同事追着请教，非要问您看我下得怎样。高手不得已，只好说老实话，“你棋挺好。……就是有点瞧不出步儿来。”瞧得出棋步，动子之前能瞧（预见）出双方多少步可能的变动，这是行棋时取得先机和胜利所倚仗的根本。高手不欺人，原想说得客气一些，到底客气不成。

初期的电脑棋牌程序，或许就是先输入基本的规则逻辑，再加尽量多多输入各种步骤因应的可能组合，也就是棋步儿，随着机器运算速度升级加快，越来越能料敌机先? 作为人工智能的技术外行，对这个路数我还能约略想像。到了 AlphaGo 的阶段，它好像已经超过了依靠人工输入的因应成方，显示出学习总结和自我提高的能力? 这里究竟有何名堂，就超出了笔者卑微的对人工智能技术的理解。

且说下棋，脑力活儿，机器赢了。动胳臂动腿呢? 更不用说，您甭想说动哪位拳击散打柔道武术举重摔跤等等高手冠军去跟机器较劲。再进一步（两步三步）发展，一旦机器能够自己炼钢锻件，自己生产更换电池，自己修复改进机件程序，那么机器无疑能，用句流行语，完败人类。咱们唯一能指望的，就是它们——在最初被装配好、开始运行后——千万千万压根儿别被用来跟人类作对，像 AlphaGo 被用来将李、柯两位冷冷战胜那样。

笔者这一点忧虑，直到去年以前，自问还属于杞人之思。到 AlphaGo 大败柯洁、国人齐声喝彩（世上其他人反响若何，暂时不知为不知）之后，或许会有更多的人来同忧同虑? 至今早有许多属于科幻类的电影，把机器人或恣意或失控后大败无可奈何的人类描画得如在目前。就孤陋如笔者（为看这类片子从不上电影院，以免头晕，只在电视上看）所见的部分作品而言，恐怕不能说编导只是虚构奇想无由耸听，而是反映了很实在的千岁之忧。AlphaGo 的胜利就是活生生的苗头。

从低级生物进化到脊椎动物再进化到原始人和今天的人类，经历了多久?　文言称“亿万斯年”。然而，从最初投入运营的火车到高速铁路的出现，只有一个半世纪左右。科技发展和自然进化的步伐速率无法相提并论，人工智能属于前者。不难想到，独立于人类，完全外化异化成为另类存在的人工智能，果有一日立于世界，那它得道成仙可远远用不了亿万斯年，也许就是一个或最多几个世纪的事。在那之后，人类即使不被机器消灭，也会终日面临致命对手，比今天的原子弹氢弹要更难对付得多。

所以，人工智能，它的研发制造不可避免地要给人类提出一个问题，那就是对之是否必须施加人类道德的约束。或曰：非也，人工智能显示的是人的无尽聪明，无论何时它都只能为人的具体需要服务。某答：这个，反正你信了，我还得想想。

按主张发展人工智能者说，似乎对人工智能只用功利标准来衡量即足矣。然而，细看功利主义的说法，是“那些给最大多数人带来最大幸福的行动就是最好的行动。”这是不是说，功利主义终归要落在人文主义的规范之内——没有什么聪明机巧有理由离开人的控制而得到人类的承认? 

从人工智能的话题推开，再想一想，有些被视为理所应当的事情，如“发展经济”，如“改造自然”，人类在这些口号下面所做一切是否真正合乎人文即文明的要求? 手边有许倬云教授的书，其中有句感慨：就地球生态系统而言，人类其实就是地球的癌症! 离家不到二十公里处，有孟诺教派聚居的村落，年年月月似在顽强提醒：你们对大自然挦剥得太多了吧? 是否该停停脚步，认真注视一下“再生”和“可持续”的一番道理，让人类且慢且慢，勿要作得太过?

今世之世，各国同志——叔伯姻亲血浓于水也好，相距万里八杆子打不着的也算——为保护人权，已订立公约；为保护环境，已订立公约；为防止大规模杀戮，也有了公约。准此精神，在研发制造人工智能领域，一定也要有个公约（须作为国际法的一部分，只是关于和平使用人工智能的自愿协议之类则无约束力）以为警束，预先禁绝这个新生事物无限制发展，终至于戕贼人类，终至于摧毁地球。

制造人工智能，必须遵守人类道德。此意拳拳，幸毋河汉视之。

    相关链接：马斯克：人工智能安全问题比朝鲜危险得多!

       相关链接：近藤大介：人工智能将给人类带来怎样的变化