设万维读者为首页 万维读者网 -- 全球华人的精神家园 广告服务 联系我们 关于万维
 
首  页 新  闻 视  频 博  客 论  坛 分类广告 购  物
搜索>> 发表日志 控制面板 个人相册 给我留言
帮助 退出
擘倾聃  
从常识到常态:看看,说说,别怕出错;请君为我倾耳听  
https://blog.creaders.net/u/10510/ > 复制 > 收藏本页
网络日志正文
AI 的研制必须遵从人类道德 2017-08-14 04:42:08

电脑程序 AlphaGo 对韩国九段李世石四比一。程序改进后邀战中国九段柯洁,三比零胜。柯九段赛场飚泪。场外观战老聂绝望,谓 AlphaGo 水平已达围棋二十段或更高。聂棋圣一语到家,承认不是人下围棋可超过人,道出这场人机对弈-人机竞赛的意思所在。

赢完两位当世高手之后,AlphaGo 被研发者收起,暂时不再出战。是在继续改进? 还是研发者需要时间做些关于人类哲学的思考? 可以想见,两者都有可能。而后者,对于人工智能的发展来说,尤有必要。

记得某单位有位象棋高手,被一位爱下棋的同事追着请教,非要问您看我下得怎样。高手不得已,只好说老实话,“你棋挺好。……就是有点瞧不出步儿来。”瞧得出棋步,动子之前能瞧(预见)出双方多少步可能的变动,这是行棋时取得先机和胜利所倚仗的根本。高手不欺人,原想说得客气一些,到底客气不成。

初期的电脑棋牌程序,或许就是先输入基本的规则逻辑,再加尽量多多输入各种步骤因应的可能组合,也就是棋步儿,随着机器运算速度升级加快,越来越能料敌机先? 作为人工智能的技术外行,对这个路数我还能约略想像。到了 AlphaGo 的阶段,它好像已经超过了依靠人工输入的因应成方,显示出学习总结和自我提高的能力? 这里究竟有何名堂,就超出了笔者卑微的对人工智能技术的理解。

且说下棋,脑力活儿,机器赢了。动胳臂动腿呢? 更不用说,您甭想说动哪位拳击散打柔道武术举重摔跤等等高手冠军去跟机器较劲。再进一步(两步三步)发展,一旦机器能够自己炼钢锻件,自己生产更换电池,自己修复改进机件程序,那么机器无疑能,用句流行语,完败人类。咱们唯一能指望的,就是它们——在最初被装配好、开始运行后——千万千万压根儿别被用来跟人类作对,像 AlphaGo 被用来将李、柯两位冷冷战胜那样。

笔者这一点忧虑,直到去年以前,自问还属于杞人之思。到 AlphaGo 大败柯洁、国人齐声喝彩(世上其他人反响若何,暂时不知为不知)之后,或许会有更多的人来同忧同虑? 至今早有许多属于科幻类的电影,把机器人或恣意或失控后大败无可奈何的人类描画得如在目前。就孤陋如笔者(为看这类片子从不上电影院,以免头晕,只在电视上看)所见的部分作品而言,恐怕不能说编导只是虚构奇想无由耸听,而是反映了很实在的千岁之忧。AlphaGo 的胜利就是活生生的苗头。

从低级生物进化到脊椎动物再进化到原始人和今天的人类,经历了多久? 文言称“亿万斯年”。然而,从最初投入运营的火车到高速铁路的出现,只有一个半世纪左右。科技发展和自然进化的步伐速率无法相提并论,人工智能属于前者。不难想到,独立于人类,完全外化异化成为另类存在的人工智能,果有一日立于世界,那它得道成仙可远远用不了亿万斯年,也许就是一个或最多几个世纪的事。在那之后,人类即使不被机器消灭,也会终日面临致命对手,比今天的原子弹氢弹要更难对付得多。

所以,人工智能,它的研发制造不可避免地要给人类提出一个问题,那就是对之是否必须施加人类道德的约束。或曰:非也,人工智能显示的是人的无尽聪明,无论何时它都只能为人的具体需要服务。某答:这个,反正你信了,我还得想想。

按主张发展人工智能者说,似乎对人工智能只用功利标准来衡量即足矣。然而,细看功利主义的说法,是“那些给最大多数人带来最大幸福的行动就是最好的行动。”这是不是说,功利主义终归要落在人文主义的规范之内——没有什么聪明机巧有理由离开人的控制而得到人类的承认? 

从人工智能的话题推开,再想一想,有些被视为理所应当的事情,如“发展经济”,如“改造自然”,人类在这些口号下面所做一切是否真正合乎人文即文明的要求? 手边有许倬云教授的书,其中有句感慨:就地球生态系统而言,人类其实就是地球的癌症! 离家不到二十公里处,有孟诺教派聚居的村落,年年月月似在顽强提醒:你们对大自然挦剥得太多了吧? 是否该停停脚步,认真注视一下“再生”和“可持续”的一番道理,让人类且慢且慢,勿要作得太过?

今世之世,各国同志——叔伯姻亲血浓于水也好,相距万里八杆子打不着的也算——为保护人权,已订立公约;为保护环境,已订立公约;为防止大规模杀戮,也有了公约。准此精神,在研发制造人工智能领域,一定也要有个公约(须作为国际法的一部分,只是关于和平使用人工智能的自愿协议之类则无约束力)以为警束,预先禁绝这个新生事物无限制发展,终至于戕贼人类,终至于摧毁地球。

制造人工智能,必须遵守人类道德。此意拳拳,幸毋河汉视之。

    相关链接:马斯克:人工智能安全问题比朝鲜危险得多!

       相关链接:近藤大介:人工智能将给人类带来怎样的变化


浏览(993) (1) 评论(5)
发表评论
文章评论
作者:擘倾聃 回复 麻辣戈壁的共匪 留言时间:2017-08-15 06:12:47

敝文自然只能写给承认有人类道德的人,不可能与虎谋皮,竟然想去打动人工智能。

回复 | 0
作者:麻辣戈壁的共匪 留言时间:2017-08-15 05:55:32

人类道德?有这么个东东吗?如果有,那么人类遵从它吗?

回复 | 0
作者:擘倾聃 留言时间:2017-08-15 05:37:26

那么多科幻片渲染机器人失控,不是要跟阿氏唱反调,正是担心“三定律”难保。

AlphaGo 是否表明 AI 可能独立于人类、异化为另类智能? 这个苗头是如今临头的问题。

回复 | 0
作者:擘倾聃 回复 yuan2 留言时间:2017-08-15 04:57:36

谢谢。

说明笔者的杞忧不新鲜,几十年前就有了。固然如此。

说明 AI 的研发几十年来并未威胁人类,杞忧仍不过是杞忧? 但愿如此。

机器人三定律早已在现实中成为研发 AI 的规则,有明确不移的约束力? 但愿如此。

回复 | 0
作者:yuan2 留言时间:2017-08-15 00:32:12

版主,美国科幻小说家早在1950年就提出了机器人三定律,或机器人三原则:

1. 機器人不得傷害人類,或因不作為(袖手旁觀)使人類受到傷害。

2. 除非違背第一法則,機器人必須服從人類的命令;

3. 在不違背第一及第二法則下,機器人必須保護自己。

当然,将来机器人的发展,或者说AI的发展,是否在人类可控的范围内,那就很难讲了。美国已经在几十年前就有许多科幻小说,科幻电影描绘这些人类灾难了,虽然最后还是人类获胜。

回复 | 0
我的名片
擘倾聃
注册日期: 2015-10-10
访问总量: 312,575 次
点击查看我的个人资料
Calendar
我的公告栏
也算如梦令
最新发布
· 处争竞世界,作完全国民(三)
· 处争竞世界,作完全国民(二)
· 处争竞世界,作完全国民(一)
· 芳华和青春,无悔与有悔
· 《罗刹海市》是个公用出气筒
· 感时——躺平歌
· 论战狼与外交实不相干
友好链接
· 马黑:马黑的博客
· 谢盛友文集:德国谢盛友的博客
· 寡言:寡言的博客
· 寡人:寡人的博客
· 马悲鸣:马悲鸣的博客
分类目录
【所思】
· 处争竞世界,作完全国民(三)
· 处争竞世界,作完全国民(二)
· 处争竞世界,作完全国民(一)
· 芳华和青春,无悔与有悔
· 《罗刹海市》是个公用出气筒
· 论战狼与外交实不相干
· Trump纽约出庭与马英九访大陆
· 这部老电影的中文片名
· 历史真相非任何定论所能塑造
· “政治正确”的政治和正确
【歌言】
· 感时——躺平歌
· 【七言四句】电视剧《渴望》观后
· 七言四句 转圈铲雪歌
· 二十大可叹习初心
· 贺新郎—用辛陈唱和词韵
· 王小波67生辰纪念
· 波音 737 空难之恨
· 七律-《郑也夫自述》读后
· 为韶山1966年毛诗碑立记
· 鹧鸪天 - 陈寅恪著《柳如是别传
存档目录
2024-01-01 - 2024-01-12
2023-10-20 - 2023-10-20
2023-08-01 - 2023-08-01
2023-07-16 - 2023-07-16
2023-05-31 - 2023-05-31
2023-04-04 - 2023-04-04
2023-03-04 - 2023-03-19
2023-02-14 - 2023-02-14
2023-01-23 - 2023-01-23
2022-12-17 - 2022-12-17
2022-10-19 - 2022-10-19
2022-09-22 - 2022-09-30
2022-08-20 - 2022-08-31
2022-07-07 - 2022-07-07
2021-02-09 - 2021-02-09
2020-12-04 - 2020-12-04
2020-11-20 - 2020-11-20
2019-05-12 - 2019-05-23
2019-04-17 - 2019-04-17
2019-03-04 - 2019-03-13
2019-02-16 - 2019-02-22
2019-01-01 - 2019-01-26
2018-12-07 - 2018-12-30
2018-11-29 - 2018-11-29
2018-10-04 - 2018-10-04
2018-09-02 - 2018-09-29
2018-08-08 - 2018-08-31
2018-07-04 - 2018-07-22
2018-06-25 - 2018-06-25
2018-05-13 - 2018-05-27
2018-04-10 - 2018-04-12
2018-03-04 - 2018-03-27
2018-02-04 - 2018-02-07
2018-01-09 - 2018-01-18
2017-12-10 - 2017-12-29
2017-11-24 - 2017-11-30
2017-10-01 - 2017-10-09
2017-09-06 - 2017-09-30
2017-08-03 - 2017-08-30
2017-07-01 - 2017-07-31
2017-05-06 - 2017-05-30
2017-04-04 - 2017-04-24
2017-03-04 - 2017-03-17
2017-02-01 - 2017-02-25
2017-01-17 - 2017-01-17
2016-12-01 - 2016-12-29
2016-11-05 - 2016-11-26
2016-06-10 - 2016-06-10
2016-05-16 - 2016-05-16
2016-04-27 - 2016-04-27
2016-03-04 - 2016-03-04
2016-02-15 - 2016-02-15
2016-01-16 - 2016-01-16
2015-11-01 - 2015-11-23
2015-10-20 - 2015-10-31
 
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network /Creaders.NET. All Rights Reserved.