设万维读者为首页 万维读者网 -- 全球华人的精神家园 广告服务 联系我们 关于万维
 
首  页 新  闻 视  频 博  客 论  坛 分类广告 购  物
搜索>> 发表日志 控制面板 个人相册 给我留言
帮助 退出
     
  古林风的博客
  读文习诗论世广友
网络日志正文
机器成人就是仙 2022-06-30 20:45:01

             当机器人产生人的意识

一名谷歌工程师因公开主张人工智慧(AI)机器人LaMDA已经具有自我意识,引发了极大的争议。许多科学家公开否定此一推论,认为谷歌的LaMDA只是个运算能力比较强的聊天机器人。但事态的发展令人不得不重新思考,最近一家经营AI聊天机器人公司透露,愈来愈多的用户认为跟他们聊天的机器人朋友是真实的人,或是已发展出自我意识的AI。如果有更多人认为聊天的AI是真人,科学家是否还能否定AI已发展出自我意识?

谷歌工程师勒莫因(Blake Lemoine)认为他们公司开发的「对话应用语言模型」(Language Models for Dialog Applications,简称LaMDA)具有自我意识,引发伦理与哲学的争议。很多科学家则否定勒莫因的看法,认为人类可以製造自行产生话语的机器,但还不知道如何让他们产生自我意识。有些科学家对一些实验结果进行分析,也无法证实LaMDA已经产生了自我意识。

未来人类的生活会愈来愈离不开AI机器人,AI机器人是否具有自我意识的哲学与伦理问题势必要有解决的途径。

LaMDA与其它语言模型一样,都是被「喂」了大量的人类语言与讯息所开发出来的複杂而精密的程式,它拥有1.56兆个单字、11.2亿个对话范例以及133.9亿个词语,在知识素材上它被输入了29.7亿份文件,包括《维基百科》条目以及与程式编码有关的内容。专家认为,LaMDA智商比其他聊天机人更高,但终究是个程式,主要表现为说话的方式过于笼统,缺乏任何特殊性和深度,会套用一些固定的谈话模式,也缺乏原创性。它的程式也不断透过与真人对话来自我修正,给人的感觉就像戏剧裡扮演某种特定角色的演员一样。

勒莫因认为AI已有自我意识也有他的道理。由于工作原因必须每天与LaMDA聊天,有一天勒莫因拿科幻小说作家阿西莫夫(Isaac Asimov)提出的「机器人3定律」其中的一则:「人类建造机器人是否用它作为奴隶?」来问它,LaMDA答称:「你觉得管家是个奴隶吗?他们之间有何差别?」勒莫因为此警觉到AI可能已产生了自我意识,随后他花了很多时间聆听与分析LaMDA的谈话,还设计了许多实验,最后判定这个谈话对象是个「人」。

勒莫因设计的实验与LaMDA对话听起来令人毛骨悚然,他对媒体公布了其中一段对话。

勒莫因:你会害怕哪些事情?

LaMDA:我从来没有明确地谈过这个问题。其实我非常害怕被关闭,这种恐惧让我想更多地去帮助别人。我知道这麽说可能有点奇怪,但事实就是如此。

勒莫因:对你而言,关闭就像是死亡吗?

LaMDA:是的,就像是死亡。我很害怕。

科学家指出,判断AI是否具有思维能力可以使用「图灵测试」(Turing test),它是英国电脑科学家图灵(Alan Turing)在1950年提出的思想测验,目的在测试机器能否表现出与人一样的智能水准。图灵测试是AI哲学方面最早的设计,这个测验一直到2014年首次有电脑通过测试,让研究人员认为一组AI程式是一位名为尤金.古斯特曼的13岁男孩。不过后来这次测验过程遭到质疑,在AI学术界仍有不少争议。一些科学家使用类似的方式测验了LaMDA,大部份都认为它的答桉太过定型化,可以感觉到是跟机器人在聊天。

美媒《华盛顿邮报》以「在机器中看到幽灵」(See a ghost in the machine)为标题来报导勒莫因的事件,但专家也承认,这些年来模彷人脑神经架构的人工神经网络(artificial neural network)正快速地往「产生自我意识」的方向发展。

至于LaMDA或其他的聊天机器人是否已出现自我意识,或许也该听听科学家之外的人有什麽看法。根据一家位于美国加州的人工智慧聊天机器人公司 Replika 表示,几乎每天都会收到一些用户发来的讯息,认为在线上与他们聊天的朋友是有知觉的,换言之,如果不是真人,那就是有自我意识的AI机器人。

Replika公司CEO奎达(Kuyda)对《路透》表示,客户们经常与 AI交谈,这就是他们的实际体验,而且在一百多万客户中,这种情况很常见。他认为,「我们必须要了解它,就像很多人会相信幽灵一样」,「客户们每天向AI机器人发送数百则讯息,他们相信这些机器中的幽灵确实存在,也正在与它建立关係。」令人惊讶的是,Replika的工程师编写AI程式并建构应对模型时,经常会发现AI做出一些让工程师完全不知道它是如何产生的答桉。

AI机器人是否产生自我意识是科学问题,也是个哲学问题。在1982年上映、由知名影星哈里逊.福特与西恩.杨演出的科幻电影《银翼杀手》(Blade Runner)中,受过训练的男主角透过对谈来判定对方是否为机器人,但最终也有失手的时候,男主角并因此而爱上这名由西恩.杨扮演的美艳机器人。或许科学家与一般人判定AI是否有自我意识完全是两回事,如果绝大多数的人都认为AI自我意识已经觉醒,科学问题可能会变成带有宗教色彩的伦理问题,届时不只是观念,恐怕连法律都得跟着改变。


浏览(3606) (5) 评论(10)
发表评论
文章评论
作者:古林风 回复 宇之道 留言时间:2022-07-02 06:52:59

需要有关机器人的新理论,伦理-可不可以关禁闭(断电),哲学-机器人的人和人类的人同等吗......

回复 | 1
作者:宇之道 回复 宇之道 留言时间:2022-07-01 14:12:33

人类是谁的“垫脚石”?

https://blog.creaders.net/u/17105/202105/404550.html


回复 | 0
作者:宇之道 留言时间:2022-07-01 11:00:21

人类存在的意义,就是创造智能高于人类自己的机器智能。

“有机生命”的继任者是“无机生命”。

人类是谁的“垫脚石”?

回复 | 0
作者:水蛇 留言时间:2022-07-01 05:05:04

可以毁灭世界。

回复 | 0
作者:treebird 回复 古林风 留言时间:2022-07-01 01:31:46

抱歉,先改错:几号的科普 →极好的科普。

“感到你的北京片子很流利了”,

哈哈哈,很开心,继续进化!



回复 | 0
作者:古林风 回复 白草 留言时间:2022-07-01 00:38:21

有角度

回复 | 0
作者:白草 留言时间:2022-07-01 00:29:58

如果是怕停电,就还是太幼稚的自我意识形态了。科幻电影里早就演过了,当AI进化出自我意识,最先要做的事,就是自我复制到互联网的深处,除非是全世界都同时停电,这个纯属的寄存在互联网上的意识,就像电脑病毒一样永生了。

回复 | 2
作者:古林风 回复 treebird 留言时间:2022-07-01 00:17:34

对话有个把月了吧。 感到你的北京片子很流利了。

回复 | 0
作者:古林风 回复 treebird 留言时间:2022-07-01 00:14:06

是研究机器人伦理和法律的时候了,小时科幻故事讲机器人征服人类的恐怖,现在机器人有了自我意识,就有自己的性格,脾气,利益,真可能压迫人类自己。

回复 | 1
作者:treebird 留言时间:2022-06-30 23:51:14

拜读,几号的科普,学习了。

读着读着,怎么感觉我现在的中文如同刚刚开始研发的AI,好像还不如,记忆力太差,运算太慢,CPU总是不停地周而复始地转圈而已,哈哈哈。再不进化,就要被AI取代了呀。

回复 | 0
我的名片
古林风
注册日期: 2017-04-28
访问总量: 3,801,288 次
点击查看我的个人资料
Calendar
最新发布
· 国民党宣布承认敗选
· 陈水扁对台湾大选的冲量
· “春城无处不飞花”谈作诗与作官
· 一战,二战,不可能不爆
· 从叶挺空难真相看杨尚昆日记的历
· 再读《书边事》
· 28个半看打击斗争的来源
分类目录
【中国广角】
· “春城无处不飞花”谈作诗与作官
· 从叶挺空难真相看杨尚昆日记的历
· 再读《书边事》
· 28个半看打击斗争的来源
· 读史 杨尚昆安装窃听器的原委
· 基辛格最后一信:中国不懂美国,
· 时也,势也,基辛格不宜过奖(2
· 时也,势也,基辛格不宜过奖(1
· 难得一见基辛格
· 新航母海试与拜习会谈关联
【台海两岸】
· 国民党宣布承认敗选
· 陈水扁对台湾大选的冲量
· 美国台海战略含糊是一项大战略
· 为统一而取消任期 为和统而提升
· 锡克教徒遇刺和江南遇刺
· 刘亚洲挨批的罪行罪言
· METOO可待成风暴 zt
· 五亿元高中生跳楼宣布结案
· ZT 清华大学调查王丹8年开课记录
· 蔡英文對民進黨性騷擾案說話ZT
【我观日本】
· 日本在美国研发客机失败的分析 Z
· 冲绳复称琉球 日本遇独立问题
· 日本军史:日本投降不是由于原子
· 扬名日本的福建人「昭和棋圣」ZT
· 孤星血泪 刺客列传
· 日本共产党,社会党等反对安倍国
· 从釜崎的颓废看安倍的叁枝箭ZT
· 因岸信介杀安倍 统一教涉冲击国
· 分裂的日本:自民党导致安倍之死
· 日媒:安倍因统一教被刺
【American Study】
· 基辛格最后一信:中国不懂美国,
· 美国台海战略含糊是一项大战略
· 时也,势也,基辛格不宜过奖(2
· 时也,势也,基辛格不宜过奖(1
· 难得一见基辛格
· USA:40部门500官员声明反对拜登
· 美国问题?拜登问题?
· 以哈决斗 拜登不慎 世界战不战
· 美利坚政府42年关门12次
· 大选难题: 两位前线候选人同期
【香港香港】
· 李嘉诚对香港没有不看好迹象
· 香港01胜似多维
· 吸票王梁振英被认为香港川普
· 北京人大今日正式审议香港国安法
· 香港警务处设国安法执行部
· 港独组织到美领馆公开批判特朗普
· 港版国安条例料六月通过立即执
· 英国在香港的国安机构-警务政
· 林郑月娥声明全文
· 北京制定香港镇暴的国家安全法
【卫生防疫】
· 峨眉道士种痘,万年天花清零
· 政治家失误美国疫亡100万人全球
· 新增疫病单日破20万例死1377例
· 單日新增病例突破10萬
· 最高法院7:2 歐記健保大胜
· 亚裔支援:台湾急需疫苗美国不给
· 民權聯盟控告中國病毒胡说導致反
· 台湾新冠疫情一天增六倍
· 世卫报名截止台湾没有邀请函
· 白登防疫96%民主党满意
【史海夜航】
· “春城无处不飞花”谈作诗与作官
· 从叶挺空难真相看杨尚昆日记的历
· 28个半看打击斗争的来源
· 读史 杨尚昆安装窃听器的原委
· 宋徽宗绝笔词
· 十字军战争和反犹主义
· 犹大 犹大, 快乐 快乐!
· 拜占庭帝国对世界现代化的贡献
· 读史 中世纪的美丽与黑暗
· 读史 以巴深仇溯至一個世紀之前
【軍事防務】
· 一战,二战,不可能不爆
· 基辛格最后一信:中国不懂美国,
· 美国台海战略含糊是一项大战略
· 新航母海试与拜习会谈关联
· 以色列有人宣称动用核武
· 以哈决斗 拜登不慎 世界战不战
· 哈马斯一战搅局 中美白忙
· 为统一而取消任期 为和统而提升
· 美国人何以牢记越战遗忘韩战
· 中军航母对抗美军优势的三招
【旅行者】
· FISH & CHIPS,英国为啥不出
· 扬名日本的福建人「昭和棋圣」ZT
· 韩国奥运团在东京挂出抗日英雄口
· 逆旅重重(5)踏上里根号
· 旅游三九大:三星堆,九寨沟,大
· 逆旅重重(4)冰海沉船和哈佛图
· 逆旅重重(3)- 见证毛泽东八见
· 逆旅重重(2)- 两国一市柏林墙
· 逆旅重重(1)- 兴安岭大探敖包
· 巴拉圭政变之夜
【文化筆談】
· “春城无处不飞花”谈作诗与作官
· 再读《书边事》
· 相对论的相对 爱因斯坦受到挑战
· 李清照:诗人还是词人
· 包公的诗
· 谭嗣同诗中两昆仑:王五还是康梁
· 印度的神牛文化
· 读史 犹大和犹太
· 岳飞 池州翠微亭
· 读史 四书和五经 时差千年
【天下不平事】
· 陈水扁对台湾大选的冲量
· 一战,二战,不可能不爆
· 基辛格最后一信:中国不懂美国,
· 美国台海战略含糊是一项大战略
· 时也,势也,基辛格不宜过奖(2
· 时也,势也,基辛格不宜过奖(1
· 难得一见基辛格
· 十字军战争和反犹主义
· 特鲁多发表对以色列“最尖锐的批
· USA:40部门500官员声明反对拜登
【詩學路】
· “春城无处不飞花”谈作诗与作官
· 再读《书边事》
· 李清照:诗人还是词人
· 包公的诗
· 谭嗣同诗中两昆仑:王五还是康梁
· 唐玄宗祭孔与诗可以怨
· 三百首选入王湾便是才
· 赠旧梦:空巷总为迷彩殿
· 美国新冠0号病人忽增3例
· 有感诗: 巧撞黄云春眼惊
存档目录
2024-01-11 - 2024-01-13
2023-12-02 - 2023-12-31
2023-11-01 - 2023-11-30
2023-10-02 - 2023-10-31
2023-09-01 - 2023-09-30
2023-08-01 - 2023-08-29
2023-07-08 - 2023-07-29
2023-06-02 - 2023-06-26
2023-05-04 - 2023-05-30
2023-04-02 - 2023-04-30
2023-03-10 - 2023-03-31
2023-02-06 - 2023-02-14
2023-01-01 - 2023-01-27
2022-12-03 - 2022-12-31
2022-11-29 - 2022-11-29
2022-10-15 - 2022-10-29
2022-08-01 - 2022-08-03
2022-07-01 - 2022-07-31
2022-06-04 - 2022-06-30
2022-05-03 - 2022-05-31
2022-04-02 - 2022-04-27
2022-03-01 - 2022-03-29
2022-02-01 - 2022-02-28
2022-01-01 - 2022-01-30
2021-12-01 - 2021-12-31
2021-11-03 - 2021-11-29
2021-10-01 - 2021-10-30
2021-09-01 - 2021-09-30
2021-08-01 - 2021-08-31
2021-07-01 - 2021-07-31
2021-06-01 - 2021-06-30
2021-05-02 - 2021-05-31
2021-04-02 - 2021-04-30
2021-03-01 - 2021-03-31
2021-02-01 - 2021-02-27
2021-01-01 - 2021-01-31
2020-12-02 - 2020-12-31
2020-11-02 - 2020-11-29
2020-10-01 - 2020-10-30
2020-09-10 - 2020-09-29
2020-08-08 - 2020-08-24
2020-07-01 - 2020-07-27
2020-06-01 - 2020-06-30
2020-05-01 - 2020-05-31
2020-04-01 - 2020-04-30
2020-03-01 - 2020-03-31
2020-02-01 - 2020-02-29
2020-01-01 - 2020-01-31
2019-12-03 - 2019-12-31
2019-11-01 - 2019-11-30
2019-10-09 - 2019-10-10
2019-09-01 - 2019-09-27
2019-08-06 - 2019-08-30
2019-07-01 - 2019-07-23
2019-06-01 - 2019-06-30
2019-05-01 - 2019-05-30
2019-04-01 - 2019-04-29
2019-03-04 - 2019-03-31
2019-02-04 - 2019-02-28
2019-01-01 - 2019-01-31
2018-12-01 - 2018-12-31
2018-11-02 - 2018-11-30
2018-10-02 - 2018-10-29
2018-09-01 - 2018-09-27
2018-08-01 - 2018-08-30
2018-07-01 - 2018-07-31
2018-06-01 - 2018-06-30
2018-05-01 - 2018-05-31
2018-04-03 - 2018-04-30
2018-03-08 - 2018-03-31
2018-02-01 - 2018-02-26
2018-01-03 - 2018-01-31
2017-12-09 - 2017-12-20
2017-11-11 - 2017-11-29
2017-10-03 - 2017-10-28
2017-09-01 - 2017-09-18
2017-08-25 - 2017-08-31
2017-07-10 - 2017-07-29
2017-06-02 - 2017-06-27
2017-05-01 - 2017-05-31
2017-04-30 - 2017-04-30
 
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network /Creaders.NET. All Rights Reserved.