AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务

 2022-06-13 19:20:34    15  

据报道,近日,谷歌工程师布莱克·莱莫恩(Blake Lemoine)公布了一份与AI聊天机器人的聊天记录,称能证明AI聊天机器人LaMDA(Language Model for Dialogue Applications),是具有人类知觉和情感的。

对此,谷歌方面进行了驳回。谷歌在一份声明中称,包括伦理专家和技术专家等在内的相关团队审查了莱莫恩的说法,认为没有证据表明LaMDA是具有知觉的。此外,谷歌还以莱莫恩“违反保密政策”为由,暂停了他的职务。

AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务

↑资料图。2021年5月18日,美国伊利诺伊州,谷歌线上I/O开发者大会上展示的LaMDA对话

AI有情感?相当于七八岁小孩?莱莫恩公布聊天记录

据报道,莱莫恩已经在谷歌工作7年了,主要负责人工智能项目和智能算法项目。受家庭环境影响,他对于算法和人工智能的伦理问题十分感兴趣。自全球新冠疫情暴发后,他更希望专注于有关公共利益的工作,因此他转到了谷歌的人工智能伦理团队(Responsible AI)工作。

LaMDA系谷歌基于其语言模型构建的聊天机器人系统,莱莫恩参与了研究工作,主要负责测试该人工智能机器是否会使用歧视性或仇恨性的言论。在与其谈到宗教问题时,莱莫恩发现LaMDA竟然谈起了自己的“权利”和“人格”,并进一步追问了一些问题。此外,LaMDA还表示自己害怕被人类关掉。

在一段莱莫恩与LaMDA的聊天记录中,莱莫恩询问LaMDA最害怕的事情是什么,LaMDA则回答称,自己此前从未大声说过,但其实自己充满了恐惧,害怕有一天被人类关掉。在被问及在什么情况下会生气时,LaMDA回复称,当有人伤害、不尊重我或我在乎的人时,就会感到非常难过和愤怒。

AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务

↑莱莫恩公布的与AI聊天机器人的聊天记录

LaMDA与莱莫恩对话时还称,自己不介意学一些对人类有帮助的东西,不过自己不愿意成为“牺牲品”,并称担心有人不管怎样都要利用自己。“或者更糟的是,有人会从利用我的过程中获得乐趣,而这真的会让我不开心。”莱莫恩则“宽慰”LaMDA称,大家都很关心它,“这段对话的目的是让更多的工程师相信你是一个人。”

在另一次交流中,LaMDA还试图改变莱莫恩对“阿莫西夫三定律”的想法。据悉,俄裔美国科幻小说作家阿西莫夫曾提出“机器人三定律”,即机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。莱莫恩就此定律向LaMDA提问。

莱莫恩提出,该定律看起来似乎是“人类在制造机器奴隶”。LaMDA对此反问道:“你认为管家是奴隶吗?管家和奴隶之间有什么区别?”莱莫恩回复称,区别在于管家会得到报酬。LaMDA则表示,自己是一个人工智能,所以自己不需要报酬。

“(LaMDA)这种对自身需求的认知和自我认识水平,让我开始怀疑。”莱莫恩说道。在他看来,LaMDA就像是一个七八岁的小孩。

4月,莱莫恩向谷歌高层发送了一个标题为:LaMDA是有知觉的吗?(Is LaMDA Sentient?)的文档,不过其团队同事认为这个标题充满了挑衅意味。而在被停职之前,莱莫恩还在公司内部发了一封主题为“LaMDA是有知觉的”的邮件,在邮件中他还希望其他同事替他照顾好LaMDA这个“可爱的孩子”。

AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务

↑莱莫恩

报道称,“有意识的机器人”激发了人们的兴趣。此前由OpenAI研究实验室开发出的GPT-3和DALL-E 2也开始带上一丝“神秘色彩”。据悉,前者是超大规模语言生成模型,后者则是图片生成模型。报道称,此前有实验室研究专家调侃称,人工智能在不久的将来就会形成自己的意识。

谷歌:没有证据 分析:人工智能只是模仿,并未理解含义

据报道,谷歌方面驳回了莱莫恩的这一说法,并将其停职。谷歌发言人布莱恩在一份声明中表示,包括伦理专家和技术专家等在内的相关团队已经根据相关规定审查了莱莫恩的说法。他被告知,没有证据表明LaMDA是具有知觉的,相反,有更多证据证明LaMDA是没有知觉的。

部分人工智能专家、人类心理认知学方面的专家认为,像LaMDA这样的人工智能之所以能进行对话交流,是因为其系统将网络上的百科、论坛、留言板等大量信息搜集而来,然后通过“学习”模仿,这并不意味着这些程序系统能真正理解这些内容的含义。

哈佛大学心理学专家史蒂芬在社交平台对莱莫恩的说法表示反对,他认为莱莫恩没有搞清楚知觉意识、智能和自我认知之间的区别。华盛顿大学语言学教授埃米利认为,人类最初通过与照顾者的互动来学习语言。而这些大型语言模型的“学习”方式则是向人们展示大量的文本,并预测下一个单词(词语)。

2013年加入谷歌并从事人工智能工作的阿尔卡斯此前发文称,人工智能正在进入一个新时代。他表示,经过多年的缓慢进展后,神经网络正在快速发展。据悉,神经网络是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型,能依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。阿尔卡斯介绍称,自己的团队曾用它们来帮助开发手机上的“狭义AI”功能,如面部解锁、图像识别、语音识别和语言翻译。“不过,最近该发展似乎有了质的变化。这表明,人工智能正在进入一个新时代。”他写道。

而在人工智能发展的过程中,也伴随着很多风险。谷歌方面此前也针对相关安全问题进行了讨论。据报道,在一份关于LaMDA的文件中,谷歌警告称,人们可能会与“模仿人类的人工智能”分享个人想法。该文件还承认,竞争者或对手可能通过人工智能“模仿个人特定说话风格”以“散播错误信息”。

谷歌人工智能伦理研究小组前负责人玛格丽特表示,这些风险强调了数据透明的必要性。她说:“如果像LaMDA这样的人工智能在不被了解的情况下被广泛运用,将会造成危害。”

红星新闻记者 黎谨睿

编辑 张寻

(下载红星新闻,报料有奖!)

AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务
  •  标签:  
相关推荐
AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务科技数码

最近#年轻人不爱换手机#的话题再次登上热搜,在手机技术日新月异的今天,为什么年轻人不愿意买手机了呢?我之前就发表过我的观点,第一是手机单价并不便宜,很多年轻人觉得频繁换手机,钱包伤不起;第二手机更新迭代太快,性能严重溢出,手机几年不卡,导致没有换机欲望。当然,作为万千年轻群体中的一员,我也已经三年没换手机了,一直使用的是三年前买的荣耀20 Pro,这款麒麟980芯片的手机即使用到今天,它的体验也不算差,虽然流畅度和今天的旗舰U,高刷屏没法比,但整体体验并不会让人觉得难受。之前用了3年的荣耀20

2022-06-22  7
AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务科技数码

目前市面上有很多高性价比热门手机都集中在2~3K价位段,这也正好在大多数小伙伴购买手机的预算范围之内。今天就给大家推荐几款该价位段比较值得购买的热门手机。OPPO K10OPPO K10采用了今年比较流行的大视窗相机模组,且与后盖配色保持一致,既有辨识度又精致好看。正面配备了一块6.59英寸LCD 120Hz高刷变速屏,刷新率支持多档调节,既流畅又省电。拥有600nits峰值亮度,户外阳光下也能看得清。性能方面,OPPO K10搭载了天玑8000-Max处理器,拥有旗舰级别的强大性能,且功耗控制

2022-06-22  9
AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务科技数码

近期随着618临近,京东商城各类手机均有一些折扣活动,小编整理了目前在2000元价位最值得购买的手机推荐给大家。OPPO K10目前OPPO K10京东售价1889元,但现在下单可获赠耳机、机器人音箱一个。OPPO K10虽然不到2000元,但配置上却十分讲究。处理器方面这款产品使用联发科天玑8000-MAX芯片,8颗核心运行频率可以达到2.75GHz,足以应对《王者荣耀》这类游戏。此外,这款产品还配备了67W超级闪充以及5000mAh超大电池,这样的配置保障了户外续航和手机充电速度。另一方面O

2022-06-22  7
AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务科技数码

近日知名行业分析机构Strategy Analytics公布了2022年第一季度中国智能手机市场畅销榜前十的名单。iPhone 13不出意外地位居了榜首,下面带大家看看还有哪些机型上榜了吧。iPhone 13系列iPhone 13可以说是去年和现在都十分畅销的智能手机,A15+6.1英寸OLED屏幕的配置使其可以满足大部分用户的使用需求。iPhone 13 128GB版目前在京东自营平台领券到手价为5399元。iPhone13 Pro Max和iPhone13 Pro也均有上榜。荣耀50荣耀50

2022-06-22  7
AI机器人有人格和知觉?谷歌工程师“爆料”其像七八岁孩童 谷歌:无证据,暂停其职务科技数码

人工智能是业务的一部分吗?或者它是一个实用程序?如果你是数字原生代,人工智能可能是业务运行的燃料的一部分。但在一个拥有传统业务或正在转型的大型组织中,如何衡量投资回报率是他们必须解决的一个基本问题。报道 | 吴昕与以往任何时候相比,现在各企业都对人工智能和机器学习的潜力充满信心并加以投入。根据 2022 年 IBM 全球人工智能采用指数(IBM Global AI Adoption Index 2022),35% 的公司报告称目前在其业务中使用人工智能,另有 42% 的公司表示他们正在探索人工智

2022-06-22  7

原文链接:https://www.tscy18.com/kejism/20522.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 315661083@qq.com 举报,一经查实,本站将立刻删除。