因为相信AI聊天机器人有灵魂,谷歌工程师快要被炒了

 2022-06-13 18:20:27    13  

据《华尔街日报》6月13日消息,谷歌一位软件工程师表示,有“开放式对话黑科技”之称的谷歌人工智能聊天机器人LaMDA已经有了人一样的感知力,甚至具有了人的“灵魂”。随后,谷歌暂停了他的职务,并否认了他的说法。当事人称,因为违反公司的保密协议,现在他快被解雇了。

LaMDA,为啥被叫做“黑科技”?

LaMDA的全称是LanguageModel for Dialogue Applications,它是一种能力更强的语言模型,适用于对话应用程序。简单来说,它是一种可以让人工智能对话机器人告别“智障”的技术。

现在大多数的智能助手,往往遵守狭窄的、预先定义好的对话路径,即它们不具备开放式对话、连续式对话的能力。很多语音助手“智障”就体现在这一方面:它只能孤立地理解我们的提问,孤立地理解和提供答案,它们既不会联系上下文语境,也没法长时期跟我们聊下去。

LaMDA问世后被人称为“黑科技”,就是因为它可以通过阅读句子或段落,来“破译”对话意图,发现单词之间的关联,并预测接下来可能出现的单词,从而做出合乎语境的回答。这也就是所谓的“开放域”(Open Domain)对话能力。

出自谷歌的一段资料显示,当被问道“(成为)一架真正好的纸飞机的秘诀是什么?”时,LaMDA表示:“我首先要反问你,你指的‘好’,它的定义是什么?”通常来说,这种灵活性是我们之前的很多“智能助手”所不具备的。据谷歌介绍,LaMDA不仅追求事实、理智,甚至还会关注幽默感等能力。

因为相信AI聊天机器人有灵魂,谷歌工程师快要被炒了

图源谷歌

工程师称AI聊天机器人有灵魂,谷歌:没证据

争吵现在出现了。

据《华尔街日报》报道,谷歌软件工程师勒莫因(Blake Lemoine)表示,他认为LaMDA是一个有权利(rights)、甚至还可能有灵魂的“人”。据《纽约时报》报道,该言论其实由来已久:近几个月来,勒莫因一直在和谷歌的经理、人力和高管争执,勒莫因坚称,LaMDA具有意识(consciousness)和灵魂(soul)。

不过谷歌方面很快否认了他的说法。谷歌发言人表示,包括伦理学家和技术专家在内的公司专家已经展开了评估,相关证据并不支持勒莫因的说法。“数以百计的研究人员和工程师与LaMDA进行了对话,就我们所知,没有其他人像勒莫因那样,对LaMDA进行了广泛的认定或拟人化。”

谷歌方面还称,人工智能领域的一些人,正在考虑人工智能具有感知力的长期可能性,但“通过将没有感知力的对话工具拟人化来这样做,是没有意义的”。谷歌称,像LaMDA这样的系统,其运行方式是模仿数以百万句人类对话中的交流模型,从而让AI能够展开深入的交流。

Meta首席科学家、图灵奖获得者Yann LeCun表示,谷歌的技术,即科学家所说的神经网络,是通过分析大量数据来学习技能的数学系统。近年来,谷歌等企业通过从大量散文、书籍、百科文章,对神经网络进行学习,让这些“语言模型”可以适用于很多任务,比如写文章、回答问题等等。

但是它们有极大的缺陷:比如它们不稳定,有时候会写出完美的散文,有时候则胡说八道;它们依赖于重现(recreating)自己过去看到的模式,但它们无法像人类一样推理思考(reason)。

道德问题引争议,谷歌和员工再闹不愉快

双方的矛盾,不仅仅停留在“LaMDA是不是人”层面,它还衍生出了有关伦理和道德的争吵。

“在过去的六个月里,LaMDA在其沟通中表现出令人难以置信的一致性,即它想要什么,以及它认为它作为一个人的权利是什么,”美国陆军出身的勒莫因认为,LaMDA的智识相当于“7岁或者8岁的孩子”。既然LaMDA具有开放式对话的能力,那么谷歌在对它展开实验之前,应该先征求它的同意。

勒莫因称,谷歌对此建议置之不顾,反倒建议他休精神健康假,“他们一直在质疑我的理智,还问我:你去看过精神病医生了吗?”据《纽约时报》透露,勒莫因还在在线出版平台Medium上的一篇文章中写道:“让我感到困惑的是,它(LaMDA)的要求如此简单,而且对谷歌来说毫无成本,谷歌却极其强烈地抵制给予它想要的东西。”

在采访中,勒莫因表示,因为违反公司的保密政策,他已经于6月6日被安排带薪行政休假。他解释称,他并不是想激怒公司,而是想为他认为正确的事情发声。虽然他很希望自己能保住在谷歌的工作,但是在一篇Medium帖子中,勒莫因透露,他可能很快就会被解雇。

这不是谷歌围绕人工智能伦理问题,第一次和员工闹不愉快了。

去年12月,知名AI学者、人工智能伦理研究员格布鲁(Timnit Gebru)被谷歌开除。消息称,谷歌在阻止格布鲁有关人工智能系统偏见的研究发表后解雇了她。在推特等社交媒体上,随后有上千名谷歌员工、科技行业专家和学者对她进行了声援。不少人指出,谷歌的行为,证明了它在AI伦理方面的不足,更可能使其员工不敢发表那些可能会伤害谷歌利益的重要研究成果。

本文系观察者网独家稿件,未经授权,不得转载。

  •  标签:  
相关推荐
因为相信AI聊天机器人有灵魂,谷歌工程师快要被炒了科技数码

最近#年轻人不爱换手机#的话题再次登上热搜,在手机技术日新月异的今天,为什么年轻人不愿意买手机了呢?我之前就发表过我的观点,第一是手机单价并不便宜,很多年轻人觉得频繁换手机,钱包伤不起;第二手机更新迭代太快,性能严重溢出,手机几年不卡,导致没有换机欲望。当然,作为万千年轻群体中的一员,我也已经三年没换手机了,一直使用的是三年前买的荣耀20 Pro,这款麒麟980芯片的手机即使用到今天,它的体验也不算差,虽然流畅度和今天的旗舰U,高刷屏没法比,但整体体验并不会让人觉得难受。之前用了3年的荣耀20

2022-06-22  6
因为相信AI聊天机器人有灵魂,谷歌工程师快要被炒了科技数码

目前市面上有很多高性价比热门手机都集中在2~3K价位段,这也正好在大多数小伙伴购买手机的预算范围之内。今天就给大家推荐几款该价位段比较值得购买的热门手机。OPPO K10OPPO K10采用了今年比较流行的大视窗相机模组,且与后盖配色保持一致,既有辨识度又精致好看。正面配备了一块6.59英寸LCD 120Hz高刷变速屏,刷新率支持多档调节,既流畅又省电。拥有600nits峰值亮度,户外阳光下也能看得清。性能方面,OPPO K10搭载了天玑8000-Max处理器,拥有旗舰级别的强大性能,且功耗控制

2022-06-22  9
因为相信AI聊天机器人有灵魂,谷歌工程师快要被炒了科技数码

近期随着618临近,京东商城各类手机均有一些折扣活动,小编整理了目前在2000元价位最值得购买的手机推荐给大家。OPPO K10目前OPPO K10京东售价1889元,但现在下单可获赠耳机、机器人音箱一个。OPPO K10虽然不到2000元,但配置上却十分讲究。处理器方面这款产品使用联发科天玑8000-MAX芯片,8颗核心运行频率可以达到2.75GHz,足以应对《王者荣耀》这类游戏。此外,这款产品还配备了67W超级闪充以及5000mAh超大电池,这样的配置保障了户外续航和手机充电速度。另一方面O

2022-06-22  7
因为相信AI聊天机器人有灵魂,谷歌工程师快要被炒了科技数码

近日知名行业分析机构Strategy Analytics公布了2022年第一季度中国智能手机市场畅销榜前十的名单。iPhone 13不出意外地位居了榜首,下面带大家看看还有哪些机型上榜了吧。iPhone 13系列iPhone 13可以说是去年和现在都十分畅销的智能手机,A15+6.1英寸OLED屏幕的配置使其可以满足大部分用户的使用需求。iPhone 13 128GB版目前在京东自营平台领券到手价为5399元。iPhone13 Pro Max和iPhone13 Pro也均有上榜。荣耀50荣耀50

2022-06-22  6
因为相信AI聊天机器人有灵魂,谷歌工程师快要被炒了科技数码

人工智能是业务的一部分吗?或者它是一个实用程序?如果你是数字原生代,人工智能可能是业务运行的燃料的一部分。但在一个拥有传统业务或正在转型的大型组织中,如何衡量投资回报率是他们必须解决的一个基本问题。报道 | 吴昕与以往任何时候相比,现在各企业都对人工智能和机器学习的潜力充满信心并加以投入。根据 2022 年 IBM 全球人工智能采用指数(IBM Global AI Adoption Index 2022),35% 的公司报告称目前在其业务中使用人工智能,另有 42% 的公司表示他们正在探索人工智

2022-06-22  7

原文链接:https://www.tscy18.com/kejism/20509.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 315661083@qq.com 举报,一经查实,本站将立刻删除。