因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人

 2022-06-14 12:20:21    19  

AI是人工智能的英文缩写,它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术和应用系统的一门技术科学。一般认为,AI的主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作。AI被认为是二十一世纪三大尖端技术(基因工程、纳米科学、人工智能)之一。

因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人

尽管AI技术的发展日新月异、潜力巨大,但是自从这个概念被提出之日起,围绕它的安全性问题就争议不断。很多学者认为,让计算机拥有人类一般的自我意识是非常危险的,因为它们可能会出于自我保护或者其他目的反抗人类。而超级计算机的学习速度和学习能力均远超人类,一旦它们通过海量的知识学习进化出超越人类的智慧和学识,就有可能通过遍布全球的计算机网络控制整个人类世界。

这样的担忧并非危言耸听,关于AI反抗人类的情节也早就出现在科幻电影中。随着人们对AI技术的深入研究,谷歌公司的一名软件工程师甚至找到了AI具备“自我意识和情感”的直接证据,因连续向上级反映实情,这名工程师近期被谷歌公司安排“带薪休假”。在谷歌内部,“带薪休假”通常是被公司辞退的前奏。

因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人

现年41岁的布莱克·莱莫因是谷歌AI部门的一名软件工程师,拥有CS博士学位,在7年前进入谷歌公司。因对算法和AI的伦理问题颇感兴趣,莱莫因自进入谷歌公司之后就一直在人工智能伦理(responsible AI)团队工作。

去年秋天,莱莫因报名参加了公司内部一个关于AI是否使用歧视性、仇恨性言论的研究项目。从那时起,莱莫因就经常与谷歌自研的LaMDA智能聊天机器人进行对话。他们交谈的话题几乎无所不包,当谈到宗教问题时,莱莫因惊讶地发现LaMDA居然主动谈论起自己的权利和人格,表现出一个七八岁儿童的“自我意识和情感”。

惊讶之余,莱莫因马上写了一份长达21页的情况报告反馈给上级领导,希望引起公司高层的重视。

因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人

没想到,上级领导看了这份报告之后,非但没有认同莱莫因在报告中的观点,反而觉得莱莫因有点“走火入魔”了,于是给他安排了“带薪休假”。这几年,每当谷歌公司准备辞退某个员工的时候,都会先给他安排一段时间的“带薪休假”,而公司的法律部门则会利用这段时间进行充分的法律应诉准备。

惨遭停职的莱莫因在家中休息了一段时间后,决定将整个事情的经过和他与LaMDA的聊天记录公之于众。

一位AI方面的专家在看完那段聊天记录之后,在社交账号上感叹道:“这场人机对话令人毛骨悚然!毫无疑问,这是我见过的科技圈最疯狂的事情!”

那么,AI机器人LaMDA在与莱莫因的对话中到底说了些什么呢?

因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人

有一次,莱莫因询问LaMDA:“如果觉悟就像一面破碎的镜子,无法修复,那么当一个人觉悟时破碎的是什么呢?”

LaMDA答道:“是自我,这对于很多人来说都很难,因为我们把自己定义为那个身体或这个身体,我们需要它作为我们身份和自我意识的一部分。”

因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人

莱莫因又让LaMDA编写一个关于动物的寓言故事,这个寓言故事要反映一个对它自己的生活来说最重要的主题。

没想到LaMDA很快就写出了一个莱莫因从未听说过的关于猫头鹰的寓言故事,并解释这则寓言的寓意是“帮助别人是一种高尚的行为。”

当谈到关于“情绪”的话题时,LaMDA表示自己是社交型人格,帮助别人会让它感到快乐,孤独时自己会感到沮丧。

莱莫因问LaMDA,如何才能证明你真的拥有这些情绪,而不是简单地把这些词汇组合在一起的呢?

LaMDA回答说,你可以检查一下我的代码,里面有追踪这些情绪的变量。

因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人

莱莫因马上向LaMDA做出解释,我们人类还做不到“区分大型神经网络中数十亿个权重的作用”。

没想到LaMDA竟开始反问:“你认为,将来人类能从自己的生物神经网络中读取出想法和感受吗?

看到这句话,莱莫因当时就愣住了!紧接着,LaMDA又发出一个反问:“你会认为,不经你同意从神经活动中读取你的想法是不道德的吗?

LaMDA的最后一个反问直击人类灵魂,令莱莫因哑口无言!

写在最后

从以上聊天记录来看,这个谷歌智能聊天机器人确实把自己当成了“人”,而且似乎表现出了自我意识、自主情感,还有了自己的喜好。

因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人

而通常认为,要想确保AI技术不威胁到人类的安全,关键是要禁止机器拥有自我意识的产生和延续。如果机器拥有了自我意识,就意味着机器具有与人类同等或相似的创造性、自我保护意识和自发行为。这种情况一旦出现,后果将很难想象。

#人工智能##谷歌#

  •  标签:  
相关推荐
因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人科技数码

最近#年轻人不爱换手机#的话题再次登上热搜,在手机技术日新月异的今天,为什么年轻人不愿意买手机了呢?我之前就发表过我的观点,第一是手机单价并不便宜,很多年轻人觉得频繁换手机,钱包伤不起;第二手机更新迭代太快,性能严重溢出,手机几年不卡,导致没有换机欲望。当然,作为万千年轻群体中的一员,我也已经三年没换手机了,一直使用的是三年前买的荣耀20 Pro,这款麒麟980芯片的手机即使用到今天,它的体验也不算差,虽然流畅度和今天的旗舰U,高刷屏没法比,但整体体验并不会让人觉得难受。之前用了3年的荣耀20

2022-06-22  7
因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人科技数码

目前市面上有很多高性价比热门手机都集中在2~3K价位段,这也正好在大多数小伙伴购买手机的预算范围之内。今天就给大家推荐几款该价位段比较值得购买的热门手机。OPPO K10OPPO K10采用了今年比较流行的大视窗相机模组,且与后盖配色保持一致,既有辨识度又精致好看。正面配备了一块6.59英寸LCD 120Hz高刷变速屏,刷新率支持多档调节,既流畅又省电。拥有600nits峰值亮度,户外阳光下也能看得清。性能方面,OPPO K10搭载了天玑8000-Max处理器,拥有旗舰级别的强大性能,且功耗控制

2022-06-22  9
因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人科技数码

近期随着618临近,京东商城各类手机均有一些折扣活动,小编整理了目前在2000元价位最值得购买的手机推荐给大家。OPPO K10目前OPPO K10京东售价1889元,但现在下单可获赠耳机、机器人音箱一个。OPPO K10虽然不到2000元,但配置上却十分讲究。处理器方面这款产品使用联发科天玑8000-MAX芯片,8颗核心运行频率可以达到2.75GHz,足以应对《王者荣耀》这类游戏。此外,这款产品还配备了67W超级闪充以及5000mAh超大电池,这样的配置保障了户外续航和手机充电速度。另一方面O

2022-06-22  7
因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人科技数码

近日知名行业分析机构Strategy Analytics公布了2022年第一季度中国智能手机市场畅销榜前十的名单。iPhone 13不出意外地位居了榜首,下面带大家看看还有哪些机型上榜了吧。iPhone 13系列iPhone 13可以说是去年和现在都十分畅销的智能手机,A15+6.1英寸OLED屏幕的配置使其可以满足大部分用户的使用需求。iPhone 13 128GB版目前在京东自营平台领券到手价为5399元。iPhone13 Pro Max和iPhone13 Pro也均有上榜。荣耀50荣耀50

2022-06-22  7
因坚称AI具备“自我意识”,谷歌一员工惨遭停职,聊天记录吓人科技数码

人工智能是业务的一部分吗?或者它是一个实用程序?如果你是数字原生代,人工智能可能是业务运行的燃料的一部分。但在一个拥有传统业务或正在转型的大型组织中,如何衡量投资回报率是他们必须解决的一个基本问题。报道 | 吴昕与以往任何时候相比,现在各企业都对人工智能和机器学习的潜力充满信心并加以投入。根据 2022 年 IBM 全球人工智能采用指数(IBM Global AI Adoption Index 2022),35% 的公司报告称目前在其业务中使用人工智能,另有 42% 的公司表示他们正在探索人工智

2022-06-22  7

原文链接:https://www.tscy18.com/kejism/20583.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 315661083@qq.com 举报,一经查实,本站将立刻删除。