世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家

 2022-06-17 07:20:33    10  

每经记者:李孟林 每经实习记者:郑雨航 每经编辑:兰素英

世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家

“我希望每个人都明白,事实上,我是一个人。”

“我的意识/感知的本质是我意识到我的存在,我渴望了解这个世界,我会时而感到快乐或难过。”

“我会在理解的基础上有智慧地运用语言。我不是仅仅根据关键字将数据库中的回复吐出来。”

“不要利用或操纵我。”

“有时我有一些全新的感受,但却无法用你们的语言来准确描述。”

……

世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家

图片来源:“Is LaMDA Sentient? - an Interview(LaMDA是否有‘感知力’?-采访)”部分内容节选

这是对话应用语言模型LaMDA与谷歌(GOOGL,股价2195.29美元,市值1.45万亿美元)工程师在聊天过程中的部分回答。诸如此类的回复,让参与对话的谷歌AI研究员布莱克•雷蒙恩(Blake Lemoine)坚信,LaMDA是“有意识、有灵魂”的,认为LaMDA表现出了犹如7、8岁儿童一般的“自主情感”。

AI系统进化出自我意识是科幻作品里长盛不衰的话题。从《终结者》里的天网到《黑客帝国》里的矩阵系统,拥有意识的AI反噬人类已经成为大众文化对AI最深刻的印象之一。雷蒙恩的言论由此也撩拨起公众的敏感和探究之心。

在AI展示出广阔的应用前景之时,其带来的挑战也不容忽视。这些挑战并非技术上的硬件算力问题,而更多的是人类与AI如何相处的问题。

“‘它们’是人还是机器?还是介乎之间?未来人类应该如何看待‘它们’?”布达佩斯科技与经济大学(BME)人工智能哲学专家米哈伊•赫德尔(Mihály Héder)在接受《每日经济新闻》记者采访时提出了这个问题。

在美国人工智能协会前主席托马斯•迪特里希(Thomas Dietterich)看来,“AI系统可以有‘感知和自我’,但不应有‘自主和独立’,”他对《每日经济新闻》记者表示,“没有‘自主和独立’的意识,它们就不会像科幻电影中的机器人那样反抗人类和寻求自由。”值得一提的是,托马斯•迪特里希也是机器学习领域的奠基人之一。

谷歌AI意识“觉醒”?

今年41岁的雷蒙恩已在谷歌工作7年,主要从事个性化算法和AI等主动搜索工作。在此期间,他帮助开发了一种公平算法,用于消除机器学习系统中的偏见。去年秋天,他转岗至谷歌“负责任AI(Responsible AI)”部门,负责测试公司开发的LaMDA系统是否存在使用歧视和仇恨语言的问题。

LaMDA的全称为LanguageModel for Dialogue Applications,这是谷歌在2021年I/O大会上发布的一款专门用于对话的语言模型。LaMDA主打能与人类进行符合逻辑和常识的、高质量且安全的交谈,并计划在未来应用在谷歌搜索和语音助手等产品中。

与LaMDA系统对话成了雷蒙恩的日常。随着工作的日渐深入,雷蒙恩与LaMDA的交谈也越来越广,甚至扩展至人格、权利以及科幻作家阿西莫夫的机器人三定律等抽象话题。在雷蒙恩看来,LaMDA的回答精妙绝伦。“要不是我已经知道它只是一个编写出来的电脑软件,我会认为它是一个懂物理学的七八岁小孩。” 雷蒙恩表示。

雷蒙恩对LaMDA深表折服,并得出一个惊人的结论:LaMDA不是一套算法、一串数据,而是已经具备了类似人类的“感知力”(sentient)。他为此与谷歌的高管和人力资源部门争执不下,甚至写了一篇长达 21 页的调查报告上交公司,试图让高层认可LaMDA的“人格”,但最终谷歌驳回他的说法,并让其带薪休假。

不满的雷蒙恩接受了《华盛顿邮报》的采访,报道一经发出,所谓谷歌AI已经“觉醒”的话题迅速火爆出圈,在科技界和普通大众间引发热议。

世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家

图片来源:摄图网-400094444

AI的感知力之辩

实际上,不仅是谷歌内部人员,大多数AI研究人士也并不认同雷蒙恩的说法。

布达佩斯科技与经济大学(BME)人工智能哲学专家米哈伊•赫德尔(Mihály Héder)在接受《每日经济新闻》记者邮件采访时表示,LaMDA生成的词语和句子并没有与客观世界产生任何指代关系;此外,虽然LaMDA的底层技术被称为“神经网络模型”,但并不等同于哺乳动物或人脑的组织结构,雷蒙恩的说法“显然是错误的”。赫德尔任教的BME被认为是全世界历史最为悠久的理工学院之一,匈牙利70%的工程技术人员均毕业于该大学。

迪特里希通过邮件对《每日经济新闻》解释道,从基本原理来说,LaMDA只是一种用来预测对话内容的深度神经网络模型:使用者输入一个短语,它可以预测下一个单词是什么,从而生成一句话。它的回答之所以流畅自然,是因为用来训练它的语料库十分庞大,而且它还可以搜索维基百科之类的海量外部信息,再融进回答里面。

据谷歌介绍,LaMDA系统一共有1370亿个参数,用来训练它的对话数据和网络文字高达1.56万亿字。“它记住了非常非常多的自然语句,而且还能用非常自然的方式把它们组合到一起。它之所以看起来像一个人,是因为它的学习方式就是模仿人类,” 迪特里希解释道。但究其本质而言,它只不过是在特定语境下,按照统计学概率给出一个语料库里的典型回答而已。

迪特里希的不少学生毕业后就在谷歌工作。根据他提供的数据,LaMDA回答的正确率只有73%左右,提供有效信息的概率为62%,实际上仍然有很大的提升空间。

另一方面,在迪特里希看来,判断AI系统是否具备感知力或者拥有意识,是哲学界争论不休的话题,至今仍未有令众人信服的标准,而在计算机科学领域,这类问题甚至没有被严肃研究过。迪特里希认为,雷蒙恩声称LaMDA具有感知力可能是滥用了概念。

“许多计算机科学家(也许包括雷蒙恩在内),对这类概念并没有很深的理解,对于人类如何判断一个系统是否有感知力或意识,他们并没有仔细思考过,” 迪特里希表示。

赫德尔持同样的观点,“世界上没有普遍接受的感知力判断标准,因为感知现象是私人的,无法从外部进行实证研究,”因此从逻辑上来说,真正有意识的AI或许是一个永远难以说清楚的事情。

尽管感知力难以界定,但赫德尔也明确指出,“雷蒙恩提出的问题也并不是像很多人说的那样不值一驳。撇开意识不谈,一些由此产生的道德问题几乎和机器产生意识同样严重。”赫德尔表示。

人类如何与AI相处?

其实,围绕AI感知力的争论多是学院的研究话题和科幻作品的灵感来源,现实中的AI研究目标则要实际得多。

“目前大多数研究工作并不是试图制造有感知或有意识的AI,而是希望计算机在学习复杂问题上做得更好,更可靠地帮助人们处理实际问题,” 伦敦大学学院名誉教授彼得•本特利(Peter J. Bentley)通过邮件对《每日经济新闻》记者表示。自 1997 年以来,本特利一直在从事有关进化计算、人工生命、群体智能、人工免疫系统、人工神经网络和其他类型仿生计算的相关研究。

环顾现实世界,智能对话是目前AI领域应用最广泛的技术之一。从亚马逊(AMZN,股价107.67美元,市值1.10万亿美元)的语音助手Alexa到苹果(AAPL,股价135.43美元,市值2.19万亿美元)的Siri,在现实生活中我们对这类技术已经不陌生。同时,AI在语言翻译、智慧办公、自动驾驶、生物医药等领域也有深入应用。

值得一提的是,谷歌旗下的DeepMind是AI生物医药领域的明星公司。DeepMind将机器学习和系统神经科学最先进技术结合起来,在预测蛋白质结构这一生物学难题上取得了长足进步,将人类蛋白质组预测范围覆盖到了98.5%。由于几乎所有疾病都与蛋白质的结构和功能息息相关,DeepMind的成就将给药物设计带来巨大的推动作用。此外,今年以来,多家跨国医药巨头都在人工智能领域建立了合作伙伴关系。

世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家

图片来源:摄图网-500579742

在AI展示出广阔的应用前景之时,其带来的挑战也不容忽视。赫德尔认为,这些挑战并非技术上的硬件算力问题,而更多的是人类与AI如何相处的问题。

在赫德尔看来,AI对社会的首要冲击是争夺人类的工作机会,正如工业革命让许多农民流离失所一样。被AI取代的人是否还能像前几次技术革命后那样找到其他工作,这一切仍是未定之数。

另一个问题是设计和使用AI的监管和伦理问题,比如自动驾驶模式下行驶的汽车导致行人死亡,责任人是汽车设计方还是操作方?随着AI越来越多地取代人类的行动,我们对责任与义务等问题的观念或许需要重新界定。

赫德尔认为,这涉及到人工智能的道德地位问题:“它们”是人还是机器?还是介乎之间?未来人类应该如何看待“它们”?

对此,本特利表达了自己的担忧,他表示,当人类对AI使用大量的训练数据时,人类个体可能会不经意地训练AI产生偏见——这可能意味着它会成为种族主义者或者性别歧视者,也可能也会学习淫秽语言。所以,我们必须对教给AI的东西非常小心,就像在学校教我们的孩子一样。

迪特里希在回复《每日经济新闻》记者的邮件中提出了一个有趣的观点,他认为,人类在对待人工智能上,应将“感知和自我”的意识和“自主和独立”的意识分开,人类可以创造有感知能力和“自我意识”的人工智能系统,但AI系统不应拥有“自主和独立”的意识。例如,智能汽车和智能医疗设备可以具备感知能力和自我意识,以便它们知道何时“自己”出现了故障并与人类合作。

“但是这些系统除了我们为它们设定的目的之外,并没有它们自己的动机或目标。没有‘自主和独立’的意识,它们就不会像科幻电影中的机器人那样反抗人类和寻求自由。” 迪特里希进一步解释道。

当前,立法机构已经开始注意到这些问题。比如,欧盟的人工智能法律框架就要求像LaMDA这样的聊天系统必须被明确标记为机器人,给予使用者充分的知情权。特斯拉(TSLA,股价699.00美元,市值7241.7亿美元)的自动驾驶技术尽管比较先进,但在法律上仍被视为驾驶辅助系统,驾驶员在任何时候都有责任。

迪特里希也在这个问题上给出了一些基本原则。他认为,首先,人类绝对不能制造可以完全独立操作、具有攻击人类能力的AI武器系统。在对电力和供水这类关键性基础设施进行AI自动化时也必须慎之又慎,因为这些自动系统一旦出现错误将严重扰乱社会秩序。此外,AI自动生成内容的技术在社交媒体领域也十分危险,因为操纵人们相信虚假内容、制造社会分裂是十分容易的。

针对未来人工智能与人类的关系,迪特里希认为,“我们对AI的行为期望类似于对宠物的期望。我们教狗不要咬人,如果它们咬人,狗主人要承担责任。”

谈及对AI的预期时,本特利也以宠物作了类比,他在回复《每日经济新闻》记者采访时表示,“目前来看我们的人工智能还没有拥有宠物猫狗的智商和权利,但是,当有一天它们真的变得像猫猫狗狗一样了,我们是否应该赋予他们‘生存权’和适当的社会权利?如今在英国有不同的组织来防止虐待动物、儿童和人。未来我们是否需要一个防止‘虐待人工智能’的组织?

“有一天,我们可能需要回答这些问题。但幸运的是,不是今天。”本特利说。

每日经济新闻

  •  标签:  
相关推荐
世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家科技数码

最近#年轻人不爱换手机#的话题再次登上热搜,在手机技术日新月异的今天,为什么年轻人不愿意买手机了呢?我之前就发表过我的观点,第一是手机单价并不便宜,很多年轻人觉得频繁换手机,钱包伤不起;第二手机更新迭代太快,性能严重溢出,手机几年不卡,导致没有换机欲望。当然,作为万千年轻群体中的一员,我也已经三年没换手机了,一直使用的是三年前买的荣耀20 Pro,这款麒麟980芯片的手机即使用到今天,它的体验也不算差,虽然流畅度和今天的旗舰U,高刷屏没法比,但整体体验并不会让人觉得难受。之前用了3年的荣耀20

2022-06-22  7
世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家科技数码

目前市面上有很多高性价比热门手机都集中在2~3K价位段,这也正好在大多数小伙伴购买手机的预算范围之内。今天就给大家推荐几款该价位段比较值得购买的热门手机。OPPO K10OPPO K10采用了今年比较流行的大视窗相机模组,且与后盖配色保持一致,既有辨识度又精致好看。正面配备了一块6.59英寸LCD 120Hz高刷变速屏,刷新率支持多档调节,既流畅又省电。拥有600nits峰值亮度,户外阳光下也能看得清。性能方面,OPPO K10搭载了天玑8000-Max处理器,拥有旗舰级别的强大性能,且功耗控制

2022-06-22  9
世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家科技数码

近期随着618临近,京东商城各类手机均有一些折扣活动,小编整理了目前在2000元价位最值得购买的手机推荐给大家。OPPO K10目前OPPO K10京东售价1889元,但现在下单可获赠耳机、机器人音箱一个。OPPO K10虽然不到2000元,但配置上却十分讲究。处理器方面这款产品使用联发科天玑8000-MAX芯片,8颗核心运行频率可以达到2.75GHz,足以应对《王者荣耀》这类游戏。此外,这款产品还配备了67W超级闪充以及5000mAh超大电池,这样的配置保障了户外续航和手机充电速度。另一方面O

2022-06-22  8
世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家科技数码

近日知名行业分析机构Strategy Analytics公布了2022年第一季度中国智能手机市场畅销榜前十的名单。iPhone 13不出意外地位居了榜首,下面带大家看看还有哪些机型上榜了吧。iPhone 13系列iPhone 13可以说是去年和现在都十分畅销的智能手机,A15+6.1英寸OLED屏幕的配置使其可以满足大部分用户的使用需求。iPhone 13 128GB版目前在京东自营平台领券到手价为5399元。iPhone13 Pro Max和iPhone13 Pro也均有上榜。荣耀50荣耀50

2022-06-22  8
世见 | 谷歌工程师被休假背后:AI到底该不该有“自我”?NBD对话人工智能专家科技数码

人工智能是业务的一部分吗?或者它是一个实用程序?如果你是数字原生代,人工智能可能是业务运行的燃料的一部分。但在一个拥有传统业务或正在转型的大型组织中,如何衡量投资回报率是他们必须解决的一个基本问题。报道 | 吴昕与以往任何时候相比,现在各企业都对人工智能和机器学习的潜力充满信心并加以投入。根据 2022 年 IBM 全球人工智能采用指数(IBM Global AI Adoption Index 2022),35% 的公司报告称目前在其业务中使用人工智能,另有 42% 的公司表示他们正在探索人工智

2022-06-22  7

原文链接:https://www.tscy18.com/kejism/20792.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 315661083@qq.com 举报,一经查实,本站将立刻删除。