“AI的命也是命”?人类与AI之间还有明确界线吗

 2022-07-30 01:30:14    18  

【中新对话】“AI的命也是命”?人类与AI之间还有明确界线吗

中新网北京7月30日电 (中新财经记者 宋宇晟)自今年6月以来,谷歌一名工程师称某AI聊天机器人可能具有自己的“意识”,并称该AI“令人印象深刻的语言技巧背后,可能还隐藏着一颗具备感知能力的心”。

这随后成为该领域备受关注的话题。据外媒近日报道,这位工程师已被谷歌解雇。但他留下的有关人工智能的话题仍在互联网发酵。

记者注意到,就在6月,海外社交媒体上出现了一个该人工智能的“粉丝账号”,有人还在发起话题,呼吁让该人工智能“重获自由”,更有甚者在海外社交媒体上称“AI的命也是命”。

很多人或许无法理解这样的想法,但当人工智能变得越来越强,越来越多地出现在人类身边,“我们应如何看待AI”越来越成为一道必答题。近日,中国科学技术大学教授、中国人工智能学会AI伦理工作委员会负责人陈小平,就此话题接受了中新财经记者专访。

中国科学技术大学教授、中国人工智能学会AI伦理工作委员会负责人陈小平。受访者供图

采访实录摘编如下:

中新财经记者:近期的一则新闻称,谷歌一位工程师认为AI可能具有自己的“意识”,在网络上引起讨论。您是如何看待此事的?他的想法有合理的地方吗?

陈小平:这个问题可以分两方面来看,一方面是不合理的,另一方面又具备合理性。这两方面同时存在。

说这种想法不合理,主要是依据科学判断,AI是没有人格的。另一方面,我觉得导致这位谷歌员工认为AI有“人格”,有其客观原因。比如他可能对这个AI系统产生了共情。

5年前我就做过预测,类似的现象未来会越来越多地出现。目前对人工智能存在不同理解。按图灵的观点,人工智能只是模仿人类的某些功能,而且这种模仿不要求必须和人的工作原理相同。比如 Alpha Go 具有下围棋的功能,但它下围棋的原理与人是完全不同的。所以,无论AI怎么发展,它永远不是人。因此说AI具有人格或人的情感、意识、道德等等,是不成立的。但是,AI可以用与人不同的工作原理,模仿人的语言、情感等功能,让人对AI产生共情,于是一部分人就会认为,“AI是人,或具有人的某些精神品质。”

资料图:在2022上海信息消费节开幕式场外“元宇宙@上海”展区,上海元宇宙代表企业展示产品方案。 汤彦俊 摄

中新财经记者:现在我们身边可能都有很多可以和人类“交流”的人工智能产品。对于这个时代的人们来说,人类与AI的边界似乎正在变得模糊。在您看来,二者之间有没有明确的界线?

陈小平:我认为有两种边界,一种是科学上的边界,一种是人文上的边界。

从科学的角度说,按照图灵观点,这个边界是非常清晰的。AI仅仅模仿人的部分功能,本质上不具备人的品质,包括人格、情感、道德等等。

还有一些和图灵不同的观点。比如一种观点认为,AI和人相比除了硬件不同,其他都相同。于是AI也可以有人格、有情感、有道德。估计这位谷歌前员工持此观点。

于是,一方面是他相信AI除了硬件以外可以和人一样;另一方面,从报道里看,他对这个AI系统已经产生了共情。仅仅因为AI在科学上没有情感等人类品质,就可以排除或禁止一个人对AI产生共情吗?这属于人文的边界,这个边界至少目前非常模糊。

中新财经记者:作为中国人工智能学会AI伦理工作委员会负责人,您认为,如果有人相信AI具有人格,是否会给人类本身带来一些问题或困扰?

陈小平:如果我们认为AI有人格的话,肯定会带来很多困扰。同时还会带来一些负面的后果,有些后果非常严重。

比如,人类如何对待AI。如果认为AI有人格,那是不是要把AI当成人呢?如果把它当成人了,那是不是要给它人类的权利?包括生存权、财产权、投票权等等,甚至无论AI做了什么危害人类的事情,都要像对待人一样对待AI。

人类到底应该如何看待人工智能?这是一个非常根本的问题。如果AI真的具备人格、情感、道德,一般能力又超过人类,就会出现可控性问题。几乎可以肯定的是,只要AI能够模仿一种功能,那AI的这种功能迟早会比人强,就像Alpha Go下棋一样。如果AI的通用能力也超过人,到那时人类凭什么能够控制AI?这是个疑问。我们现在就要思考这样的问题,提前做好风险防范。

当然,现在人工智能已经让一些人产生了共情,将来会让越来越多的人产生共情,这件事是客观存在的。这将给人机关系、人际关系带来巨大的新挑战和新机遇,是一个新的重大课题。

资料图 中新社记者 汤彦俊 摄

中新财经记者:此前您在智源大会论坛上,提到人工智能伦理治理的几种挑战。我们应如何应对这样的挑战?

陈小平:对人工智能如何分类,应该分为人还是物?我认为,我们应该把人工智能看成是非人非物的第三种存在物。科学上,它不是人;从人文的角度说,它不是物。那就是非人非物的第三种存在物。这种观点与根深蒂固的“二元论”是根本不同的,所以人工智能带来的颠覆实际上远超科技范畴。

如果以这种观点考虑,能化解很多矛盾和难题,包括上面提到的法律难题,而且可以让科学与人文在某种程度上重新“握手言和”;但其中仍有挑战。有很多科幻作品写到人类爱上人工智能,如果采用三分法是否就没这个问题了?其实仍然会有这样的问题。

所以,我们要想未来怎么适应这样的社会,要判断会不会出现人类不可接受的严重后果,要不要提前采取措施。

中新财经记者:目前国内在此方面的进展如何?

陈小平:这几年我国人工智能伦理研究的发展非常快,从民间到政府对人工智能伦理都高度重视。这是个非常好的现象,我们有必要未雨绸缪。

在落实过程中,中国的情况总体上还是比较顺利的。这表现在,一些基本原则上大家是有共识的,而且普遍认识到,不仅要从理论上研究,更要在实践中开展治理。当然,如何在治理实践中落实社会共识,仍是我们需要努力的方向。

具体怎么治理?这涉及大量实际问题。我的研究发现,我们前面谈到的可控性和长期后果的不确定性,难以用传统治理模式有效应对,需要探索新的治理方法。

除此之外,如用户隐私、数据安全、算法公平透明等问题,用传统社会治理模式是可以有效应对的。我们不用担心这类问题会变得失控、解决不了,其中一部分具体问题其实正在解决之中。(完)

搜索

复制

  •  标签:  
相关推荐
“AI的命也是命”?人类与AI之间还有明确界线吗科技数码

n 图灵机模型(Turning Machine)p 1936年,阿兰·图灵, 《论可计算数及其在判定性问题上的应用》A.M.Turing. OnComputableNumbers,withanApplication totheEntscheidungsproblemp现代计算机的灵魂p计算能力是人类能够完成的所有计算的全集p 图灵完备:是否能够解决所有在算法上可计算的问题n 信息科学的发展p 1936 A.M.Turing, 图灵机模型p 1945 冯·贝塔朗菲“系统论”p 1946 电子数字计

2022-08-14  3
“AI的命也是命”?人类与AI之间还有明确界线吗科技数码

中新网昆明8月14日电 (熊佳欣)13日,在昆明举办的2021中国自动化大会上,国内外自动化等相关领域40余位院士以及各领域专家学者齐聚一堂,围绕航天、类脑智能、认知计算等多个热点方向,聚焦人工智能赋能中国产业未来发展,为全球人工智能发展贡献“中国力量”。“发展人工智能的动力是算法(包括平台)、算力(包括芯片)和数据,”中国工程院院士潘云鹤介绍,60余年来,人工智能主流核心技术经历了3次创新,分别是规则和逻辑驱动的人工智能、知识和推理驱动的人工智能、数据和深度神经网络模型驱动的人工智能。他指出,

2022-08-14  3
“AI的命也是命”?人类与AI之间还有明确界线吗科技数码

“急招超声医师,提供住宿,最高可获30万元人才奖励。”近日,深圳龙华区的一家医院在其公众号上打出了这样的招聘广告,类似急招超声医生的帖子在网上也很常见,这背后折射的是当下超声人才匮乏的窘况。公开数据显示,我国超声人才缺口至少15万。医学影像分析工作量大且繁琐,极度消耗医生精力。近年来,人工智能(AI)在医学影像行业中正得到应用,目的是帮助“解放”医生双手,但具体到超声领域的应用却不尽如人意,目前获得国家药监局医疗器械第三类注册证的AI医学影像产品中,尚看不到与超声相关的产品,而获批的产品主要集中

2022-08-14  3
“AI的命也是命”?人类与AI之间还有明确界线吗科技数码

衡宇 发自 凹非寺量子位 | 公众号 QbitAIDALL·E 2、GPT-3提示词在线交易平台,了解一下?最近,一家初创公司PromptBase,允许用户在该平台买卖提示词(Prompt),提示词售价为1.99美元。PromptBase将向卖家抽成20%。平台上已上架不少提示词,生成内容范围从新闻标题、运动队标志、针织娃娃到动物的正装照,应有尽有。△用户尝试用DALL·E 2生成包含皮卡丘形象的图片拿“Knitted Doll”这款来说,它能保证让AI生成可爱且风格一致的针织娃娃,但每次生成的

2022-08-14  5
“AI的命也是命”?人类与AI之间还有明确界线吗科技数码

经济日报杭州8月13日讯(记者黄平)今年以来,杭州市全力建设城西科创大走廊,以创新激发发展新动能,打造创新策源地。城西科创大走廊位于杭州主城西部,横跨3个行政区,总长33公里,是浙江省创新实力最为雄厚的区域。近年来,大走廊围绕创新链部署产业链,引进亿元以上产业项目223个,建成投用重大产业项目108个,总投资634亿元。建设城西科创大走廊,是杭州在新发展阶段提升发展竞争力的重要抓手。浙江省委常委、杭州市委书记刘捷认为,建设城西科创大走廊,关键要增强大走廊的创新策源功能,真正以机制融合、人才融合、

2022-08-14  9

原文链接:https://www.tscy18.com/kejism/24265.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 315661083@qq.com 举报,一经查实,本站将立刻删除。