我们正在揭开人工智能最深奥的谜团之一

 2022-05-04 22:20:08    21  

黑匣子问题是机器之间的秘密

我们正在揭开人工智能最深奥的谜团之一

黑匣子问题是围绕人工智能的一个深刻谜团。它说我们可能理解输入,我们可能理解输出,但连接这两者的人工智能决策过程是一个我们似乎无法窥视的黑匣子。例如,当被赋予帮助诊断患者的任务时,为什么人工智能会决定一名患者携带疾病而另一名患者没有?该模型是否出于医生可能同意的正当理由对患者进行诊断?很容易看出为什么在生命受到威胁的医疗案例中闯入黑匣子很重要。在其他情况下,出于法律原因、自动驾驶汽车或帮助程序员改进机器学习模型,了解决策过程可能很重要。

做出决定是不够的,我们必须了解它是如何发生的。现在研究人员开始撬开盒子的盖子,揭开它的秘密。这与映射人类思维没有什么不同。

毕竟,神经网络的灵感来自于我们的大脑。当你的大脑识别出像马鞍这样的物体时,一种神经细胞模式会作为对这种刺激的反应而激发。马本身的视觉会激发不同模式的细胞。深度神经网络也会根据我们提供给它们的输入给出某些响应。但与人类不同的是,深度神经网络的神经元是接收数字输入的数学函数。神经元获取这些数字并执行计算。如果计算能够达到某个阈值(称为权重),则输入将传递到第二组神经元以进行更多计算,依此类推,形成级联效应。但是机器也有一种叫做“反向传播”的工具,这种工具在生物学中是不存在的。

我们正在揭开人工智能最深奥的谜团之一

并非所有机器学习系统都是黑匣子。它们的复杂程度因任务和必须应用于任何给定输入的计算层而异。处理数百万和数十亿数字的深度神经网络已经笼罩在神秘的外衣中。

要开始揭开这个谜团,我们必须首先分析输入并了解它如何影响输出。显着性图特别有用。它们突出显示输入的哪些部分——例如,图像是一种输入形式——人工智能最关注的部分。在某些情况下,系统甚至会根据它们在做出最终决定时的权重对图像的不同部分进行颜色编码。AI 通常不仅会考虑对象本身,还会考虑周围的对象来帮助进行识别,就像在您不知道单词定义时使用上下文线索来找出单词的含义一样。

掩盖图像的某些部分可能会导致 AI 改变其结果。这有助于研究人员了解系统为什么要做出某些决定,以及这些决定是否是出于正确的原因。早期的自动驾驶汽车 AI 有时会根据天气左转,因为在训练期间天空的颜色总是一种特定的颜色。人工智能认为这意味着天空中浪漫的丁香色是左转的重要组成部分。

我们正在揭开人工智能最深奥的谜团之一

突出显示的区域显示了 AI 在识别对象(在本例中为花瓶)时发现的最重要的数据。MS COCO 数据集的显着性图。

如果要了解 AI,您需要 AI 本身的帮助会怎样?

生成对抗网络 (GAN) 由一对网络组成,每个网络都扮演不同的角色。一个将生成数据,通常以日常物品图像的形式出现,另一个将尝试揭示数据是否真实。第二个网络本质上是试图回答草莓的图像是由人类拍摄的还是由第一个网络创建的。第一个网络通过这种方法进行训练,以产生最逼真的图像,以始终欺骗第二个网络。研究人员观察图像的哪些部分被改变以获得更令人信服的结果,从而也了解输入的哪些部分对系统最重要。

但这些网络是秘密交谈的——它们的工作方式正是两人之间的一个不言而喻的协议。第一个网络如何能够产生如此令人信服的图像尚不清楚。GAN 能够创造出真正人性化的东西:一张脸的图片,或者一篇富有诗意的文章。在机器能够给人以灵魂的印象,螺栓和二进制伪装成有血有肉的艺术领域,这已经变得同样令人着迷和令人不安。

我们正在揭开人工智能最深奥的谜团之一

这个人不存在的网站生成了从未存在过的人的逼真图片。它使用 GAN 来完成此任务。以上是 AI 生成的人脸示例。图片由 Bloomicon 提供。

研究人员认为,GAN 能够通过专门化其神经元来做到这一点。一些神经元将专注于创造建筑物,其他的植物,还有一些仍然像门窗这样的特征。对于 AI 系统,上下文线索是强大的工具。如果一个物体包含像窗户这样的东西,那么从统计上讲,它更有可能是一个房间而不是岩石峭壁。拥有这些专门的神经元意味着计算机科学家可以改变系统,使其更加灵活和高效。如果计算机科学家了解要更改模型的哪些部分,则可以训练人工智能仅检测到花,因为它们在花瓶内,以将陶罐视为花瓶。

这些是我们迄今为止确定的解释。但必须对这些解释的准确性进行测试。如果我们认为图像的某些部分在 AI 的最终结果中发挥了重要作用,则必须修改图像的这些部分。随之而来的结果应该大不相同。也就是说,我们不仅必须评估系统本身以弄清楚它在做什么,我们还必须评估我们的解释以确保它们是准确的。即使解释对我们有意义,也不一定使它们成真。人工智能就像一个外星人,可能有人类的外形和人类的举止,但其动机和推理并不总是符合人类逻辑。

这是一个劳动密集型的过程,需要了解神经网络。并非所有研究人员都认为这是一项值得的努力。对于有些人发现难以克服的挑战的更复杂的网络尤其如此。他们的想法是,他们不在我们的掌控之中,剩下要做的就是相信他们的决策过程。

将人工智能融入立法和医学等有影响力的领域也存在挑战。人类是善变的、警惕的生物。我们已经发现很难信任其他人,更不用说我们刚刚开始与之共存的神经网络了。神经网络是否有很好的解释可能不会对激发信任产生太大影响。

但人类与人工智能之间的关系正变得越来越密不可分。正如人工智能系统需要我们学习和进化一样,我们也开始向它们学习。生物学家可能会使用一个系统来预测哪些基因在身体中扮演哪些角色。通过了解系统如何做出预测,科学家们已经开始看到基因序列的重要性,否则他们可能认为这些基因序列无关紧要。

无论人工智能的黑匣子是否会变成玻璃匣子,事实是我们已经走上了依赖之路。神经网络变得越来越强大和复杂,导致许多研究人员相信我们永远不会彻底了解神经网络是如何学习和创造的。然而,不管有没有解释,人类和机器的世界都深深地交织在一起,我们每个人对对方来说仍然是个谜。

  •  标签:  
相关推荐
我们正在揭开人工智能最深奥的谜团之一科技数码

5月16日,中国信通院公布了今年3月国内手机市场的出货量数据,2022年3月国内手机市场总出货量为2146万部,同比下降了40.5%之多。今年第一季度,国内市场手机总体出货量为6934.6万部,同比下降29.2%,暴跌近三成。中老年人换机频率极低,智能手机的消费主力是年轻人,所以手机出货量暴跌和年轻人换机需求的大幅下滑,有非常大的关系。此前“00后为什么不愿换手机”、“年轻人为什么不愿换手机”都曾引发热议,那为什么大家都不换手机?在笔者看来,无非有以下三点原因。第一,手机性能越来越强,没必要换随

2022-05-17  1
我们正在揭开人工智能最深奥的谜团之一科技数码

*美股分化,纳指跌1.2%,能源、医药板块走强;*美油大涨超3%,美国汽油价格创历史新高;*纽约联储制造业指数3个月内第二次萎缩。美国股市周一窄幅震荡,市场情绪依然受困于美联储积极采取紧缩政策以及全球经济放缓的风险,科技股持续承压。截至收盘,道指涨26.76点,涨幅0.08%,报32223.42点,纳指跌1.20%,报11662.79点,标普500指数跌0.39%,报4008.01点。能源和医疗保健板块领涨,可选消费、信息科技板块表现不佳。科技股表现分化,Meta涨0.7%,微软涨0.1%,苹果

2022-05-17  1
我们正在揭开人工智能最深奥的谜团之一科技数码

来源:工人日报客户端原标题:“黑科技”可使燃煤年减少二氧化碳排放量近4150万吨工人日报—中工网记者 邹明强 通讯员 郑晶5月16日,由华中科技大学相关团队参与的“以空气为载体基于余热蒸发浓缩高盐废水及零排放技术”项目通过了中国电力企业联合会的鉴定。华中科大教授张军营估算,全国电厂如能广泛采取该技术,预计每年可减少二氧化碳排放量近4150万吨。作为中国能源绿色低碳转型的关键,如何发挥好燃煤电厂的调峰保障作用,同时兼顾煤炭低碳清洁化利用,是一项重要的课题。一直以来,脱硫废水都是燃煤电厂处理难度最大

2022-05-17  1
我们正在揭开人工智能最深奥的谜团之一科技数码

工人日报-中工网记者 吴铎思今年,新疆维吾尔自治区昌吉州选取首批21家综合能耗超过万吨标煤的重点用能企业,在全疆率先试点建设碳账户,精准核算企业碳排放数据,科学制定碳排放强度评价标准,配套财税、金融、产业等差异化支持政策,以此撬动工业企业转型升级、绿色低碳发展。多种能源富集的新疆,近些年来,加强科技创新驱动,推广应用新技术新工艺,循环经济产业链不断延伸,绿色成为发展主色调。随着煤矿生产与煤化工“绿色”新技术、新工艺的广泛应用,各地煤炭清洁生产、高效清洁利用不断取得新进展、,走上绿色发展之路。在淖

2022-05-17  1
我们正在揭开人工智能最深奥的谜团之一科技数码

2022年全国科技活动周广西活动暨第三十一届广西科技活动周·广西创新驱动发展成果展新闻通气会现场。广西新闻网记者 童莹 摄广西新闻网南宁5月16日讯(记者 童莹)5月16日,记者从2022年全国科技活动周广西活动暨第三十一届广西科技活动周·广西创新驱动发展成果展(以下简称广西科技“两周一展”)新闻通气会获悉,2022年广西科技“两周一展”以“走进科技 你我同行”为主题,将于5月21至28日在全区范围举办。据了解,本届广西科技“两周一展”由“1个仪式、1个展会、8大活动”构成。其中,2022年广西

2022-05-17  1

原文链接:https://www.tscy18.com/kejism/15653.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 315661083@qq.com 举报,一经查实,本站将立刻删除。