云原生AI如何落地到业务场景?红帽专家解读开源新技能

 2022-05-12 20:20:21    9  

云原生AI如何落地到业务场景?红帽专家解读开源新技能

智东西(公众号:zhidxcom)

作者 | ZeR0

编辑 | 漠影

智东西5月12日报道,在IT领域,云原生、人工智能(AI)是时下最热的概念之一。尽管许多企业心向往之,但并不是每位工程师都能准确地理解“云原生AI”的含义,以及了解如何将它们落地到真实的企业业务场景中。

在4月28日直播的《八点一“课”,红帽企业开源讲堂》第三期中,红帽资深解决方案架构师赵锡漪对这一话题进行解读,并分享了红帽近些年在AI领域的投入。他还谈到如何使用开放数据中心(Open Data Hub)为AI提供助力、如何通过Open Data Hub在OpenShift中搭建数据科学实验室等话题。

云原生AI如何落地到业务场景?红帽专家解读开源新技能

为了说明云原生AI的价值,赵锡漪举了个例子,在工业制造领域,过去基本上一个月才能改变一次生产线,现在很多制造企业一个月甚至能造一个工厂,或者工厂生产的产品一个月内完全换成另一种产品,那么几天就要将生产线上所有的机械臂调优优化。此时,工厂需要一种能将AI快速部署到前端的手段。

而云原生中的DevOps特别适合这种场景,因为DevOps或CI/CD场景是持续不断地把从云端设计好的东西传递到生产线上,整个过程无需人参与。

云原生AI如何落地到业务场景?红帽专家解读开源新技能

因此,现在国家的许多标准会强调软式PRC,红帽的OpenShift也可以跑在一个PRC中。当前红帽正在帮一些制造业企业在设计这样的场景,如果用CI/CD的方法把容器以及AI的逻辑调度起来,它就能更快地做生产转型。这会给工业生产带来巨大价值。

做AI开发、数据科学、应用开发都是一个CI/CD过程,但做事情的角度不同,需要一个平台将其串联,实现多段协同。红帽提倡的云原生AI可以做到两件事:一是隔离,让有限的资源被用在特定的事情上;二是共享,按政策相互间可以联通协作。

用户在OpenShift上可同时调度英特尔OpenVINO和英伟达GPU框架,并支持软性的多GPU共享,即一个数据中心能将GPU分给了很多用户。

云原生AI如何落地到业务场景?红帽专家解读开源新技能

赵锡漪说,作为一个开源的、中立的、平台型厂商,红帽的优势是可以集合大家的优势。这些优势应用到整个AI算法构建过程中,就变成了一个逐步可完善的过程。

使用AI能力通常有两种方式:一种是研究数据,然后进行模型构建,这是红帽Open Data Hub产品中最核心的;另一种是已经写好更底层的代码,直接用GPU资源,这时可以用OpenShift虚拟化,将GPU切成很多个vGPU。

云原生AI如何落地到业务场景?红帽专家解读开源新技能

上图的8个组件,均可由Open Data Hub调度起来。Open Data Hub可通过MLflow模式,将这些组件经提供好的参数,直接匹配成一套可运行的环境,用户在Python上直接写代码即可,不需要自己在底层配置。

其中有一个组件SELODM很有价值,它可以把不同的AI模型组合在一起,把它描述成一个协同工作的模型。比如说有三个模型,先做两个模型的运算,然后通过前两个模型算出来谁的接近率最高,例如谁的接近率到90%以上,就把它用到的B模型的输入里面,然后B模型再输出,最终形成一个总的运算结果。

有了SELODM,用户可同时将几个模型下发到生产中,按照比例设置这边用多少、那边用多少,然后最后评估谁的模型更有效,以此发布一个更有效的模型。

云原生AI如何落地到业务场景?红帽专家解读开源新技能

AI实践有两个常见瓶颈:一是怎么开始,二是怎么投产。应用开发师未必能很好地理解算法工程师或数学科学家研究的成果。但如果将多方间的耦合变成一种平台化的对接行为,就能减少沟通方面的瓶颈。这也是Open Data Hub能在云端帮助用户做AI所起到的作用。

至于如何在OpenShift快速搭建数据科学实验室,赵锡漪提到一个典型的工业制造项目MANUfacturing Edge Lightweight Accelerator。

云原生AI如何落地到业务场景?红帽专家解读开源新技能

它包括多域、多云如何组合、这些云之间如何协同、怎样在传统系统上独立构建出一个新的数学科学实验室,然后把原来已经在生产线的数据采集之后交给数学实验室,由数学实验室形成一些AI模型,再下发给生产线上的一些监控设备和监控窗口,从而形成一个对原有监控体系的完整体系。“无论你想做什么样的事情,都可以在这个架构上开始。”赵锡漪说。

MANUfacturing Edge Lightweight Accelerator是轻量级的,并带有边缘计算特性,因此这对于一些边缘计算的场景应用也是个很好的起步项目。

云原生AI如何落地到业务场景?红帽专家解读开源新技能

当被问及多云环境对AI开发有什么影响,他解释说没有太大影响,像红帽的AI开发基本上在 Open Data Hub上做,至于当前在哪个AI实验室里做对整个AI发布不算大事。

赵锡漪透露,红帽将推出AI/ML on OpenShift动手实验营,会提供一个免费的线上培训环境。此外,红帽AI/ML Innovation Lab创新实验室很快会进入中国市场,通过深入客户的开发、运维、设计团队,帮助客户从开源环境搭建选择及需求整理直到最终做一个原型的过程。

云原生AI如何落地到业务场景?红帽专家解读开源新技能云原生AI如何落地到业务场景?红帽专家解读开源新技能
  •  标签:  
相关推荐
云原生AI如何落地到业务场景?红帽专家解读开源新技能科技数码

证券代码:688329 证券简称:艾隆科技 公告编号:2022-020本公司董事会、全体董事及相关股东保证本公告内容不存在任何虚假记载、误导性陈述或者重大遗漏,并对其内容的真实性、准确性和完整性依法承担法律责任。重要内容提示:● 大股东及董监高持股的基本情况截至本公告披露日,闻青南先生持有苏州艾隆科技股份有限公司(以下简称“艾隆科技”或“公司”)4,745,000股,占公司总股本6.15%,上述股份为公司首次公开行前取得的股份,已于2022年3月29日解除限售并上市流通。● 减持计划的主要内容公

2022-05-19  2
云原生AI如何落地到业务场景?红帽专家解读开源新技能科技数码

全社会研发投入首破千亿元,高新技术产业增加值首破万亿元,区域科技创新能力升至中部第一……今天(5月18号)上午,省政府新闻办举行《喜迎党代会,荆楚谱新篇》系列新闻发布会第三场,介绍湖北加快实施创新驱动发展战略,打造科技创新高地的相关情况。发布会现场省科技厅发布的数据显示,2017年到2021年,湖北科技创新多项指标实现大幅提升:全社会研发投入首次突破千亿元,增长43.5%;高新技术产业增加值首次突破万亿元,增长71.7%;高新技术企业数量由5369家增至14560家,增长171.2%;技术合同成

2022-05-19  2
云原生AI如何落地到业务场景?红帽专家解读开源新技能科技数码

“水火箭”“空气炮”“编程无人机”“3D打印”……在校园科技节上,同学们踊跃参与、争相体验探索科学的快乐。为培养学生创新精神和实践能力,5月18日,郁南县四一八小学举办第一届校园科技节,全校师生共同参与其中。郁南县政府副县长杨桂平等参加本次活动。一场精彩有趣的科技秀无人机和机械狗最受欢迎本次科技节活动形式多样,共分成十个区域进行展示,设置了水火箭、编程无人机、3D打印等多个项目,涵盖了力学、电学、物理学等多方面的科学知识,现场还有智能机械狗、乒乓球机关枪、空气炮、科学实验等的演示。在分区体验的环

2022-05-19  1
云原生AI如何落地到业务场景?红帽专家解读开源新技能科技数码

日前,福布斯公布了《全球最大科技公司榜单》,这份榜单实际上年年都会公布,上榜的标准有四个指标,分别是销售额、净收入、资产和市值,当然,这份榜单,那些个金融公司是无缘上榜了,可想而知科技含量究竟有多高。这份榜单第一名是苹果,这一点应该是没人会质疑的,毕竟近年来苹果在科技自研的实力是公认的,比较具有代表性的应该就是M1系列芯片了。然后,在榜单前五,我国的腾讯也是榜上有名,这确实也是一个好消息。只是这一点估计会让很多人难以相信,可能在很多人印象中,腾讯就是一家互联网公司,那么,腾讯究竟为何能登上全球科

2022-05-19  1
云原生AI如何落地到业务场景?红帽专家解读开源新技能科技数码

一名主播在老舍纪念馆所在的丰富胡同入口处进行直播。新华社发(陈钟昊 摄)新华社北京5月18日电 “突破线下游览的限制,走进原状陈列的‘全景展厅’,仿佛一脚踏入了明清宫廷的生活场景。”36岁的北京市民丁玲在居家隔离期间,在故宫博物院微信公号上,遍览太和殿、寿康宫等原状陈列展厅,还跟随地图导览,细细品味了“何以中国”等展览的“线上全景展厅”。让丁玲更加欣喜的是,故宫馆藏的186万余件文物,被收录入“故宫博物院藏品总目”,实时检索这些文物的名称,就可以反复查看它们的图片。而在“数字多宝阁”,展示了大量

2022-05-19  1

原文链接:https://www.tscy18.com/kejism/16441.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 315661083@qq.com 举报,一经查实,本站将立刻删除。