在边缘处理AI - 用例和AI硬件注意事项

丹尼尔Faggella
头像

丹尼尔是Emerj的研究主管。在联合国、世界银行(World Bank)、国际刑警组织(INTERPOL)和许多全球企业的呼吁下,丹尼尔成为了一名颇受欢迎的专家,研究人工智能对企业和政府领导人的竞争战略影响。

techcentral

我们采访了微软智能设备总经理Moe TanabianAI边缘峰会9月17日和18日在加州山景城。Tanabian讨论了如何思考和重构业务问题,使它们更容易被人工智能以及边缘的人工智能访问,这涉及到在单个设备上而不是在云中进行人工智能处理。这一优势可能为人工智能解决商业问题带来新的潜力。Tanabian还提供了有代表性的智能设备用例。

订阅我们的AI在工业播客你最喜欢的播客服务:

iTunes的播客
soundloud播客
google-podcast
订书机,播客

客人:萌Tanabian,智能设备的总经理 -微软

专业知识:AI和机器学习

短暂的识别:Tanabian拥有硕士学位的系统和卡尔顿大学计算机工程学士学位。在微软之前,他曾在亚马逊公司副总裁,CDO(AI,SW,HW)在Samsug Android的工程主管。

面试Higlights

(03:00)人工智能硬件近期最重要的影响是什么?

Moe Tanabian:有一个伟大的书被称为预测机器来自UoT的Ajay Agrawal对此做了一个很好的模型。嘿,这是关于一些非常重要的经济投入变得非常便宜,当某样东西变得便宜时,它就会无处不在。他举了一些例子。

其中一个例子,我想了很多当我们开始使用的硅和软件做算术。算术是一个非常重要的经济投入。一旦我们能够做到这一点,我们就开始基本处理,而不是要求人做在芯片和软件的作业。

我们有很多更高效,人类可以做很多更复杂的事情。但一些真正有趣的事情超出了这一点。当算术通过芯片和软件驱动成为真的很便宜,我们就开始依次为运算为基础的周围没有其他的东西。

但由于运算变得如此便宜,我们用它作为一个经济投入到其他事情喜欢摄影。我们开始数字化照片。摄影是一种化学问题。我们把它变成一个算术问题,因为算术是如此便宜。同样的事情与AI发生,经济投入是AI的变化进行预测。

人类是唯一能够进行预测的系统。我们在很多地方都做过预测。当你去申请贷款时,信贷员会预测你是否会还贷款他们会给你贷款。

或者有些人会弄清楚,人口会喜欢这些类型的标题和纽约时报畅销书是约或建议下周电影来的。我们开始利用基于AI-预测和推荐引擎,以取代那些作为经济投入。

这使得很多新类型的业务和业务模型能够改变价值链,并且正在改变我们所说的价值链。存在着现有价值链的中间环节,突然之间,整合点就会跨越价值链,从而创造出新的业务。

新的企业都来存在,旧的是那种被边缘化。但是,额外的那种效果,我们在算术收养所看到的,这是我们转头其他nonarithmetic的事情,是AI的令人兴奋的部分。现在,我们正在转向这本质上不是为预测问题预测的问题,因为预测是便宜了问题。

自驾车,不管它是什么。具有如何相当复杂的和共同的理解,并在商业环境中,哪些业务实体的类型影响我们的业务成果。我给你比如一个例子。现在,AI坐在摄像机。有计算机视觉。

摄像机正在监视货架,并了解哪些商品在快速移动。快速行动意味着客户喜欢他们。然后你钩到商店的ERP系统,你看到,出于某种原因,商店经理或销售的人他们把低利润产品存储在后盖上的后盖或缓慢移动的产品和快速移动的产品不是在后盖上。

霎时间那整个事情进行检测。有一个补救的话,有一个消息向商店经理,“哎,你可能要将此项目移动到端盖。”这些都是我们以前无法做到的事情,它只是影响了很多东西。

还有一个情况下,我会进入什么与AI硬件发生。我们已经在多个波有AI和这些波是不是完成了波澜。他们不断,但新波在船上来了。第一次浪潮是互联网AI。AI的这一波基本上是训练数据,我们需要训练我们的模型。

它来自词组,人们在搜索时,它从鼠标点击和用户的键盘输入来了。这使事情像Netflix的推荐引擎,什么人观看,观看和这些类型的东西。但人们搜索和谷歌搜索。

我们开始学习,我们能够有效和经济地使用,那一刻,深层神经网络,我们有足够的硬件和数据来训练他们,我们意识到,基于传感器的AI是这样一个大问题。我们看到的那种它的切入点与声音和语言的,像视觉辅助,启用的那些类型的体验的设备。

但是当你把相机作为一个主要的传感器添加到这个组合中时,你会突然发现,我们正在进行的许多商业活动的经济性将会发生变化。在我看来,这才是真正的推动力,在未来十年左右,人工智能将创造价值,让我们的生活更美好。它是感知人工智能融入我们生活的地方。

(10:00)什么是用算术发生的事情,是与预测和看法都发生了或你认为预测是这一技术转移方面的元伞?

MT:我很高兴你提出来的。凡是漂亮的多,AI目前所做的是预测。我们这样做几乎两次与AI和AI工具链不同的东西,我们必须在我们的处置。一个是分类,这是“这是狗”,“这是一只猫”。或“这是萌”,或者“这是丹”进行身份验证。

或事物的方式迄今在这个时间点上发展而来的,这是我们预测它会继续下去。但是......即使分类预测问题,因为所有你在做分类,您预测的,你看到的图像是狗或者是一些概率猫的可能性。

(11:30)如何被更广泛地使用,当涉及到感知这一变化的影响AI的硬件?

MT:让我们再来看看我们是在什么地方把其他的事情转化成预测问题的,这些事情通常是感知和认知,以及人类现在所做的认知活动。以开车为例。我们谈了很多关于自主驾驶,自主无人机,自主机器人。

是什么在推动?当你在它从人的角度看真的,这是一个相当复杂的认知任务。但是当你打破它。如果你想要把它变成一个预测问题,如果你看看汽车是驾驶,它有致动一些有限的数量,这是“走慢”,“走得快”,“左转”或“右转“。

你可以抽象出汽车在这四种情况下的驱动。可能会有一些词,比如“做信号”,“打开灯”,或者类似的辅助性的词。他们不是核心。如果你从预测的角度来看,如果你在训练一个人工智能引擎,你的车周围有传感器。

所以当你在你的环境中移动时,你会有周围环境的感觉。你的问题是,在这个时候,一个好的人类驾驶员会做什么。如果你收集了足够的数据来训练人工智能和人工智能的集合引擎它们接收感官数据并基于这个问题进行转换,这是一个预测问题。

我们预测会有什么好司机做。如果翻译成这四个致动一个......突然驾驶成为预测问题。它也不会发生,除非你有传感器,这是硬件,你可以在近乎实时的时间能够回答这个问题非常相对较短处理数据的显著量。

霎时间运行上车相当高效的推理引擎成为一个关键因素为使该用例。您可以缩放这一点,基本上穿上它的感觉AI应用到其他使用情况的视野,使基本公共组件是...的传感器。

你必须得到足够的数据来训练模型的能力,你必须运行在接近实时的边缘推理某处的能力。有些应用程序不需要实时性要求,但他们中的很多事,你可以交付预测问题。

(15:00)这种转变对新型硬件的需求和必要性有什么影响?

MT:由于各种各样的原因,有些纯粹是技术上的,基本上是障碍,有些是经济上的障碍,还有一些是管理上的障碍。我们需要能够处理这些模型。很多都是为了推理,在一个训练好的模型上做预测。在某些情况下,我们甚至可能想要在边缘处训练模型的某些部分。

但是,我们必须在边缘运行ML车型。技术壁垒,如果你想与传感器典型的汽车,用激光雷达传感器和摄像机,每天的基础上,他们产生的数据的卡车。这是不是说,即使你有世界上所有的带宽,你可以上传到云中。所以这是一个技术壁垒。

即使你可以,它是如此昂贵,它扼杀了业务生存能力。有经济上的障碍,还有监管上的障碍。在某些情况下,您不能将摄像机数据传输到on-prem结构之外的其他地方。当你把所有这些都放进桶里,你就会意识到我们需要在边缘运行AI的能力。

再一次,我回到我之前所说的。要做到这一点,它的核心是相当高效的,我所说的高效是指从执行的角度,比如从处理的角度,从电源的角度。你需要一种高效能和高计算能力的方式来运行AI模型。

(17:00)在启用人工智能时,这些新功能和新需求有哪些有趣的用例?开始出现并向前发展?

MT:我最喜欢的人在硅谷是一个VC ...他有一个非常敏锐的头脑,他有一个非常有趣的说......一种技术,它承诺......那[它]可以替换通常是由人做了家务和[它]可以在价格上便宜很多做的更好,使这些经营理念给我。

他总是有那些商业想法。现在,如果你看看不同的行业。你看看零售,你看制造业,你看物流,无论是在仓库或者它是否是一个自主驾驶和交付的东西像联邦快递的物流自主机器人。

如果你看一下基本的学习工业和教育,几乎所有你能指出使用情况,当你把感知AI在搭配该镜头可以直接应用。当你有传感器和你有边缘延伸AI,突然之间,像制造业,还有人谁是看油漆专家。

当汽车离开生产线时,他们有一双训练有素的眼睛来观察油漆质量是否达到标准。你可以很容易做到这一点,一个真正良好的训练模型和一套相机。我再给你们举一个非常有趣的例子这个行业和我们想的典型行业完全不相关:采矿业。

当你是我的黄金,你设计你的爆炸和那些岩石和颗粒的大小的方式,即后爆炸你确定如何高效的工厂运行。如果他们是太大了,你需要花费大量的能量来打破他们。如果它们太小了,还有其他问题。你要确保这些颗粒的大小分布是在正确的范围内。

今天,有人类专家看到这些,会说,“我认为我们在那里爆炸太多了,在这里爆炸太少了。让我们重新排列它。“现在,在加拿大温哥华有一家公司……他们只是把这变成了一个完全的感知人工智能问题,他们自动地在液压铲上安装了摄像头。”

当他们颗粒装入翻斗车,带他们到工厂,他们看的大小和计算的这一说法,“嘿,我们今天做了太多爆炸性的一些训练的模型分布。让我们把它放下。或过少的爆炸“。

All of a sudden, something that was done by a very highly trained human, now we’re doing it with a set of sensors and a model, a machine trained machine learning model and that human can go and do some far more complex tasks that we can’t do yet with AI. It’s incredible how almost all of our industries, healthcare is another really great example, they’re all changing because of the perception AI.

(21:00)在帮助人们思考他们的业务可能会如何变化方面,你有什么可以补充的吗?

MT:继承人我怎么会鼓励人们看他们的业务。任何企业是一个价值链的一部分。还有的是,从一些原材料或某些输入启动并最终被转化为产品或服务并交付给它的客户和消费者的价值链参与者的链条。

我鼓励人们看看他们在价值链中所扮演的角色,看看在价值链中的整合点在哪里。价值链的哪一部分是由一个参与者交付的?价值链的哪一部分是模块化的,并且一个参与者最终将结果交付给另一个参与者以得到最终的产品或服务?

如果你能找到的地区,你可以改变这些模块化点,进一步整合或启动进一步模块化。很显然......当你开始专注于提供一个复杂的任务,整合是关键。当你模块化它,这个任务是相当成熟的,很好理解。你可以打破他们,你可以创建在不同行业的演员来参加的接口。

看看在哪里可以移动模块化和集成点。在这个练习中,有一个很好的视角,那就是,一个普通人在1到5秒内所能完成的当前人类所能完成的任务是什么。这些都是让人工智能,尤其是感知人工智能,参与价值链的很好的候选目标。

订阅我们的AI在工业播客你最喜欢的播客服务:

iTunes的播客
soundloud播客
google-podcast
订书机,播客

这篇文章是由Kisaco赞助的研究和撰写,编辑出版对准我们的透明Emerj赞助内容指南。了解更多关于到达我们的ai集中执行观众的信息Emerj广告页面

标题图片来源:Techcentral.co.za

艾曲线保持领先

发现关键的人工智能趋势和应用程序,在未来的业务中区分赢家和输家。

订阅“AI优势”简报:

" data-trigger="manual" data-title="Notice" data-placement="bottom" data-content="Thanks - Check your email and open our welcome email to confirm your email address with Emerj">
" data-trigger="manual" data-title="Notice" data-placement="bottom" data-content="Error - There was some problem.">
订阅
订阅图像
保持在机器学习曲线的前面

在Emerj,我们有AI-集中的商业读者最多的观众在线 - 加入其他行业领导者和接收我们的最新人工智能研究,趋势分析,并将其发送到您的收件箱周刊的采访。

感谢您订阅了Emerj“AI Advantage”时事通讯,请检查您的电子邮件收件箱以进行确认。