AI硬件挑战和注意事项的企业

迪伦Azulay
头像

迪伦在Emerj金融服务的高级分析师,跨银行,保险和财富管理AI使用情况进行研究。

AI硬件挑战和注意事项的企业

大型企业急于使用人工智能软件,但其中许多人不知道的硬件执行许多AI功能要求。要获得这些硬件方面的考虑一个更好的主意,Emerj维多利亚雷杰,联盟与战略合作伙伴关系的董事和Graphcore,讲了Kisaco研究的AI硬件峰会在欧洲,其中发生10月29日至30日在德国慕尼黑。

我们讨论企业面临的采纳和使用AI硬件目前面临的挑战。然后,我们预计其中AI硬件可以在新的十年里找到规模的公司进行。

聆听完整的采访我们AI在工业下面:

订阅我们的播客工业AI与您喜爱的播客服务:

iTunes的播客
soundloud播客
谷歌,播客
订书机,播客

客人:维多利亚雷杰,联盟与战略合作总监 -Graphcore

专长:技术营销和走向市场战略

介绍识别:雷杰也是在空气街资本的运营合伙人,和她担任了9年,在NVIDIA的全球营销主管。

访谈要点

(2:00)如何为新的AI硬件今天正在进入企业呢?

维多利亚雷杰:新的AI硬件做它的方式从各个不同的路线的企业今天。我认为,我们已经看到了很多人的兴趣的人都在他们的数据中心使用物理硬件,以及从云访问硬件。但是,我们真的只是在开始的时候,我甚至不知道我们是否已经达到了临界点,但使用硬件机器学习和人工智能。

(02:30)你认为是引爆点?

虚拟现实:所以,我要说大多数企业知道他们需要使用它。显然,数据科学家是在这个空间里最流行的工作职能之一。但真正了解如何使用硬件以及如何得到这得到推断和培训更好的见解是,真的,我们只是刚刚开始。

图形处理器绝对有吸引力。I think it’s that the explosion of data and the explosion of compute and cloud computing that’s happened over the last several years has just led to a hunger for even more computing power and different computing power that solves problems that not only people are challenged with today, but what machine learning researchers and experts in the AI space see as the challenges that are five years from now, 10 years from now.

因此,我们建立了一个名为IPU处理器,智能处理单元,和我们建立它从无到有,从地上爬起来,以支持未来的车型。

今天,我们培养具有令人难以置信的大量的数据模型,我们从模型推断。但是,这真的只是一个开始,因为今天的模型与背景和从经验中学习的能力斗争。

今天的硬件是怎么样的持有人实现下一个突破回。所以,训练正在太长了比人愿,训练数据集。模型不能真正实时的部署,这就是为什么你看到这么多不同的公司,为什么会有不同的会议只是专注于人工智能的硬件和新的硬件类型。

(05:30)这听起来像面临的挑战是让人有种有自己的GPU与现有的工作流程。那是肯定的说?

虚拟现实:我认为这真的只是依赖。我们已经在双方的AI空间什么阻碍他们前进,如果他们有不同类型的处理器,他们会做什么,得到了有关领导了很多反馈。

我们也花了很多时间在同一时间建立我们的杨树软件路线图,为我们建立了芯片提供更低的摩擦点对谁正在使用的GPU或CPU或FPGA的今天的人们。

它非常直接,IPUs能够插入到人们现在使用的现有机器学习框架中,比如TensorFlow、PyTorch和Onyx。这些框架只存在了几年。OpenAI最近宣布他们计划继续使用PyTorch。当我们第一次启动Graphcore时,那些机器学习框架都还不存在。

因此,建立一个架构,这就是灵活的,允许人们做出大的突破软件栈就是我们的重点。一旦我们有机会与人工智能研究人员和从业人员份额,为什么我们的架构是不同的,它是多么容易使用我们的软件堆栈的使用,很多人都在使用我们的机会跳跃。回到2019年年底,微软宣布,议会联盟在Azure在预览可用。

所以这是梦幻般的。我们有很多不同的行业和不同类型的谁是真正着眼于解决挑战的人。如果解决了他们的痛点或他们的问题,或者使他们能够以更佳的效率做一些事情更快,硬件切换是不是一个大问题。事实上,一些人谁是数据科学家甚至不关心底层的硬件就是必然的,只要他们得到的结果。

(09:30)什么是推理和训练之间的区别,当谈到AI?

虚拟现实:培训基本上是指打造一个机器学习算法的过程。它涉及到使用框架,像PyTorch或TensorFlow和训练数据集。数据科学家,工程师,可以有一个数据集,他们使用列车的各种用例模型。

推理实际上是指利用训练的机器学习算法进行预测的过程。推论是,当计算机从它接受了有关数据进行学习。

其中之一的是,很好的例子是在自动驾驶空间。Many of the autonomous driving companies have to train all of their datasets to come up with all the possible scenarios of what could happen if it’s raining, if it’s snowing, if it’s a hill, if there’s traffic, identifying whether there’s a leaf blowing across the street versus a child crossing the street and doing all of that in real-time.

我前面提到的,人们沮丧,训练这么长时间服用和模型无法实时尚未部署。所以这就是为什么我们有不同类型的硬件。其它的一些简单的使用情况,以及是,如果你与不同国家的同事合作,他们可以在他们的语言说话,你可以在你的语言和实时的,你可以听到对方说话,但在语言你明白。

因此,能够在实时部署数据。但为了做推断,你必须首先做培训的一部分。如今,大多数人都使用不同类型的硬件,然后他们必须将数据从一个样的硬件转移到另一个。

各国议会联盟是发展成为能够同时支持。你可以做的推断或训练,这使得它更容易在节省您的时间,甚至从训练到推理所学的知识转移只是条款。

(14:00)这是什么样子将数据从一个训练环境迁移到推论环境?

虚拟现实:这真的取决于具体的使用情况,但我认为,如果我们采取自主车的例子,训练发生在与机架和硬件的机架数据中心。他们想要做的是能在车上来推断。

很显然,你不能把一个数据中心在汽车必然或者是不实际的,但我认为这是的东西,自主驾驶公司都专注于一个。他们怎么能做到完全的自主权,如果他们已经在两个不同的地方拿到的数据?

我知道谁是专注于嵌入式这款即将上市的发布会上有几个不同的扬声器。这只是真正使培训效果更接近电脑的推断能力的情况。

(15:30)什么的AI硬件样子的未来?

虚拟现实:有些地方它正在使用的今天,有很大的潜力的领域是在金融业,所以对冲基金和金融工程师和人谁是试图使他们的财务预测或者在一系列的时间分析的东西更好的决策。

有一种叫,马尔可夫链蒙特卡罗,就是这样真的适合时间序列分析问题的概率模型。我们已经看到客户能够用它来训练他们的模型在四五十分钟,而不是两个小时。

另一个空间,我们看到的是一个很大的转变卫生保健。医生如何发现问题越早,无论是出血或癌症或一些地方,如果模型可以推断基于图像或数据,并给出一个更快的诊断,还有一个更精确的诊断。有利于大家。它有利于患者。

在去年年底的医学会议上,有这里的乡亲都提供了脑出血60万个形象片和所有的数据增加一个Kaggle竞争,他们能够在模型上运行它,并发现,使用该新的硬件,各国议会联盟,他们能够比今天现有的硬件快两倍运行模式,具有四倍的效率。

So if you think about just helping doctors identify problems sooner, or even if computers can infer what’s going to happen to a patient, so they can say, “You’re on track to have some type of health incident, but here are the things that you can change today to prevent that from happening,” I think that’s one of the areas I’m most excited about because that’s something that benefits everyone.

订阅我们的播客工业AI与您喜爱的播客服务:

iTunes的播客
soundloud播客
谷歌,播客
订书机,播客

这篇文章是由Kisaco赞助的研究和撰写,编辑出版对准我们的透明Emerj赞助内容指南。了解更多关于实现我们的AI-专注于执行我们的观众Emerj广告页面

标题图片来源:卡尔顿大学

艾曲线保持领先

发现关键的AI趋势和应用,在企业的未来和输家独立的赢家。

订阅“AI优势”简报:

" data-trigger="manual" data-title="Notice" data-placement="bottom" data-content="Thanks - Check your email and open our welcome email to confirm your email address with Emerj">
" data-trigger="manual" data-title="Notice" data-placement="bottom" data-content="Error - There was some problem.">
订阅
订阅图像
机器学习曲线保持领先

在Emerj,我们有AI-集中的商业读者最多的观众在线 - 加入其他行业领导者和接收我们的最新人工智能研究,趋势分析,并将其发送到您的收件箱周刊的采访。

感谢您订阅的Emerj“AI优势”的通讯,检查你的电子邮件收件箱进行确认。