英特尔推出OpenVINO工具包，聚焦边缘计算的视觉处理方案有哪些新意？‘RAYBET雷竞技官方入口’

本文摘要：从混合型到专用型，从云端到终端的最普遍的AI应用于阻抗。

从混合型到专用型，从云端到终端的最普遍的AI应用于阻抗。并获取多种软件工具人组来协助加快AI解决方案的开发周期。还采行基于社区和解决方案驱动的方法，以扩展AI和非常丰富每个人的生活。

在工具方面，对于应用于开发者，英特尔获取了很多工具来提高性能和协助加快解决方案的部署。针对深度自学，开源的OpenVINO和英特尔Movidius SDK 可以通过模型的切换和优化，获取针对英特尔各个目标硬件优化的深度自学推测部署。

据陈伟博士讲解，OpenVINO于5月16日在全球公布，经过过去几个月的合作、研发、优化，7月27号下午月面向中国市场公布。具备跨平台的灵活性，反对和相容主流的深度自学框架，使边缘计算出来解决方案需要提升性能。

“开源也是在我们的计划之中，开源的目的是使得OpenVINO变为生态链的一个主要部分。”技术：发售OpenVINO工具包，助力计算机视觉和深度自学研发录：英特尔中国区物联网事业部首席技术官兼任首席工程师 张宇博士接着，英特尔中国区物联网事业部首席技术官兼任首席工程师张宇博士讲解了OpenVINO的技术细节。据介绍，OpenVINO是一个可以减缓高性能计算机视觉和深度自学视觉应用于研发的工具套件，它需要反对英特尔平台的各种加速器，还包括CPU、GPU、FPGA以及Movidius的VPU，来展开深度自学，同时需要必要反对异构的继续执行。

用于的对象是软件开发人员以及研发、监控、零售、医疗、办公自动化以及自动驾驶等领域的数据科学家。OpenVINO对深度自学和传统的计算机视觉这两类方法都有很好的反对，包括一个深度自学的部署工具套件，这个工具套件可以协助开发者，把早已训练好的网络模型部署到目标平台之上展开推理小说操作者。这样的一个深度自学的部署套件主要还包括两个网元，一个网元称作模型优化器，另外一个被称作推理小说引擎。

模型优化可以把开发者基于一些对外开放的深度自学的框架所研发的网络模型，针对所搭配的目标平台展开优化，把这些优化的结果转换成一个中间回应文件，竣工IR文件。下一步，推理小说引擎不会加载这个IR文件，然后利用适当的硬件插件把这些IR文件iTunes到适当目标平台上展开继续执行。同时，在OpenVINO里面，还包括一个传统的计算机视觉的工具库，在这个工具库里包括了经过实编译器的而且在英特尔CPU上早已经过优化的OpenCV3.3的版本。

除了对OpenCV的反对以外，在OpenVINO中还包括了对OpenVX以及OpenVX在神经网络拓展的反对，同时在媒体、视频、图像处理领域还包括了早已十分成熟期的英特尔的媒体软件开发套件Media SDK，它可以协助开发者十分便利的利用英特尔CPU里面集成显卡的资源来构建视频的编码、解码以及转码的操作者，而且反对多种视频编解码的格式，如H.264、H.265等。张宇博士也讲解了如何利用英特尔的深度自学部署工具套件研发深度自学的应用于。目前较为风行的深度自学的框架主要有三个，即Caffe、Tensor Flow、MxNet，英特尔在设计OpenVINO的时候考虑到了目前开发者的习惯，所以模型优化器通过配备以后可以把这三个主要的研发框架上所研发的网络导入到英特尔的平台上，而且引入的过程中，不会根据目标平台的特性做到一定的优化，把这些优化的结果转换成IR文件。

文件里不会包括优化以后的网络拓扑结构，以及优化之后的模型参数和模型变量。这个IR文件后面不会被推理小说引擎展开加载，推理小说引擎不会根据开发者所搭配的目标平台去搭配适当的硬件插件，把最后的文件iTunes到开发者的目标平台之上。目前所反对的插件还包括CPU的插件，核心显示卡的GPU插件，FPGA的插件以及Myriad VPU的插件。

插件用于完了之后，可以把适当的IR文件iTunes到目标平台之上，开发者可以通过一些测试程序或者应用于来检验它的正确性。在检验完了之后可以把这些推理小说引擎和中间阐释文件一起iTunes到或者构建到最后应用于里展开部署，这是原始的展开深度自学应用于研发的流程。

目前，英特尔通过向FPGA的插件，可以把中间文件iTunes到英特尔Arria10的FPGA板卡之上，调用DLA的库，构建在FPGA上的网络的推理小说操作者；或者通过MKLDN的插件，把中间文件iTunes到英特尔的凌动处理器、酷睿处理器或者是至强劲处理器之下，在这些标准化的CPU之上构建深度自学的运营；再行或者，通过CLDNN以及OpenCL的模块，把一些神经网络运营在英特尔的集成显卡之上；或者是利用Movidius的插件，把神经网络运营在基于Myriad2的深度自学计算出来棒，或在今年年底即将发售的Myriad X上。通过这样一些插件，可以自由选择有所不同的异构的计算出来结构，而且到今后，如果有一个新的硬件的架构必须反对的话，也可以设计一个适当的插件来构建这样的一些反对的拓展，而不必须转变插件之上的一些软件，从而减少开发者的开发成本。OpenVINO工具套件采访实质上是分层的，有所不同的开发者可以根据自己的用于拒绝以及研发的能力去自由选择有所不同的API模块展开调用OpenVINO。

比如公司做到一个考勤系统，几乎可以调用OpenVINO带上的人脸识别示例，根据公司员工数据库做到一个适当的样本集，根据样本集的调用可以寻找当前这个员工是不是这个数据库里的员工。OpenVINO早已获取了一些网络的构建，即Model Zoo，可以在这个构建基础之上构建适当的应用于。总的来说，OpenVINO的优势有以下几点。首先，性能方面，通过OpenVINO，可以用于英特尔的各种硬件的加快资源，还包括CPU、GPU、VPU、FPGA，这些资源需要协助开发者提高深度自学的算法在做到推理小说的时候的性能，而且继续执行的过程中反对异构处置和异步继续执行，需要增加由于系统资源等候所闲置的时间。

另外，OpenVINO用于了经过优化以后的OpenCV和OpenVX，同时获取了很多应用于示例，可以延长研发时间。这些库都反对异构的继续执行，撰写一次以后可以通过异构的模块承托跑完在其他的硬件平台之上。在深度自学方面，OpenVINO具有模型优化器、推理小说引擎以及多达20个预先训练的模型，开发者可以利用获取的这些工具，较慢的构建自己基于深度自学的应用于，而且OpenVINO用于了OpenCV、OpeenVX的基础库，可以利用这些基础库去研发自己特定的算法，构建自己的自定义和创意。

最后，张宇展出了目前用于OpenVINO能超过的性能水平。张宇团队用了像Google Nex这样一些对外开放的网络，在英特尔有所不同的硬件平台之上做到了一些性能方面的测试，把这些测试的结果跟现在市面上的一些较为风行的平台的结果做到了非常简单的对比，在英特尔的酷睿i77800X这个处理器平台上去跑完上述对外开放网络的话，它的适当的性价比是目前市面上解决方案的两倍以上。如果搭配FPGA的产品，它的性能、功耗、成本比值的综合考量的因素性能大约能超过1.4倍以上。如果是用Movidius的话，这样的性能更进一步提高能超过5倍以上。

英特尔Movidius VPU是低功耗计算机视觉和深度推测的解决方案。在边缘计算出来方面，可以通过用于多个Movidius VPU，构建高强度、高效的媒体和视觉推测。

在终端，Movidius VPU在超强低能耗下可以获取出色的推测吞吐量，可以用作物联网传感器、个人计算机和其他终端产品中展开视觉处置和推测。应用于：明确提出六大应用于方向和前景方案(公众号：)录：英特尔中国销售总经理王稚聪发布会的第三个环节，英特尔中国销售总经理王稚聪共享了OpenVINO和人工智能技术明确的市场应用于。在中国，英特尔明确提出了六大应用于方向和前景方案。

交通监控。使用英特尔FPGA和Movidius VPU的摄像头可捕猎数据，并自动将其发送至下游十字路口系统，协助交通部门优化交通和作好规划。这些信息可通过车载系统或应用于必要表达给司机，协助他们规划路线。

公共安全。利用用于OpenVINO工具包研发的Myriad VPU和算法，经过训练的深度神经网络现在可利用推理小说功能标准化面部辨识分析并辨识下落不明儿童。使用了这一技术的城市执法人员机构可在经过训练的数据集给定到人群中已报告下落不明儿童的脸部时，即时接到涉及通报。工业自动化。

英特尔视觉解决方案可协助智能工厂融合OT和IT，重塑工业业务模式和快速增长战略。生产掌控将可自动、简洁运转，延长上市时间。机器视觉。利用人工智能强化工业机器视觉，反对更加精准的工厂自动化应用于。

解决方案人组摄像头、电脑和算法，以分析图像和视频，在边缘获取可以用作指导行动的最重要信息。号召式零售。

在边缘用于英特尔计算机视觉解决方案的零售商，可以较慢辨识特定客户或客户不道德模式，从而获取个性化的精准营销服务。运营管理。通过用于基于英特尔架构的计算机视觉解决方案，零售商可简化运营、管理库存、优化供应链和强化促销能力，并协助他们考古数据的更高价值。陈伟博士回应，“当下，由数据驱动的技术正在重塑着我们所处的世界并为我们刻画着未来的无限有可能。

值得一提的是，中国市场在人工智能和计算机视觉方面的应用于正处于全球领先方位，我们早已把中国市场的市场需求信息规划到未来的产品线里。坚信在旋即的将来，我们不会看见更加多来自中国市场的智能视觉创意应用于。

”最后，云从科技项目总监李军，大华公司研发中心副总裁殷俊，宇视研发副总裁AI产品线总监汤立波，科达研究院继续执行院长曹李军，中科英泰副总裁刘福利，大疆创新科技资深产品专家William Wu，阿里巴巴OS事业部智能硬件研发负责人马飞飞等英特尔合作伙伴代表争相同台，讲解了与英特尔的合作历程，以及用于英特尔硬件和还包括OpenVINO工具包在内的软件工具等研发的明确的行业应用于产品。会后专访：会后，还包括在内的多家媒体对此次与会的多位英特尔负责人展开了专访，谈及OpenVINO跟英特尔其他以前发售来的SDK有什么本质的区别，陈伟博士问道：“以英特尔物联网事业部来说，我们之前也发售过其他的一些SDK，比如Movidius SDK，主要做到媒体处置。OpenVINO实质上在这次公布的时候包括了Movidius SDK，我们在这个基础之上做到了更进一步的功能扩充。

”“功能的扩展主要反映在几个方面：一是减少了对深度自学的功能反对，你可以看见我们有一个深度自学的部署工具套件，里面还包括了模型优化器和推理小说引擎，这几乎是新的。另外，我们在Movidius SDK基础之上，减少了对OpenCV、OpenVX等等这些现在在传统的计算机视觉领域用的较为广泛的函数库的反对，而且这些函数库都是在英特尔的CPU上做到了优化的。”“所以跟原先的Movidius SDK比起，原本只是做到编码、解码的加快，现在不仅能做到编解码的加快，也能做到一些视频处置工作，我们把MovidiusSDK融合在一起的目的是什么？我们看见一个原始的视频处置系统，从它的处置流程来看，第一步要做到编解码，解码以后，把解码的图片转交适当的处置引擎做到深度自学或者是传统的计算机视觉的一些处置操作者，到最后的结果。我们把在整个流水线里面所用到的所有工具包在一起放在OpenVINO里面，让开发者要用一个工具就能把所有的市场需求都符合。

”对此次专访其他牵涉到OpenVINO的关键问题展开了不转变本意的编辑与整理：1.对于英特尔，否有涉及的参照设计方案，或者就是指末端到端的参照方案需要获取给客户，更加较慢的应用于到OpenVINO这个系统？同时，在OpenVINO工具里，如果我的设备里同时不存在FPGA、GPU、CPU以及其他的处理单元，怎么去规划它的计算力用于的优先级？顾典（英特尔技术专家）：我首先问第一个问题。为了更加加快客户的产品开发和部署，我们是不是实力供给客户做到参照。在张博士的演说当中也稍微提及了几点。

第一，我们有一些实训练的模型，不会在OpenVINO的安装包里涵括。这个模型正在大大地配套，早些时候的一个版本是100多个模型，在我们当前这个版本当中早已扩展到了150个模型。大家刚也提及英特尔在公布自己的SDK上和以往有什么不一样。

只不过另外一个较为细节化的不一样，因为我们告诉人工智能和深度自学发展十分慢，所以网络模型改版递归也是十分慢。我们公布这样的软件工具，在改版递归的速率上也不会做到和以往做到不一样的公里/小时处置。比如OpenVINO在今年上半年做到了一个公布，在下半年我们还规划了两次相当大的改版，所以大家也可以从改版的速率上看出来，我们也是为了便利客户的研发，延长客户的时间。

另外，OpenVINO里面有一个叫Open Model Zoo，这不是一个非常简单的网络参照，而是基于一些网络人组的融合，早已把明确的客户的应用于实例研发出来，当然这个研发实例不是原始完备的应用于，这只是一个参照，但客户几乎可以基于Open Model Zoo现成的应用于样本更进一步的作好研发。第二个问题，如果我们设计目标系统里有有所不同的硬件组件，比如我有FPGA或者是GPU，在OpenVINO工具包里有一个类似的插件，叫异构计算插件，刚张博士的演说里提及一点，我们如果目标系统里面涵括了有所不同的硬件设备，可以通过异构的插件展开非常灵活的配备。我这里特别强调了配备，不是新的写出很简单的代码，把工作阻抗分配到有所不同的硬件软件上，我们不会有比较非常简单的API，大家可以在里面写出，哪一个部分的Workload可以在GPU上面构建，哪一部分不被硬件反对。这个配备非常非常简单、非常灵活性，也具有一定的客制化的校验，所以刚开始的时候不会有一定的自学成本，但是上手以后，对于研发可玩性来说大大降低，对于客户和合作伙伴来讲，开发周期也不会起着十分好的延长效果。

2.整个图像处理的算法仍然很简单，我们在处置四元异构加快问题上仍然不存在，不存在了七八年的时间，我不过于告诉为什么在这样一个节点发售这样一个产品，是不是在解决问题异构加快上的关键问题，关键问题是如何解决问题的？顾典：在历史上以往所谓的处置计算机视觉的异构计算里，我们往往特别强调的是图像处理本身，比如还包括一些标准化的核心处置，这些部分包含了传统意义上的异构计算，即更偏图像异构处置的计算出来，从SOC的设计角度来说，这部分的图像异构计算在过去非常宽的发展历史阶段早已获得了较为充份的符合。为什么今天还不会特别强调异构计算，是因为人工智能带给了一种新的计算出来市场需求。比如说卷积神经网络或者是深度自学网络。网络类型的计算出来对于图象处理是新的挑战，在这样一个新的计算出来市场需求下，我们新的再行明确提出异构计算这个概念。

从英特尔自身的优势来说，因为融合了CPU，显核GPU还有FPGA和VPU有所不同的产品组合，所以从自身推展自己的产品平台角度来说，我们也指出这是必须协助客户解决问题的问题。从这两个出发点来说，异构计算还是因为市场需求问题不存在，也是因为本身我们要推展产品的一个必须。里面关键的一个问题是，我们在OpenVINO的开发工具里面做到了很多考虑到怎么样使异构计算显得更容易的一些方式，还包括刚谈的可配备的异构计算插件的解决问题方式。

张宇：我补足一点。如果你看整个趋势的话，英特尔产品线的变化趋势，反映了我们对整个人工智能处置的辨别，从之前来看，我们的产品线主要集中于在标准化处理器和显核和GPU上，这两种主要做到一些相对来说较为标准化的逻辑计算出来和一些视频编解码的计算出来。到了人工智能，我们看见一些相对来说较为专业的处理器，像Movidius和一些高清的FPGA的处理器，有很广泛限于的场景，所以我们指出人工智能计算出来适应环境的架构是根据节点拒绝的多样化架构，很难有单一的一种类型的不道德架构来符合所有节点对人工智能计算出来的拒绝，这是我们的辨别。

基于这个辨别，英特尔产品线在这几年逆的非常丰富了，我们的FPGA和Movidius是通过这几年的并购来转入到英特尔的产品当中来，为什么在这个时间节点发售OpenVINO，因为硬件产品线非常丰富了，就有一个拒绝，开发者在用于硬件的时候，他不期望有有所不同的开发工具，有所不同的研发语言，这样不会减少他的开发成本，所以我们指出必须给开发者一个标准化的、统一的研发模块来减少整个研发支出，所以我们指出OpenVINO在这个时候发售是适合的。3.问一下张博士，在您刚才讲解的时候，您对OpenVINO的定义是它需要加快高性能计算出来视觉，还包括深度自学视觉部署研发速度的套件，但是在终端性的应用于里不光是研发速度，有可能对于运算的效率、功耗都更为重要，所以OpenVINO在这些方面是不是一些计划？另外，算法也是大大演变的，在相容有所不同的算法方面有什么考虑到？张宇：在这一方面我们既考虑到研发的应用性，同时也考虑到它研发之后的高效性。应用性主要反映在我们对一些对外开放的人工智能架构的反对，因为现在开发者基本上都是在Caffe、Tensor Flow、MxNet以及一些其它的网络框架上来展开研发，所以我们必要获取了对这些框架的反对，确保开发者在这个框架下写的模型，通过我们的工具需要迅速的切换在硬件平台之上。

高效性的反映主要是反映在对硬件的反对上，以前你写出的模型只是跑完在标准化处理器上，但是终端的设备里面有一些加快引擎或者是核贞，或者是有Movidius、FPGA，我们不会协助你，把你写的模型跑到这些加快引擎之上，来超过更佳的效果，这是我们在做到的一些工作。顾典：做到一些补足。除了刚张博士谈的，从算法的效率角度来说，我们在OpenVINO工具设计上还做到了十分精细的考虑到，在刚的讲解里面提及OpenVINO的架构里有一些组件，比如有一个组件叫模型优化器，叫Model Optimizer，在Model Optimizer这个层级的API里面，我们不会基于和广大生态合作伙伴累积的经验实行一些较为标准化的优化策略。

刚张博士演说当中也提及了一些分析的策略，我们不会通过模型的优化器去构建。这一个层级算法效率的提高，它的构建和底层硬件没任何关系，这是一些标准化策略。另外，目前我们的OpenVINO的版本早已开源了模型优化器，这个是开源版，基于开发者的经验可以自己自定义优化策略，把优化策略通过自己特一些代码就可以构成自定义的拓展，把拓展加进去，再行把模型引入以后，你的模型就可以被减少的这部分功能优化。

这是第一个层面。第二个层面，如果我们把转化成过的模型启动时到推断引擎的时候，因为推断引擎最后不会使代码下到最底层的硬件，这一层面上我们不会就进到哪一个硬件类型，去做到关于硬件这部分的优化。和硬件涉及的这部分优化是必须开发者对于适当的硬件IP有一定了解的理解。

4.从英特尔的角度来看，您否不会实在人工智能在现阶段FPGA是一个较为好的载体？另外，这种构建了CPU、GPU类型的FPGA，跟通过软件来去协同联合的CPU、GPU、VPU这种类型的架构的项目之间有何区别？张宇：我指出目前人工智能处在初始阶段，我把它定义为一个实验科学，而不是理论科学，因为现在大家做到的很多算法实质上是通过思索、实验出来的，比如我用SSD做到检测，效果不俗，但是这个算法的下限在哪？这个很多人说不清楚，因为现在的人工智能还缺乏一个理论的承托。现在如果我们看人工智能，只不过没一个原始的理论体系，大家更好的是利用各种实验的方式寻找这个方式是较为好的，中用某一个明确的领域，但是这个方法限于度到什么程度，换一个领域是不是需要限于，不能通过实验的方式展开检验，而无法用理论的方式展开检验，这是目前人工智能的现状。在这种情况下，我看见整个人工智能芯片的发展，目前还是FPGA、CPU，在算法不相同的情况下，还是用标准化处理器较为多一些。

但是在一些前端的设备里，因为算法比较相同了，通过一些实验检验完了的算法可以把它相同下来，这个时候用的ASIC较为多一些，比如现在在我的摄像机里用Movidius这样的ASIC芯片去构建特定的算法，这是较为高效的，因为算法相同，ASIC的效率一定是最低的，而且它的功耗较低，需要符合前端设备对低功耗的拒绝。所以刚才您的问题，FPGA有FPGA的限于场景，ASIC有ASIC的用于场景，标准化处理器也有标准化处理器的用于场景，特别是在是在训练阶段。所以这是我实在目前整个人工智能发展现状的局限。到了今后，如果理论更进一步完备了，也可能会有新一代的处理器架构经常出现，那个时候究竟人工智能芯片是什么样子？我们现在很难说，但是我们可以用一个方式展开影射，用什么方法展开影射呢？我们可以对比一下区块链。

大家告诉，以比特币为事例，虽然比特币商业价值我们不说道，我们看它的理论价值，比特币的理论价值相对来说是比较完善的，因为它是以哈希算法为基础，相对来说算法相同了就可以用一些相对来说较为相同的硬件架构构建。所以你看整个比特币矿机芯片的发展阶段，第一个阶段用的是GPU和CPU，第二个阶段是FPGA。因为FPGA既有一定的灵活性度，同时性能功耗比较为低。

到了第三个阶段是ASIC。现在像比特大陆等等这些矿机厂商都在做到自己的芯片，原因在于他们的理论早已比较完善了，所以人工智能很有可能也是类似于的，但是因为这个理论不过于成熟期，所以很难去预估今后人工智能芯片价格究竟是什么样子，在目前这个阶段还是根据特定的应用于场景训练来自由选择的视觉运算。做到目前视频类的人工智能运算的时候，某种程度有卷积神经网络这一个要素，因为做到视频处置牵涉到到其他的要素，比如视频过来之后要做到编解码，跟卷积神经网络是不一样的，不有可能用某种程度的架构来构建，所以如果要一个高效系统的话，应当有一个专门去做到编解码的硬核。另外，做到深度自学的时候，有的时候还要做到一些图形的切换，比如图形或者做到一些处置，本身这些处置不属于卷积范畴，如果有一些适当的因应的硬核去做到的话效果不会更高。

所以如果从整个系统的角度来看，如果有FPGA的资源，有一些针对特定运算加快的资源，对系统来说认同不会更高。所以我们做到芯片设计的时候，今年年底要发售的新一代的Movidius芯片，叫Myriad X，这也是一个融合的架构，是异构的，里面既有对卷积神经网络加快的单元，也有一些对图像编解码的加快单元，以及图像处理的加快单元，这样可以给用户获取一个原始的算例，来协助他们构建深度自学所需的操作者。涉及文章：英特尔2020年将引独立国家GPU，但CPU霸主研发高端GPU的历史有些“辛酸”英特尔戴金权：编撰全新大数据分析+AI平台Analytics Zoo | CCF-GAIR 2018英特尔宣告并购eASIC，更进一步强化“结构化ASIC”设计能力英特尔陈玉荣：全面解析英特尔人工智能计算出来平台 | CCF-GAIR 2018原创文章，予以许可禁令刊登。

下文闻刊登须知。

本文来源：RAYBET雷竞技入口-www.xxhaoding.com