标签: OpenVINO2022

分享OpenVINO2022安装部署视频教程——《OpenVINO2022计算机视觉模型部署与加速教程》，附带源码+模型文件+思维导图下载！自推出以来OpenVINO一直紧随AI的技术发展，保持着高频的迭代更新，来解决各行各业开发者提出的各种需求和面临的挑战。这次版本迭代，从2021.4到2022.1，改动很大，可以说是迄今为止最重大的更新。最新版本精简了安装包和运行时库，添加了Auto-DevicePlugin、MO参数简化等一系列的有利于开发者快速上手的功能，也官宣了对PaddlePaddle的正式支持，其他还有推理API的改进等等，有兴趣可以查看官网文档，这里不一一而论。配置OpenVINO2022开发环境主要是针对C++部分，使用VS2017配置。这部分跟以前没有太大差异，同样需要配置包含目录，库目录与附加依赖项添加，跟环境变量，这几个部分的配置分别如下：若你同我一样默认安装路径直接复制即可(无需任何改动，复制进去直接回车即可)包含目录C:\ProgramFiles(x86)\Intel\openvino_2022\runtime\include;C:\ProgramFiles(x86)\Intel\openvino_2022\runtime\include\ie;C:\ProgramFiles(x86)\Intel\openvino_2022\runtime\include\ngraph;C:\ProgramFiles(x86)\Intel\openvino_2022\runtime\include\openvino应用要想强大，性能表现很重要。2021.2版本的OpenVINO，针对使用TensorflowQuantization-Aware（对权重进行逐通道量化）方式训练的模型，模型优化器新增了相应的逐通道量化支持，以高效的模型压缩，降低延时，提高性能。强大的应用，安全当然也是重中之重。2021.2版本提供了全新的安全插件，使用安全打包和执行，控制模型的访问权限。该插件基于KVM虚拟机和Docker容器，部署起来快速方便。此外，对于RedHatEnterpriseLinux(RHEL)8.2的支持，让OpenVINO的应用场景更加广泛。

《OpenVINO2022计算机视觉模型部署与加速教程》分享，视频+源码+模型文件+思维导图下载！1.1OpenVINOTMTM安装环境OpenVINOTMTM是一款依赖计算机或智能设备硬件的模型推理部署套件，在边缘启用基于CNN的深度学习推理，支持跨英特尔®CPU、英特尔®集成显卡、英特尔®神经计算棒2和英特尔®视觉加速器设计与英特尔®MovidiusTMVPU的异构执行。此处我们介绍在Windows平台上的安装和使用。由于OpenVINOTMTM是一款依赖计算机或智能设备硬件的模型推理部署套件，因此它可以在自家的设备上很好的运行，经过测试，在Windows平台上，非intelCPU设备也可以运行OpenVINOTMTM，例如AMD推出的CPU，此处安装使用的设备为AMDR7-5800H；对于显卡设备不支持英伟达等其他显卡，仅支持英特尔自家显卡。友情提醒在导出ONNX格式模型后，可以使用Netron可视化网络结构，明确网络的输入、输出名称以及尺寸，为推理作准备！导出时可以指定input&outputname，尤其是多输出模型，这样在推理后可以推理请求中根据name获取结果；实际上，OpenVINO2022支持自动获取输入、输出节点名称！！单输入、单输出的模型可以放心交给API，而多输出模型也可以像旧版本一样通过name获取，也可以通过输出编号获取结果。2022版本加载模型提供了两种模式分别是read_model与compile_model方式，这两种方式得到分别是model跟compiledmodel，其中通过read_model方式读取的model对象可以通过compile_model函数转换为compiledmodel，同时它们都支持直接访问属性获取输入与输出层信息（inputs/outputs）然后重启VS2019，执行如下代码测试：#include<openvino/openvino.hpp>#include<opencv2/opencv.hpp>usingnamespacecv;usingnamespacestd;intmain(intargc,char**argv){  //创建IE插件,查询支持硬件设备  ov::Coreie;  vector<string>availableDevices=ie.get_available_devices();  for(inti=0;i<availableDevices.size();i++){    printf("supporteddevicename:%s\n",availableDevices[i].c_str());  }  return0;}

分享课程——OpenVINO2022计算机视觉模型部署与加速课程，附源码+模型文件+思维导图。课程目录：章节1课程概述章节2部署ResNet图像分类模型章节3车辆检测与中文车牌识别章节4行人检测人脸检测表情识别与关键点检测章节5语义与实例分割模型部署与加速推理章节6OCR应用-场景文字检测与识别章节7自定义模型部署与转换章节8YOLOv5部署与加速章节9Python版本SDK介绍与推理演示章节10课程总结源码+模型文件+思维导图