Intel NCS2（神经网络计算棒）性能测评及应用
大家好，很高兴能够参与面包板社区的【大联大友尚英特尔神经计算棒】测评活动，本文主要是对Intel NCS2（神经网络计算棒）做一个简单介绍，然后在Windows10 X64平台下的环境搭建流程及车辆识别的Demo运行，通过在CPU、GPU、NCS2上分别运行Demo，对比执行Demo的效率；然后在树莓派4B 平台下的环境搭建流程及摄像头实时识别人脸的Demo运行。
神经计算棒二代（简称英特尔NCS 2）是英特尔公司人工智能大会上发布的可以在网络边缘构建AI算法和计算机视觉原型设备。英特尔NCS 2是基于Movidius Myriad X视觉处理单元（VPU），并得到英特尔OpenVINO工具包的支持。与上一代神经计算棒相比，NCS2首次配备有神经计算引擎（专用硬件神经网络推理加速器），计算性能得到大幅提升。 借助英特尔NCS 2，计算机视觉和人工智能可以轻松地部署到物联网和边缘设备原型上。无论开发者研发智能相机、无人机、工业机器人还是智能家居设备，英特尔NCS 2都能让原型设备运行得更加快速、更加智能。
一、Win10 X64配置openvino及NCS2的使用（日志）
链接：https://pan.baidu.com/s/14JvFE6z1AptHEQ4gtCe50Q
提取码：5gx9
--资料连接
图（1）NCS2实物图片
openvino_toolkit安装及配置（官方教程链接：InstallIntel® Distribution of OpenVINO™ toolkit for Windows* 10 - OpenVINO™ Toolkit(openvinotoolkit.org)）文中涉及到的软件已打包至《安装环境_windows10》文件夹中，VisualStudio版本为2019社区版，cmake版本为cmake-3.21.2-windows-x86_64，python版本为python-3.6.5-amd64，openvino_toolkit版本为2021.04.01 LTS。
（一）安装依赖软件：
PS：Cmake与Python安装过程中，必须要加入到环境变量，在C盘容量允许情况下，最好采用默认安装位置。
（二）安装openvino_toolkit
1、官方历史版本下载地址：Fast Track ComputerVision & Deep Learning Inference With Intel® Distribution of OpenVINO™toolkit ，在页面中按照要求填写基础信息，选择安装平台（如图2），这里选择windows平台，选择完成后，点击submit，进入下载选择界面，根据自己需要，选择对应版本（如图3），《安装环境_windows10》文件夹提供的软件包为2021.04.01 LTS，全功能安装。
图（2）填写基础信息
图（3）选择对应版本
PS：在C盘容量允许情况下，最好采用默认安装位置，后续会省去很多麻烦。
2、下载完成后，双击安装，安装过程与通用软件一样。
图（4）安装过程a
图（5）安装过程b
图（5）安装过程c
（三）openvino_toolkit环境配置
1、按快捷键“Win+R”，进入“运行”，输入“C:\Program Files(x86)\Intel\openvino_2021\bin\setupvars.bat”命令回车，初始化openvino_toolkit。
2、输入“cd C:\Program Files (x86)\Intel\openvino_2021\deployment_tools\model_optimizer\install_prerequisites”命令回车，输入“install_prerequisites.bat”命令回车，配置模型优化器，这条命令会配置openvino_toolkit支持的所有模型优化器，（Caffe*,TensorFlow* 1.x, MXNet*, Kaldi*, ONNX*），一步到位，也可以单独配置，。
PS：输入“cd C:\Program Files (x86)\Intel\openvino_2021\deployment_tools\model_optimizer\install_prerequisites”命令回车，然后根据需求配置。
Caffe*：install_prerequisites_caffe.bat；
TensorFlow*1.x：install_prerequisites_tf.bat；
TensorFlow*2.x：install_prerequisites_tf2.bat；
MXNet*：install_prerequisites_mxnet.bat；
Kaldi*：install_prerequisites_onnx.bat；
ONNX*：install_prerequisites_kaldi.bat；
（四）测试环境配置
1、按快捷键“Win+R”，进入“运行”，输入“C:\Program Files (x86)\Intel\openvino_2021\bin\setupvars.bat”命令回车，初始化openvino_toolkit。2、输入“cd C:\Program Files (x86)\Intel\openvino_2021\deployment_tools\demo”回车,进入测试Demo，输入“.\ demo_security_barrier_camera.bat”回车，运行测试Demo，环境配置无误后，得到如图结果。
图（7）CPU运行结果
图（8）GPU运行结果
图（9）NCS2运行结果
二、树莓派4B配置openvino及NCS2的使用（日志）
图（10）树莓派4B及NCS2实物图
（一）树莓派4B环境搭建及open vino环境配置
1、树莓派4B系统安装：自行搜索安装教程，这里不做具体介绍；
2、下载OpenVINO 2019.3.334版本至树莓派4B Downloads文件夹下；
3、打开树莓派4B的VNC功能，使用VNC远程连接树莓派4B；
4、输入如下命令，进行解压：
cd~/Downloads/；
tar -xfl_openvino_toolkit_runtime_raspbian_p_2019.3.334.tgz；
解压后进行重命名：intel_openvino；
5、输入如下命令，初始化Open vino：
sourceintel_openvino/bin/setupvars.sh；
sh intel_openvino/install_dependencies/install_NCS_udev_rules.sh；
sed -i"s|<INSTALLDIR>|$(pwd)/intel_openvino|" intel_openvino/bin/setupvars.sh；
6、使用如下命令，将Open vino加入环境变量：
echo"source /opt/intel/openvino_2021/bin/setupvars.sh" >> ~/.bashrc；
重开一个新的命令行窗口，登陆后提示[setupvars.sh] OpenVINO environment initialized则说明配置成功。
7、输入如下代码，为英特尔神经棒2代配置USB规则：
sudousermod -a -G users "$(whoami)"；
sh intel_openvino/install_dependencies/install_NCS_udev_rules.sh；
成功后，显示如下：
Updatingudev rules...
Udevrules have been successfully installed.
8、把英特尔神经棒插在树莓派的USB口上进行编译：
cdintel_openvino/deployment_tools/inference_engine/samples；
mkdir build && cdbuild；
cmake ..-DCMAKE_BUILD_TYPE=Release -DCMAKE_CXX_FLAGS="-march=armv7-a"；
make-j4 object_detection_sample_ssd；
到此为止，环境配置完毕。
图（11）树莓派4B及NCS2连接图
图（12）树莓派4B配置完成
（二）树莓派4B运行人脸识别历程
1、配置树莓派摄像头：
sudo apt-get installpython-opencv；
sudo apt-get install fswebcam；
图（13）NCS2与树莓派4合照及摄像头
运行sudo nano/etc/modules，在结尾加上：bcm2835-v4l2；然后重启树莓派4B；输入：vcgencmd get_camera，输出结果：supported=1 detected=1；
在树莓派命令行中运行这条命令：exportDISPLAY=:0.0
2、打开资料包内的人脸识别历程；
图（14）树莓派4运行代码
3、运行结果
图（15）树莓派4运行结果
图（16）其他设备应用NCS2
好了，本次测评到此结束，再次感谢面包板社区提供的NCS2。
/2 
