标签: ONNXRUNTIME

分享课程——ONNXRUNTIME计算机视觉模型部署与加速教程，附源码。课程全面介绍了ONNXRUNTIME版本的C++SDK的使用技巧，一步一步演示教学ONNXRUNTIME框架上如何部署主流图像分类、对象检测、实例分割、语义分割模型、姿态评估与关键点检测模型。使用Python脚本与工具行命令轻松实现TorchVision中各种模型导出与简化ONNX格式模型，工程化封装代码，实现推理代码复用，三行代码即可实现接口调用，支持CPU与GPU加速等各种开发实战技巧，全面提升深度学习模型部署与加速能力。ONNXRuntime：由微软推出，用于优化和加速机器学习推理和训练，适用于ONNX模型，是一个跨平台推理和训练机器学习加速器。ONNX（OpenNeuralNetworkExchange）是一种标准与开放的网络模型交换格式，直白点说就是tensorflow/pytorch/paddle等深度学习框架训练的模型都可以转换为ONNX格式，然后ONNX格式模型可以通过ONNXruntime组件实现模型的推理预测并加速，从而实现不基于原来框架的模型部署。