【AI模型】AI模型部署概述

心口如一，犹不失为光明磊落丈夫之行也。——梁启超

😏1. AI模型部署方法

在AI深度学习模型的训练中，一般会用Python语言实现，原因是其灵活、可读性强。但在AI模型实际部署中，主要会用到C++，原因在于其语言自身的高效性。

对于AI模型的部署，有这几种方法可供选择：

1. 使用 C++ 实现深度学习模型（★★★）
   可以使用 C++ 编写自己的深度学习库或框架，但这需要您具有深入的数学和计算机科学知识。此外，也可以使用现有的开源 C++ 框架，如 TensorRT 和 OpenCV DNN 等。

2. 导出深度学习模型到应用平台（★★）
   许多深度学习框架支持将训练好的模型导出为 C++ 可以读取的格式，如 ONNX、TensorFlow Lite、Caffe2 等。这样可以在不重新训练模型的情况下，在 C++ 代码中加载和运行模型。

3. 使用 C++ 库来加载和运行深度学习模型（★）
   许多开发人员使用现有的 C++ 库来加载和运行深度学习模型，如 OpenCV、Dlib、Libtorch 等。这些库提供了一些方便的函数和接口，可以轻松地集成到您的 C++ 项目中。

😊2. AI模型部署框架

模型部署常见的推理框架有：ONNX、NCNN、OpenVINO、 TensorRT、Mediapipe