深度学习TensorRT模型部署实战课程。

简介：
分享的课程——深度学习-TensorRT模型部署实战，于2022年4月推出，为完整版视频教程，提供下载链接及配套代码、课件资源。该课程内容被组织成四个主要模块：首先，第一部分侧重于CUDA驱动API的优化与掌握，涵盖了API使用方法、错误处理技巧、上下文管理策略，并深入探讨了驱动API在开发流程中的定位以及良好的CUDA开发习惯。其次，第二部分聚焦于CUDA运行时API的精简与实用性，旨在学习如何高效地使用这些API，编写核函数以加速模型预处理（例如仿射变换），同时探索yolov5后处理加速方法以及共享内存的应用。第三部分则深入TensorRT的基础知识，包括模型编译和推理流程的学习、onnx解析器的应用、onnx结构及编辑修改方法的掌握、int8量化技术的学习以及插件开发流程和简化插件开发方法。最后，第四部分以项目为导向，通过大量的具体案例（如分类器、目标检测、姿态检测、场景分割、道路分割、深度估计、车道线检测等）来学习huggingface, insightface, mmedetection, onnxruntime, openvino等框架下的封装技术、多线程技术以及框架设计技术，以满足深度学习应用的需求。