TensorRT 是 NVIDIA 推出的專門加速深度學習推理的開發工具。利用 TensorRT， 您可以快速、高效地在 GPU 上部署基于深度學習的應用。 我們首先會介紹 TensorRT 的基本功能和用法，例如它的優化技巧和低精度加速。其次， 結合我們實際使用過程中的經驗，詳細介紹 TensorRT 的難點：Plugin 機制。最后，我們會分享幾個 TensorRT 成功應用案例