Pytorch模型加速系列（二）——Torch-TensorRT

[imoldpan]

上篇传送门：

• Pytorch模型加速系列（一）——新的Torch-TensorRT以及TorchScript/FX/dynamo

对于结构多变的模型，还是需要parser去解析和转换；对于结构比较固定的模型，使用python-api直接搭建即可。

参考

• https://pytorch.org/TensorRT/user_guide/dynamic_shapes.html
• Pytorch模型加速系列（一）——新的Torch-TensorRT以及TorchScript/FX/dynamo
• https://www.youtube.com/watch?v=eGDMJ3MY4zk&list=PL_lsbAsL_o2BivkGLiDfHY9VqWlaNoZ2O&index=9
• https://github.com/pytorch/TensorRT/pull/2526