TensorRT中的OptimizationProfile

在使用TensorRT进行推断时,若想要设置默认的执行上下文的配置文件(profile),必须显式地设置配置文件的索引,不能隐式地使用索引0作为默认值。

trtexec does not support multiple optimization profiles yet

https://github.com/NVIDIA/TensorRT/issues/1590