老潘的AI社区
ONNXRUNTIME
部署不内卷
runtime
,
onnx
imoldpan
2023 年6 月 7 日 02:20
1
埋坑埋坑埋坑埋坑埋坑
OP
注意onnxruntime有三种不同的后端:
CPUExecutionProvider
CUDAExecutionProvider
DmlExecutionProvider
一般cpu支持的多一些,主要用于验证精度。
https://github.com/microsoft/onnxruntime/blob/main/docs/OperatorKernels.md
参考
https://github.com/microsoft/onnxruntime