老潘的AI社区
ONNXRUNTIME
部署不内卷
onnx
,
runtime
imoldpan
2023 年6 月 7 日 02:20
1
埋坑埋坑埋坑埋坑埋坑
OP
注意onnxruntime有三种不同的后端:
CPUExecutionProvider
CUDAExecutionProvider
DmlExecutionProvider
一般cpu支持的多一些,主要用于验证精度。
onnxruntime/docs/OperatorKernels.md at main · microsoft/onnxruntime · GitHub
参考
GitHub - microsoft/onnxruntime: ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator