部署之路之FAQ

这里收集大家经常问我的一些问题:

如果想做模型压缩、量化这些,需要先做算法相关的吗

肯定懂算法是最好的,毕竟模型压缩和量化是对模型做事情,搞算法的已经提前了解了模型的结构、op特点(训练时和推理时)、op种类、特殊结构等等。模型压缩、量化或者转换的时候都要经过这些op,难免会遇到很多问题,知道op细节对于解决这个问题肯定是有帮助的(比如BN在训练时和推理时表现不一样,转化的时候就需要注意),有很多坑。
不过都是可以慢慢学的,转换的时候再看也行,遇到不会的算子再去查阅。