量化教程大全

[imoldpan]

这里汇总关于量化的一些知识

开源量化框架

• https://github.com/ModelTC/MQBench
• https://github.com/openppl-public/ppq
• https://github.com/ModelTC/Dipoorlet

模型量化情况

可以重点参考：

• https://github.com/openppl-public/ppq/tree/master/ppq/samples/QuantZoo

repvgg重参数化量化系列

• Post-Training Quantization for Re-parameterization via Coarse & Fine Weight Splitting
• Reparameterizing your optimizers rather than architectures
• Make repvgg greater again: A quantizationaware approach

大模型量化

大模型量化与小模型的方案不同

bert量化

参考

• 非线性激活函数量化——查表法 - 知乎
• https://mp.weixin.qq.com/s/eyVw8JRjNcEqQubnpSviHQ