量化教程大全

[imoldpan]

这里汇总关于量化的一些知识

开源量化框架

• GitHub - ModelTC/MQBench: Model Quantization Benchmark
• GitHub - openppl-public/ppq: PPL Quantization Tool (PPQ) is a powerful offline neural network quantization tool.
• https://github.com/ModelTC/Dipoorlet

模型量化情况

可以重点参考：

• https://github.com/openppl-public/ppq/tree/master/ppq/samples/QuantZoo

大模型量化

大模型量化与小模型的方案不同

bert量化

参考

• 非线性激活函数量化——查表法 - 知乎