量化

classtorch.ao.quantization.quantize(model, run_fn, run_args, mapping=None, inplace=False)[源代码]

对输入的浮点模型使用训练后静态量化进行量化。

首先,它会为模型的校准做好准备,然后调用run_fn来执行校准步骤。之后,我们会将该模型转换成量化模型。

参数
  • model - 浮点输入模型

  • run_fn — 用于校准准备好的模型的函数

  • run_args - 传递给run_fn的位置参数

  • inplace - 在原地执行模型转换,原始模块将会被修改

  • mapping – 原始模块类型与量化版本之间的对应关系

返回值

量化模型。

本页目录