量化
- classtorch.ao.quantization.quantize(model, run_fn, run_args, mapping=None, inplace=False)[源代码]
-
对输入的浮点模型使用训练后静态量化进行量化。
首先,它会为模型的校准做好准备,然后调用run_fn来执行校准步骤。之后,我们会将该模型转换成量化模型。
- 参数
-
-
model - 浮点输入模型
-
run_fn — 用于校准准备好的模型的函数
-
run_args - 传递给run_fn的位置参数
-
inplace - 在原地执行模型转换,原始模块将会被修改
-
mapping – 原始模块类型与量化版本之间的对应关系
-
- 返回值
-
量化模型。