PlaceholderObserver

classtorch.ao.quantization.observer.PlaceholderObserver(dtype=torch.float32, custom_op_name='', compute_dtype=None, quant_min=None, quant_max=None, qscheme=None, eps=None, is_dynamic=False)[源代码]

一个不做任何操作的观察者,仅将配置传递给量化模块的 .from_float() 方法。

可以将数据量化为float16格式,无需确定范围。

参数
  • dtype – 实现参考模型规范所需,在量化节点中的dtype参数。

  • quant_min - 量化域中的最小值(待办事项:与其它观察器的行为保持一致)

  • quant_max – 量化域的最大值

  • custom_op_name – (临时)为不需任何观察的运算符指定此观察器(在图模式传递中可用于特殊运算符)。

  • compute_dtype (已弃用):如果设置了此选项,未来将使用动态量化而非静态量化。请改用is_dynamic=True

  • is_dynamic – 如果为 True,参考模型中的 quantize 函数将会使用该观察器实例的统计数据来进行动态量化。

本页目录