PerChannelMinMaxObserver

classtorch.ao.quantization.observer.PerChannelMinMaxObserver(ch_axis=0, dtype=torch.quint8, qscheme=torch.per_channel_affine, reduce_range=False, quant_min=None, quant_max=None, factory_kwargs=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)[源代码]

一个用于根据运行时每通道的最小值和最大值来计算量化参数的观察模块。

此观察器使用张量的最小值和最大值统计信息来计算每通道的量化参数。该模块记录输入张量的运行最小值和最大值,并利用这些统计信息来计算量化参数。

参数
  • ch_axis - 通道轴

  • dtype – 实现参考模型规范所需,在量化节点中的dtype参数。

  • qscheme – 用于指定的量化方案

  • reduce_range - 将量化数据类型的范围减少一位

  • quant_min - 最小量化值。若未指定,则默认采用8位设置。

  • quant_max – 最大量化值。若未指定,默认采用8位设置。

  • eps (Tensor) – 表示浮点数 的 epsilon 值,默认为 torch.finfo(torch.float32).eps

量化参数的计算方式与MinMaxObserver相同,不同之处在于运行时的最大值和最小值是按通道存储的。因此,比例因子和零点也是按通道计算的。

注意

如果当前的最小值等于最大值,那么比例和零点将会被设置为1.0和0。

reset_min_max_vals()[源代码]

重置最小值和最大值。

本页目录