GroupNorm

classtorch.nn.GroupNorm(num_groups, num_channels, eps=1e-05, affine=True, device=None, dtype=None)[源代码]

对一批输入数据进行组归一化处理。

此层实现了组规范化论文中描述的操作。

$y = \frac{x - \mathrm{E}[x]}{ \sqrt{\mathrm{Var}[x] + \epsilon}} * \gamma + \beta$

输入通道被分成 num_groups 组，每组包含 num_channels / num_groups 个通道。其中，num_channels 必须能被 num_groups 整除。每个组的均值和标准差分别进行计算。$\gamma$ 和 $\beta$ 是大小为 num_channels 的可学习的每通道仿射变换参数向量，当 affine 为 True 时。标准差通过有偏估计器计算，等同于torch.var(input, unbiased=False)。

此层在训练和评估模式下都会使用从输入数据中计算出的统计信息。

参数

• num_groups (int) – 用于指定将通道划分成的组的数量

• num_channels (int) – 输入数据中预期的通道数量

• eps (float) — 一个添加到分母的值，用于保证数值稳定性。默认值为 1e-5。

• affine (bool) – 一个布尔值，当设置为True时，此模块具有可学习的每通道仿射参数，默认情况下权重初始化为1，偏置初始化为0。默认值： True。

形状:

• 输入: $(N, C, *)$，其中 $C=\text{num\_channels}$

• 输出: $(N, C, *)$ （与输入的形状相同）

示例:

>>> input = torch.randn(20, 6, 10, 10)
>>> # Separate 6 channels into 3 groups
>>> m = nn.GroupNorm(3, 6)
>>> # Separate 6 channels into 6 groups (equivalent with InstanceNorm)
>>> m = nn.GroupNorm(6, 6)
>>> # Put all 6 channels into a single group (equivalent with LayerNorm)
>>> m = nn.GroupNorm(1, 6)
>>> # Activating the module
>>> output = m(input)