ConvTranspose2d

torch.nn.ConvTranspose2d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, groups=1, bias=True, dilation=1, padding_mode='zeros', device=None, dtype=None)[源代码]

对该输入图像进行二维转置卷积运算,该图像由多个输入平面组成。

此模块可以视为Conv2d相对于其输入的梯度。它也被称为分数步长卷积或反卷积(尽管实际上它并不是真正的反卷积操作,因为它没有计算出卷积的真实逆)。更多详细信息,请参见此处的可视化以及反卷积网络论文

此模块支持TensorFloat32

在某些ROCm设备上,当使用float16输入时,此模块会采用不同的精度进行反向传播。

  • stride 控制跨相关运算的步长。

  • padding 控制每侧隐式的零填充量,具体为 dilation * (kernel_size - 1) - padding 个点。详情请参见下方注释。

  • output_padding 控制添加到输出形状一侧的额外大小。具体细节请参见下方注释。

  • dilation 控制核点之间的间距,也称为 à trous 算法。它更难描述清楚,但你可以参考这个链接这里,有一个很好的可视化效果来帮助理解dilation的作用。

  • groups 控制输入和输出之间的连接关系。in_channelsout_channels 必须都能被 groups 整除。例如,

    • 当groups等于1时,所有的输入都会与所有的输出进行卷积运算。

    • 当 groups=2 时,操作等同于有两个并排的卷积层,每个卷积层处理一半的输入通道并生成一半的输出通道,最后将这两个卷积层的结果拼接在一起。

    • 当 groups= in_channels 时,每个输入通道与其自身的滤波器组(大小为$\frac{\text{out\_channels}}{\text{in\_channels}}$)进行卷积。

参数 kernel_sizestridepaddingoutput_padding 可以为:

  • 一个单独的 int – 在这种情况下,这个值同时用于高度和宽度两个维度。

  • 一个包含两个整数的元组,其中第一个整数表示高度,第二个整数表示宽度。

注意

padding 参数实际上会在输入的两侧添加 dilation * (kernel_size - 1) - padding 的零填充量。这样设置是为了确保当一个Conv2d 和一个ConvTranspose2d 使用相同的参数初始化时,它们在输入和输出形状方面互为逆操作。然而,当stride > 1 时,Conv2d 将多个不同的输入形状映射到相同的输出形状。output_padding 提供了一个解决这种歧义的方法,通过有效增加计算出的输出形状的一侧大小。需要注意的是,output_padding 仅用于确定输出形状,并不会实际在输出上添加零填充。

注意

在某些情况下,当张量位于 CUDA 设备上并使用 CuDNN 时,此操作符可能会选择一个非确定性算法以提高性能。如果你不希望这样,可以通过将 torch.backends.cudnn.deterministic = True 设置为 True 来使操作具有确定性(这可能会影响性能)。有关更多信息,请参阅可重复性

参数
  • in_channels (int) – 输入图像的通道数量

  • out_channels (int) – 卷积生成的通道数量

  • kernel_size (inttuple) – 卷积核的尺寸

  • stride (int元组, 可选) – 卷积的步长。默认值:1

  • padding (int元组, 可选) – 会在输入的每一维的两侧添加dilation * (kernel_size - 1) - padding 零填充。默认值:0

  • output_padding (inttuple, 可选) – 每个维度输出形状一侧的额外大小。默认值:0

  • groups (int, 可选) – 输入通道到输出通道的阻塞连接数量。默认值:1

  • bias (bool, 可选) – 如果为 True,则在输出中添加一个可学习的偏置。默认值: True

  • dilation (inttuple, 可选) – 核元素之间的间隔。默认值:1

形状:
  • 输入: $(N, C_{\text{in}}, H_{\text{in}}, W_{\text{in}})$$(C_{\text{in}}, H_{\text{in}}, W_{\text{in}})$

  • 输出为 $(N, C_{out}, H_{out}, W_{out})$$(C_{out}, H_{out}, W_{out})$,其中

$H_{out} = (H_{in} - 1) \times \text{stride}[0] - 2 \times \text{padding}[0] + \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) + \text{output\_padding}[0] + 1$
$W_{out} = (W_{in} - 1) \times \text{stride}[1] - 2 \times \text{padding}[1] + \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) + \text{output\_padding}[1] + 1$
变量
  • weight (Tensor) – 模块的可学习权重,形状为 $(\text{in\_channels}, \frac{\text{out\_channels}}{\text{groups}},$ $\text{kernel\_size[0]}, \text{kernel\_size[1]})$。这些权重的值从分布$\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 中抽取,其中 $k = \frac{\text{groups}}{C_\text{out} * \prod_{i=0}^{1}\text{kernel\_size}[i]}$

  • bias (Tensor) – 模块的可学习偏置,形状为 (out_channels)。如果 biasTrue,则这些权重的值从分布 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 中抽取,其中 $k = \frac{groups}{C_\text{out} * \prod_{i=0}^{1}\text{kernel\_size}[i]}$

示例:

>>> # With square kernels and equal stride
>>> m = nn.ConvTranspose2d(16, 33, 3, stride=2)
>>> # non-square kernels and unequal stride and with padding
>>> m = nn.ConvTranspose2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2))
>>> input = torch.randn(20, 16, 50, 100)
>>> output = m(input)
>>> # exact output size can be also specified as an argument
>>> input = torch.randn(1, 16, 12, 12)
>>> downsample = nn.Conv2d(16, 16, 3, stride=2, padding=1)
>>> upsample = nn.ConvTranspose2d(16, 16, 3, stride=2, padding=1)
>>> h = downsample(input)
>>> h.size()
torch.Size([1, 16, 6, 6])
>>> output = upsample(h, output_size=input.size())
>>> output.size()
torch.Size([1, 16, 12, 12])
本页目录