ConvTranspose3d

torch.nn.ConvTranspose3d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, groups=1, bias=True, dilation=1, padding_mode='zeros', device=None, dtype=None)[源代码]

对由多个输入平面组成的输入图像进行三维转置卷积运算。转置卷积操作是将每个输入值与一个可学习的核逐元素相乘,然后将所有输入特征平面的输出求和。

此模块可以视为Conv3d相对于其输入的梯度。它也被称为分数步长卷积或反卷积(尽管实际上它并不是真正的反卷积操作,因为它没有计算出卷积的真实逆)。更多详细信息,请参见此处的可视化以及反卷积网络论文。

此模块支持TensorFloat32

在某些ROCm设备上,当使用float16输入时,此模块会采用不同的精度进行反向传播。

  • stride 控制跨相关运算的步长。

  • padding 控制每侧隐式的零填充量,具体为 dilation * (kernel_size - 1) - padding 个点。详情请参见下方注释。

  • output_padding 控制添加到输出形状一侧的额外大小。具体细节请参见下方注释。

  • dilation 控制核点之间的间距,也称为 à trous 算法。它更难描述清楚,但你可以参考这个链接这里,有一个很好的可视化效果来帮助理解dilation的作用。

  • groups 控制输入和输出之间的连接关系。in_channelsout_channels 必须都能被 groups 整除。例如,

    • 当groups等于1时,所有的输入都会与所有的输出进行卷积运算。

    • 当 groups=2 时,操作等同于有两个并排的卷积层,每个卷积层处理一半的输入通道并生成一半的输出通道,最后将这两个卷积层的结果拼接在一起。

    • 当 groups= in_channels 时,每个输入通道与其自身的滤波器组(大小为$\frac{\text{out\_channels}}{\text{in\_channels}}$)进行卷积。

参数 kernel_sizestridepaddingoutput_padding 可以为:

  • 一个单独的 int — 在这种情况下,这个值将应用于深度、高度和宽度三个维度。

  • 一个包含三个整数的 元组 – 在这种情况下,第一个整数表示深度维度,第二个整数表示高度维度,第三个整数表示宽度维度。

注意

padding 参数实际上会在输入的两侧添加 dilation * (kernel_size - 1) - padding 的零填充量。这样设置是为了确保当一个Conv3d 和一个ConvTranspose3d 使用相同的参数初始化时,它们在输入和输出形状方面互为逆操作。然而,当stride > 1 时,Conv3d 将多个不同的输入映射到相同的输出形状。output_padding 提供了一种方法来解决这种歧义,通过有效增加计算出的输出形状的一侧大小。需要注意的是,output_padding 仅用于确定输出形状,并不会实际在输出上添加零填充。

注意

在某些情况下,当张量位于 CUDA 设备上并使用 CuDNN 时,此操作符可能会选择一个非确定性算法以提高性能。如果你不希望这样,可以通过将 torch.backends.cudnn.deterministic = True 设置为 True 来使操作具有确定性(这可能会影响性能)。有关更多信息,请参阅可重复性

参数
  • in_channels (int) – 输入图像的通道数量

  • out_channels (int) – 卷积生成的通道数量

  • kernel_size (inttuple) – 卷积核的尺寸

  • stride (int元组, 可选) – 卷积的步长。默认值:1

  • padding (int元组, 可选) – 会在输入的每一维的两侧添加dilation * (kernel_size - 1) - padding 零填充。默认值:0

  • output_padding (inttuple, 可选) – 每个维度输出形状一侧的额外大小。默认值:0

  • groups (int, 可选) – 输入通道到输出通道的阻塞连接数量。默认值:1

  • bias (bool, 可选) – 如果为 True,则在输出中添加一个可学习的偏置。默认值: True

  • dilation (inttuple, 可选) – 核元素之间的间隔。默认值:1

形状:
  • 输入: $(N, C_{\text{in}}, D_{\text{in}}, H_{\text{in}}, W_{\text{in}})$$(C_{\text{in}}, D_{\text{in}}, H_{\text{in}}, W_{\text{in}})$

  • 输出为 $(N, C_{out}, D_{out}, H_{out}, W_{out})$$(C_{out}, D_{out}, H_{out}, W_{out})$,其中

$D_{out} = (D_{in} - 1) \times \text{stride}[0] - 2 \times \text{padding}[0] + \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) + \text{output\_padding}[0] + 1$
$H_{out} = (H_{in} - 1) \times \text{stride}[1] - 2 \times \text{padding}[1] + \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) + \text{output\_padding}[1] + 1$
$W_{out} = (W_{in} - 1) \times \text{stride}[2] - 2 \times \text{padding}[2] + \text{dilation}[2] \times (\text{kernel\_size}[2] - 1) + \text{output\_padding}[2] + 1$
变量
  • weight (Tensor) – 模块的可学习权重,其形状为 $(\text{in\_channels}, \frac{\text{out\_channels}}{\text{groups}},$ $\text{kernel\_size[0]}, \text{kernel\_size[1]}, \text{kernel\_size[2]})$。这些权重的值从分布 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 中抽取,其中 $k = \frac{\text{groups}}{C_\text{out} * \prod_{i=0}^{2}\text{kernel\_size}[i]}$

  • bias (Tensor) – 模块的可学习偏置,形状为 (out_channels)。如果 biasTrue,则这些权重的值从分布 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 中抽取,其中 $k = \frac{groups}{C_\text{out} * \prod_{i=0}^{2}\text{kernel\_size}[i]}$

示例:

>>> # With square kernels and equal stride
>>> m = nn.ConvTranspose3d(16, 33, 3, stride=2)
>>> # non-square kernels and unequal stride and with padding
>>> m = nn.ConvTranspose3d(16, 33, (3, 5, 2), stride=(2, 1, 1), padding=(0, 4, 2))
>>> input = torch.randn(20, 16, 10, 50, 100)
>>> output = m(input)
本页目录