ConvTranspose2d
- 类torch.nn.ConvTranspose2d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, groups=1, bias=True, dilation=1, padding_mode='zeros', device=None, dtype=None)[源代码]
-
对该输入图像进行二维转置卷积运算,该图像由多个输入平面组成。
此模块可以视为Conv2d相对于其输入的梯度。它也被称为分数步长卷积或反卷积(尽管实际上它并不是真正的反卷积操作,因为它没有计算出卷积的真实逆)。更多详细信息,请参见此处的可视化以及反卷积网络论文。
此模块支持TensorFloat32。
在某些ROCm设备上,当使用float16输入时,此模块会采用不同的精度进行反向传播。
-
stride
控制跨相关运算的步长。 -
padding
控制每侧隐式的零填充量,具体为dilation * (kernel_size - 1) - padding
个点。详情请参见下方注释。 -
output_padding
控制添加到输出形状一侧的额外大小。具体细节请参见下方注释。 -
dilation
控制核点之间的间距,也称为 à trous 算法。它更难描述清楚,但你可以参考这个链接这里,有一个很好的可视化效果来帮助理解dilation
的作用。 -
groups
控制输入和输出之间的连接关系。in_channels
和out_channels
必须都能被groups
整除。例如,-
当groups等于1时,所有的输入都会与所有的输出进行卷积运算。
-
当 groups=2 时,操作等同于有两个并排的卷积层,每个卷积层处理一半的输入通道并生成一半的输出通道,最后将这两个卷积层的结果拼接在一起。
-
当 groups=
in_channels
时,每个输入通道与其自身的滤波器组(大小为$\frac{\text{out\_channels}}{\text{in\_channels}}$)进行卷积。
-
参数
kernel_size
、stride
、padding
和output_padding
可以为:-
一个单独的
int
– 在这种情况下,这个值同时用于高度和宽度两个维度。 -
一个包含两个整数的
元组
,其中第一个整数表示高度,第二个整数表示宽度。
注意
padding
参数实际上会在输入的两侧添加dilation * (kernel_size - 1) - padding
的零填充量。这样设置是为了确保当一个Conv2d
和一个ConvTranspose2d
使用相同的参数初始化时,它们在输入和输出形状方面互为逆操作。然而,当stride > 1
时,Conv2d
将多个不同的输入形状映射到相同的输出形状。output_padding
提供了一个解决这种歧义的方法,通过有效增加计算出的输出形状的一侧大小。需要注意的是,output_padding
仅用于确定输出形状,并不会实际在输出上添加零填充。注意
在某些情况下,当张量位于 CUDA 设备上并使用 CuDNN 时,此操作符可能会选择一个非确定性算法以提高性能。如果你不希望这样,可以通过将
torch.backends.cudnn.deterministic = True
设置为True
来使操作具有确定性(这可能会影响性能)。有关更多信息,请参阅可重复性。- 参数
- 形状:
-
-
输入: $(N, C_{\text{in}}, H_{\text{in}}, W_{\text{in}})$ 或 $(C_{\text{in}}, H_{\text{in}}, W_{\text{in}})$
-
输出为 $(N, C_{out}, H_{out}, W_{out})$ 或 $(C_{out}, H_{out}, W_{out})$,其中
$H_{out} = (H_{in} - 1) \times \text{stride}[0] - 2 \times \text{padding}[0] + \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) + \text{output\_padding}[0] + 1$$W_{out} = (W_{in} - 1) \times \text{stride}[1] - 2 \times \text{padding}[1] + \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) + \text{output\_padding}[1] + 1$ -
- 变量
-
-
weight (Tensor) – 模块的可学习权重,形状为 $(\text{in\_channels}, \frac{\text{out\_channels}}{\text{groups}},$ $\text{kernel\_size[0]}, \text{kernel\_size[1]})$。这些权重的值从分布$\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 中抽取,其中 $k = \frac{\text{groups}}{C_\text{out} * \prod_{i=0}^{1}\text{kernel\_size}[i]}$
-
bias (Tensor) – 模块的可学习偏置,形状为 (out_channels)。如果
bias
为True
,则这些权重的值从分布 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 中抽取,其中 $k = \frac{groups}{C_\text{out} * \prod_{i=0}^{1}\text{kernel\_size}[i]}$
-
示例:
>>> # With square kernels and equal stride >>> m = nn.ConvTranspose2d(16, 33, 3, stride=2) >>> # non-square kernels and unequal stride and with padding >>> m = nn.ConvTranspose2d(16, 33, (3, 5), stride=(2, 1), padding=(4, 2)) >>> input = torch.randn(20, 16, 50, 100) >>> output = m(input) >>> # exact output size can be also specified as an argument >>> input = torch.randn(1, 16, 12, 12) >>> downsample = nn.Conv2d(16, 16, 3, stride=2, padding=1) >>> upsample = nn.ConvTranspose2d(16, 16, 3, stride=2, padding=1) >>> h = downsample(input) >>> h.size() torch.Size([1, 16, 6, 6]) >>> output = upsample(h, output_size=input.size()) >>> output.size() torch.Size([1, 16, 12, 12])
-