自定义表单掩码
- 类torch.nn.utils.prune.CustomFromMask(mask)[源代码]
-
- classmethodapply(module, name, mask)[源代码]
-
添加动态剪枝功能,并对张量进行重新参数化。
添加一个前向预处理钩子,在运行时启用剪枝功能,并根据原始张量和剪枝掩码来重新参数化张量。
- apply_mask(模块)
-
简单地处理参数和生成的掩码之间的乘法运算。
从模块中获取掩码和原始张量,并返回裁剪后的张量。
- 参数
-
module (nn.Module) – 包含待修剪张量的模块
- 返回值
-
输入张量的简化版
- 返回类型
-
pruned_tensor (torch.Tensor)
- prune(t, default_mask=None, importance_scores=None)
-
计算并返回输入张量
t
的简化版本。根据
compute_mask()
中规定的剪枝规则。- 参数
-
-
t (torch.Tensor) – 需要进行剪枝操作的张量(与
default_mask
具有相同的维度)。 -
importance_scores (torch.Tensor) – 重要性分数张量(与
t
形状相同),用于计算要修剪的t
的掩码。该张量中的值表示正在被修剪的t
中对应元素的重要性。如果未指定或为 None,则使用t
本身。 -
default_mask (torch.Tensor, 可选) – 上一次剪枝迭代的掩码(如果有)。在确定剪枝应作用于张量的哪一部分时,需要考虑这个掩码。如果为 None,则默认使用全1掩码。
-
- 返回值
-
张量
t
的简化版本。
- remove(module)
-
从模块中删除剪枝重参数化。
名为
name
的剪枝参数将永久保持被剪枝状态,而名为name+'_orig'
的参数将从参数列表中删除。同样地,名为name+'_mask'
的缓冲区也将从缓冲区列表中移除。注意
剪枝操作本身无法撤销或逆转!