torch.nn.utils.prune.ln_structured

torch.nn.utils.prune.ln_structured(module, name, amount, n, dim, importance_scores=None)[源代码]

通过移除指定维度上 Ln-范数最低的通道来对张量进行修剪。

沿指定的dim维度,移除具有最低Ln-范数的amount个未被修剪的通道,来修剪module中名为name的参数张量。通过就地修改模块(并返回修改后的模块)实现:

  1. 添加一个名为name+'_mask'的缓冲区,该缓冲区对应于剪枝方法应用于参数name的二进制掩码。

  2. 将参数 name 替换为其修剪后的版本,而原始(未修剪)参数则存储在一个名为 name+'_orig' 的新参数中。

参数
  • module (nn.Module) – 包含待修剪张量的模块

  • name (str) – 进行剪枝操作的模块中的参数名称。

  • amount (intfloat) – 参数的修剪数量。如果为float类型,应在0.0到1.0之间,并表示要修剪的参数比例。如果是int类型,则表示要绝对修剪的具体参数数量。

  • n (int, float, inf, -inf, 'fro', 'nuc') – 有关 p 参数在 torch.norm() 中的有效输入,请参阅文档。

  • dim (int) – 表示要裁剪通道的维度的索引。

  • importance_scores (torch.Tensor) – 重要性分数张量(与要修剪的模块参数形状相同),用于计算剪枝掩码。该张量中的值表示待修剪参数中对应元素的重要性。如果未指定或为 None,则使用模块参数作为替代。

返回值

输入模块的修改版(即简化后的版本)

返回类型

模块(nn.Module

示例

>>> from torch.nn.utils import prune
>>> m = prune.ln_structured(
...     nn.Conv2d(5, 3, 2), 'weight', amount=0.3, dim=1, n=float('-inf')
... )
本页目录