torch.nn.utils.prune.l1_unstructured

torch.nn.utils.prune.l1_unstructured(module, name, amount, importance_scores=None)[源代码]

通过删除L1范数最小的单元来修剪张量。

通过移除具有最低L1范数的指定数量的当前未修剪单元,来修剪module中名为name的参数对应的张量。就地修改模块(并返回修改后的模块):

  1. 添加一个名为name+'_mask'的缓冲区,该缓冲区对应于剪枝方法应用于参数name的二进制掩码。

  2. 将参数 name 替换为其修剪后的版本,而原始(未修剪)参数则存储在一个名为 name+'_orig' 的新参数中。

参数
  • module (nn.Module) – 包含待修剪张量的模块

  • name (str) – 进行剪枝操作的模块中的参数名称。

  • amount (intfloat) – 参数的修剪数量。如果为float类型,应在0.0到1.0之间,并表示要修剪的参数比例。如果是int类型,则表示要绝对修剪的具体参数数量。

  • importance_scores (torch.Tensor) – 重要性分数张量(与要修剪的模块参数形状相同),用于计算剪枝掩码。该张量中的值表示待修剪参数中对应元素的重要性。如果未指定或为 None,则使用模块参数作为替代。

返回值

输入模块的修改版(即简化后的版本)

返回类型

模块(nn.Module

示例

>>> m = prune.l1_unstructured(nn.Linear(2, 3), 'weight', amount=0.2)
>>> m.state_dict().keys()
odict_keys(['bias', 'weight_orig', 'weight_mask'])
本页目录