多边际损失

classtorch.nn.MultiMarginLoss(p=1, margin=1.0, weight=None, size_average=None, reduce=None, reduction='mean')[源代码]

创建一个准则来优化输入$x$（2D小批量Tensor）和输出$y$（目标类索引的1D张量，$0 \leq y \leq \text{x.size}(1)-1$）之间的多分类铰链损失（基于边距的损失）：

对于每个小批量样本，其一维输入$x$和标量输出$y$的损失函数为：

$\text{loss}(x, y) = \frac{\sum_i \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}$

其中$i \in \left\{0, \; \cdots , \; \text{x.size}(0) - 1\right\}$，且$i \neq y$。

可选地，你可以通过在构造函数中传入一个一维的 weight 张量，为不同的类赋予非等权重。

损失函数变为：

$\text{loss}(x, y) = \frac{\sum_i w[y] * \max(0, \text{margin} - x[y] + x[i])^p}{\text{x.size}(0)}$

参数

• p (int, optional) – 默认值为$1$。仅支持$1$和$2$这两个值。

• margin (float, 可选) – 默认值为 1。

• weight (Tensor, 可选) – 每个类别的手动重缩放权重。如果提供，它必须是一个大小为 C 的张量；否则，默认所有值都为1。

• size_average (bool, optional) – 已弃用（请参见reduction）。默认情况下，损失值会在批次中的每个损失元素上进行平均计算。需要注意的是，对于某些损失函数，每个样本包含多个损失元素。如果将字段 size_average 设置为 False，则损失值会针对每个小批量求和。当reduce 为 False时，此设置会被忽略。默认值： True

• reduce (bool, optional) – 已弃用（请参见reduction）。默认情况下，损失值会根据size_average参数在每个小批量中进行平均或求和。当reduce为False时，返回每批元素的单独损失值，并忽略size_average设置。默认值：True

• reduction (str, 可选) – 指定要应用于输出的缩减方式：'none' | 'mean' | 'sum'。
  'none': 不进行任何缩减，'mean': 输出总和除以元素数量，'sum': 对输出求和。注意：size_average 和 reduce 正在被弃用，在此期间，指定这两个参数中的任何一个将覆盖 reduction 参数。默认值： 'mean'

形状:

• 输入: $(N, C)$ 或 $(C)$，其中 $N$ 表示批量大小，$C$ 表示类别数量。

• 目标为 $(N)$ 或 $()$，其中每个值的范围是 $0 \leq \text{targets}[i] \leq C-1$。

• 输出：标量。如果 reduction 是 'none'，则输出的形状与目标形状相同。

示例:

>>> loss = nn.MultiMarginLoss()
>>> x = torch.tensor([[0.1, 0.2, 0.4, 0.8]])
>>> y = torch.tensor([3])
>>> # 0.25 * ((1-(0.8-0.1)) + (1-(0.8-0.2)) + (1-(0.8-0.4)))
>>> loss(x, y)
tensor(0.32...)