torch.autograd.functional.jvp

torch.autograd.functional.jvp(func, inputs, v=None, create_graph=False, strict=False)[源代码]

计算给定函数在输入指定点处的雅可比矩阵与向量 v 的点积。

参数
  • func函数)– 一个接受张量输入并返回张量元组或单个张量的 Python 函数。

  • inputs (元组 of TensorsTensor) – 传递给函数 func 的输入。

  • v (元组 of TensorsTensor) – 用于计算雅可比矩阵-向量积的向量。必须与func 的输入大小相同。当 func 的输入为单个元素时,此参数是可选的(如果未提供,则默认设置为包含单个 1 的 Tensor)。

  • create_graph (bool, 可选) – 如果为 True,则输出和结果将以可微分的方式计算。需要注意的是,当 strictFalse 时,结果不能需要梯度或与输入断开连接。默认值为 False

  • strict (bool, 可选) – 如果设置为True,当检测到存在某个输入使得所有输出都与其无关时会引发错误。如果设置为False,对于所述的输入返回一个全零张量作为 jvp 的值,这是数学上的预期结果。默认为False

返回值
包含元组:

func_output (张量的元组或单个张量): func(inputs) 的输出

jvp (张量的元组或单个张量): 点积的结果,其形状与输出相同。

返回类型

输出 (元组)

注意

autograd.functional.jvp 通过反向传播的双反向技巧来计算 jvp。这不是最高效的方法。建议使用 torch.func.jvp() 或者 低级前向模式自动微分 API 作为替代。

示例

>>> def exp_reducer(x):
...     return x.exp().sum(dim=1)
>>> inputs = torch.rand(4, 4)
>>> v = torch.ones(4, 4)
>>> jvp(exp_reducer, inputs, v)
(tensor([6.3090, 4.6742, 7.9114, 8.2106]),
 tensor([6.3090, 4.6742, 7.9114, 8.2106]))
>>> jvp(exp_reducer, inputs, v, create_graph=True)
(tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SumBackward1>),
 tensor([6.3090, 4.6742, 7.9114, 8.2106], grad_fn=<SqueezeBackward1>))
>>> def adder(x, y):
...     return 2 * x + 3 * y
>>> inputs = (torch.rand(2), torch.rand(2))
>>> v = (torch.ones(2), torch.ones(2))
>>> jvp(adder, inputs, v)
(tensor([2.2399, 2.5005]),
 tensor([5., 5.]))
本页目录