torch.nn.utils.fuse_linear_bn_weights
- torch.nn.utils.fuse_linear_bn_weights(linear_w, linear_b, bn_rm, bn_rv, bn_eps, bn_w, bn_b)[源代码]
-
将线性模块参数与批处理规范化模块参数合并为新的线性模块参数。
- 参数
-
-
linear_w (torch.Tensor) – 表示线性层的权重。
-
linear_b (Optional[torch.Tensor]) – 可选的线性偏置。
-
bn_rm (torch.Tensor) – 批归一化运行均值。
-
bn_rv (torch.Tensor) – 批归一化运行方差。
-
bn_eps (float) – BatchNorm 的 epsilon 值。
-
bn_w (torch.Tensor) – 批归一化权重。
-
bn_b (torch.Tensor) – 批归一化偏置。
-
- 返回值
-
将线性权重和偏置融合在一起。
- 返回类型
-
(torch.nn.Parameter, torch.nn.Parameter)