pytorch中图像的梯度 - 用于wgan中的梯度惩罚计算

Question

我正在关注这个Github Repo 用于 WGAN 实施梯度惩罚。

我试图理解以下方法，它负责对梯度惩罚计算进行单元测试。

def test_gradient_penalty(image_shape):
    bad_gradient = torch.zeros(*image_shape)
    bad_gradient_penalty = gradient_penalty(bad_gradient)
    assert torch.isclose(bad_gradient_penalty, torch.tensor(1.))

    image_size = torch.prod(torch.Tensor(image_shape[1:]))
    good_gradient = torch.ones(*image_shape) / torch.sqrt(image_size)
    good_gradient_penalty = gradient_penalty(good_gradient)
    assert torch.isclose(good_gradient_penalty, torch.tensor(0.))

    random_gradient = test_get_gradient(image_shape)
    random_gradient_penalty = gradient_penalty(random_gradient)
    assert torch.abs(random_gradient_penalty - 1) < 0.1

# Now pass tuple argument for image dimenstion of 
# (batch_size, channel, height, width)
test_gradient_penalty((256, 1, 28, 28))

我不明白下面的行

good_gradient = torch.ones(*image_shape) / torch.sqrt(image_size)

在上面的 torch.ones(*image_shape) 只是填充 4-D 张量 填充 1 然后 torch.sqrt(image_size) 只是代表 tensor(28.) 的值

所以，我试图理解为什么我需要将 4-D 张量除以tensor(28.) 获取 good_gradient

如果我打印 bad_gradient，它将是一个 4-D 张量，如下所示

tensor([[[[0., 0., 0.,  ..., 0., 0., 0.],
          [0., 0., 0.,  ..., 0., 0., 0.],
          [0., 0., 0.,  ..., 0., 0., 0.],
          ...,
          [0., 0., 0.,  ..., 0., 0., 0.],
          [0., 0., 0.,  ..., 0., 0., 0.],
          [0., 0., 0.,  ..., 0., 0., 0.]]],

          ---
          ---

如果我打印good_gradient，输出将为

tensor([[[[0.0357, 0.0357, 0.0357,  ..., 0.0357, 0.0357, 0.0357],
          [0.0357, 0.0357, 0.0357,  ..., 0.0357, 0.0357, 0.0357],
          [0.0357, 0.0357, 0.0357,  ..., 0.0357, 0.0357, 0.0357],
          ...,
          [0.0357, 0.0357, 0.0357,  ..., 0.0357, 0.0357, 0.0357],
          [0.0357, 0.0357, 0.0357,  ..., 0.0357, 0.0357, 0.0357],
          [0.0357, 0.0357, 0.0357,  ..., 0.0357, 0.0357, 0.0357]]],

          ---
          ---

Answer 1

对于行

good_gradient = torch.ones(*image_shape) / torch.sqrt(image_size)

首先，请注意 WGAN 中的梯度惩罚项是 =>

(norm(gradient(interpolated)) - 1)^2

对于理想梯度（即良好的梯度），此惩罚项将为 0。即良好的梯度是其gradient_penalty 为尽可能接近 0

这意味着在考虑梯度的 L2-范数后，应满足以下条件

(norm(gradient(x')) -1)^2 = 0

ie norm(gradient(x')) = 1

ie sqrt(Sum(gradient_i^2) ) = 1

现在如果你继续简化上面的（考虑如何计算 norm，请参阅下面的注释）数学表达式，您最终会得到

good_gradient = torch.ones(*image_shape) / torch.sqrt(image_size)

由于您将 image_shape 传递为 (256, 1, 28, 28) - 所以 torch.sqrt(image_size) 在您的case 是tensor(28.)

实际上，上面的代码行使用缩放器来划分 4-D 张量的每个元素，如 [[[[1., 1. ... ]]]] tensor(28.)

---

另外，请注意如何计算 norm

torch.norm 无需额外参数即可执行，即所谓的 Frobenius 范数有效地将矩阵重塑为一个长向量并返回其 2-范数。

给定一个 M * N 矩阵，矩阵的 Frobenius 范数定义为矩阵元素平方和的平方根。

Input: mat[][] = [[1, 2], [3, 4]] 
Output: 5.47723 
sqrt(1^2 + 2^2 + 3^2 + 4^2) = sqrt(30) = 5.47723