计算Gradcam热图时负梯度

Question

我有一个针对2个类培训的细分网络模型，并且能够看到准确的结果。 但是，当将Grad-CAM用于热图时，我能够看到最后一个卷积层的良好结果 对于这两个类 对于其中一个课程（另一个班级的热图工作正常）。

**Last 5 layers**
convolution_layer(filters:8, kernel:3*3)
convolution_transpose_layer(filters:2, kernel:2*2)
convolution_layer(filters:2, kernel:3*3)
convolution_layer(filters:10, kernel:1*1)
activation_layer(softmax)

热图是空的，因为所有负汇总梯度（由于所有-VE梯度WRT Conv层的平均值）， 导致POLED_GRADS*卷积的负值在哪个应用程序中，给出了所有零。

Gradcam全部负面意味着什么？

为什么卷积中的所有渠道都会导致对真实产出类别的“负”贡献？

https://arxiv.org/pdf/2002.11434.pdf 遵循本文的热图，用于分割模型。

Answer 1

我花了一些时间使GIF解释卷积的运行太多相同的输入，或者没有将它们合并为相似值的对比度。
通过填充卷积，他们将扩展那是一个原因的相似之处，否则他们可以找到对比度信息。在答案之前，我可以通过您的链接并查看示例输出，并认为这是您只使用指定的颜色系统的热量图。
（我删除了那些Conv层，仅使用1层来检查和加速输出行为，热图是有效的，当使用CORVS而不是负方式时，这并不总是负面的，而不是使用真实尺寸的图像）

[） [样本]：

import os
from os.path import exists

import tensorflow as tf
import h5py

import matplotlib.pyplot as plt

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
Variables
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
database_buffer = "F:\\models\\buffer\\" + os.path.basename(__file__).split('.')[0] + "\\TF_DataSets_01.h5"
database_buffer_dir = os.path.dirname(database_buffer)

checkpoint_path = "F:\\models\\checkpoint\\" + os.path.basename(__file__).split('.')[0] + "\\TF_DataSets_01.h5"
checkpoint_dir = os.path.dirname(checkpoint_path)
loggings = "F:\\models\\checkpoint\\" + os.path.basename(__file__).split('.')[0] + "\\loggings.log"

if not exists(checkpoint_dir) : 
    os.mkdir(checkpoint_dir)
    print("Create directory: " + checkpoint_dir)
    
if not exists(database_buffer_dir) : 
    os.mkdir(database_buffer_dir)
    print("Create directory: " + database_buffer_dir)

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
DataSet
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
(x_train, y_train), (x_test, y_test) = tf.keras.datasets.cifar10.load_data()

x_train = tf.constant( x_train[0], shape=( 1, 32, 32, 3 ) )
y_train = tf.constant( y_train[0], shape=( 1, 1, 1, 1 ) )

plt.imshow( tf.constant( x_train, shape=( 32, 32, 3 ) ).numpy() )
plt.show()
plt.close()

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
: Model Initialize
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
model = tf.keras.models.Sequential([
    tf.keras.layers.InputLayer(input_shape=( 32, 32, 3 ), name="Input_01"),
    tf.keras.layers.Conv2D(1, (1, 1), activation='relu', name="Conv2D_00"),
    
    # tf.keras.layers.Conv2D(8, (3, 3), activation='relu', name="Conv2D_01"),
    # tf.keras.layers.Conv2DTranspose(2, (2, 2), activation='relu', name="Conv2DTranspose_01"),
    # tf.keras.layers.Conv2D(2, (3, 3), activation='relu', name="Conv2D_02"),
    # tf.keras.layers.Conv2D(10, (1, 1), activation='relu', name="Conv2D_03"),

])
        
model.add(tf.keras.layers.Dense(1))
model.summary()

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
: Callback
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
class custom_callback(tf.keras.callbacks.Callback):

    def on_train_end(self, epoch, logs={}):
        print(self.model.inputs)
        feature_extractor = tf.keras.Model(inputs=self.model.inputs, outputs=[layer.output for layer in self.model.layers], )
        
        img = tf.keras.preprocessing.image.array_to_img(
        tf.constant(feature_extractor(x_train)[0], shape=(32, 32, 1)),
        data_format=None,
        scale=True
        )
        
        plt.imshow( img )
        plt.show()
        plt.close()
        
        input('Press Any Key!')

custom_callback = custom_callback()

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
: Optimizer
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
optimizer = tf.keras.optimizers.Nadam( learning_rate=0.0001, beta_1=0.9, beta_2=0.999, epsilon=1e-07, name='Nadam' )
optimizer = tf.keras.optimizers.Adam( learning_rate=0.0001, beta_1=0.9, beta_2=0.999, epsilon=1e-07, amsgrad=False, name='Adam' )

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
: Loss Fn
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""                               
lossfn = tf.keras.losses.SparseCategoricalCrossentropy( from_logits=False, reduction=tf.keras.losses.Reduction.AUTO, name='sparse_categorical_crossentropy' )
lossfn = tf.keras.losses.MeanSquaredLogarithmicError(reduction=tf.keras.losses.Reduction.AUTO, name='mean_squared_logarithmic_error')

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
: Model Summary
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
model.compile(optimizer=optimizer, loss=lossfn, metrics=['accuracy'])

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
: FileWriter
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
if exists(checkpoint_path) :
    model.load_weights(checkpoint_path)
    print("model load: " + checkpoint_path)
    input("Press Any Key!")

"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
: Training
"""""""""""""""""""""""""""""""""""""""""""""""""""""""""
history = model.fit(x_train, y_train, epochs=25 ,validation_data=(x_train, y_train), callbacks=[custom_callback])

input('...')

[输出]：