预先训练的重新NET模型中的偏差术语不可用吗？

Question

我正在使用Resnet进行神经网络分类，并希望尝试在预先训练和未经训练的网络之间进行比较。但是，我确实想使用偏置项，这不是Pytorch的Resnet模块中的默认设置。

是否有一种方法可以包括预先训练的模型并在其中使用偏差术语？

我当前代码的简短片段，我从这里重新定义了重新连接体系结构 - 和 set bias = true true

net = resnet18(pretrained=True)
net.fc = nn.Linear(512, num_classes)

现在明显的错误现在是

resnet加载state_dict中的错误（s）： state_dict中缺少键：“ conv1.bias”，“ layer1.0.conv1.bias”，“ layer1.0.conv2.bias”，“ layer1.1.conv1.bias”，“ layer1.conv2 .bias“，” layer2.0.conv1.bias”，“ layer2.0.conv2.bias”，“ layer2.0.downsample.0.bias”，“ layer2.1.conv1.bias”，“ layer2.1 。 .1.conv2.bias“，” layer4.0.conv1.bias”，“ layer4.0.conv2.bias”，“ layer4.0.downsample.0.bias”，“ layer4.1.conv1.bias”， “ layer4.1.conv2.bias”。

Answer 1

来更改摘要中给出的_Resnet函数，它应该忽略非匹配键并避免崩溃

def _resnet(arch, block, layers, pretrained, progress, **kwargs):
    model = ResNet(block, layers, **kwargs)
    if pretrained:
        state_dict = load_state_dict_from_url(model_urls[arch],
                                              progress=progress,
                                              strict=False)
        model.load_state_dict(state_dict)
    return model

您应该通过添加strict = false

Answer 2

默认_Resnet函数应如下更改：

def _resnet(arch, block, layers, pretrained, progress, **kwargs):
    model = ResNet(block, layers, **kwargs)
    if pretrained:
        state_dict = load_state_dict_from_url(model_urls[arch],
                                              progress=progress)
        model.load_state_dict(state_dict, strict=False)
    return model

这将使我们从state_dict加载预训练的权重并忽略非匹配键。