PyTorch报”RuntimeError: Given input size: (, 3, 256, 256). Calculated output size: (, 1, 252, 252). Output size is too small “的原因以及解决办法

问题描述

在使用 PyTorch 搭建神经网络的过程中，可能会遇到如下错误提示：

RuntimeError: Given input size: (batch_size, channels, height, width). 
Calculated output size: (batch_size, channels, output_height, output_width). 
Output size is too small.

此错误提示提醒我们输入大小是 (batch_size, channels, height, width)，而输出大小是 (batch_size, channels, output_height, output_width)。并且输出大小过小。

原因分析

出现该错误通常有两种原因：

1. 经过多轮操作后，输出大小已经缩小到无法处理需要的大小。

2. 计算输出大小时，输入大小或卷积核大小输入错误造成的。

解决方案

解决思路：

由于输出大小太小导致的错误，因此需要重新调整网络超参数（如输入大小和卷积核大小）和/或神经网络结构。

具体步骤：

1. 检查输入大小和卷积核大小是否被正确设置，以保证输出大小达到预期。

2. 调整输入大小、卷积核大小和/或神经网络结构，以确保输出大小足够大。

3. 要考虑可用计算资源的限制，对于较大的输入和/或输出大小，可能需要运行在更高效的计算机上。

4. 可以使用池化层将当前层的输出大小缩小，以便更容易处理。

5. 最好使用交叉验证来检测在调整超参数和神经网络结构时是否会导致过度拟合或欠拟合等问题。

示例代码

下面是一个使用池化层解决输出大小错误的例子。

class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.conv1 = nn.Conv2d(3, 32, kernel_size=5)
        self.conv2 = nn.Conv2d(32, 64, kernel_size=5)
        self.pool = nn.MaxPool2d(2, 2)
        self.fc1 = nn.Linear(64 * 61 * 61, 128)
        self.fc2 = nn.Linear(128, 10)

    def forward(self, x):
        x = F.relu(self.conv1(x))
        x = self.pool(x)
        x = F.relu(self.conv2(x))
        x = self.pool(x)
        x = x.view(-1, 64 * 61 * 61)
        x = F.relu(self.fc1(x))
        x = self.fc2(x)
        return x

请注意池化层在这里的作用。MaxPool2d 将层的输出大小除以2，因此在跨度为5的卷积层之后使用它时，输出大小不会因跨度和池化减小太多。 使用这种方法，我们就可以从输出大小太小的错误中逃脱。需要根据实际情况选择最适合的调整方式。