PyTorch 如何设置随机数种子使结果可复现

在深度学习中，随机数种子的设置对于结果的可复现性非常重要。在PyTorch中，您可以通过设置随机数种子来确保结果的可复现性。本文将提供详细的攻略，以帮助您在PyTorch中设置随机数种子。

步骤一：导入必要的库

在开始设置随机数种子之前，您需要导入必要的库。您可以在Python脚本中导入以下库：

import random
import numpy as np
import torch

# 设置随机数种子
seed = 42
random.seed(seed)
np.random.seed(seed)
torch.manual_seed(seed)
torch.cuda.manual_seed(seed)
torch.backends.cudnn.deterministic = True
torch.backends.cudnn.benchmark = False

在这个示例中，我们导入了Python的随机库、NumPy库和PyTorch库。然后，我们设置了一个名为seed的随机数种子，并使用random.seed()、np.random.seed()、torch.manual_seed()、torch.cuda.manual_seed()、torch.backends.cudnn.deterministic和torch.backends.cudnn.benchmark函数来设置随机数种子。

示例一：使用随机数种子生成随机数

import random
import numpy as np
import torch

# 设置随机数种子
seed = 42
random.seed(seed)
np.random.seed(seed)
torch.manual_seed(seed)
torch.cuda.manual_seed(seed)
torch.backends.cudnn.deterministic = True
torch.backends.cudnn.benchmark = False

# 生成随机数
print(random.random())
print(np.random.rand())
print(torch.rand(1))

在这个示例中，我们使用random.random()、np.random.rand()和torch.rand()函数生成随机数。由于我们已经设置了随机数种子，因此每次运行脚本时，这些函数将生成相同的随机数。

示例二：使用随机数种子训练神经网络

import random
import numpy as np
import torch
import torch.nn as nn
import torchvision.datasets as dsets
import torchvision.transforms as transforms

# 设置随机数种子
seed = 42
random.seed(seed)
np.random.seed(seed)
torch.manual_seed(seed)
torch.cuda.manual_seed(seed)
torch.backends.cudnn.deterministic = True
torch.backends.cudnn.benchmark = False

# 定义超参数
input_size = 784
hidden_size = 500
num_classes = 10
num_epochs = 5
batch_size = 100
learning_rate = 0.001

# 加载MNIST数据集
train_dataset = dsets.MNIST(root='./data', train=True, transform=transforms.ToTensor(), download=True)
test_dataset = dsets.MNIST(root='./data', train=False, transform=transforms.ToTensor())

# 加载数据集
train_loader = torch.utils.data.DataLoader(dataset=train_dataset, batch_size=batch_size, shuffle=True)
test_loader = torch.utils.data.DataLoader(dataset=test_dataset, batch_size=batch_size, shuffle=False)

# 定义神经网络模型
class Net(nn.Module):
    def __init__(self, input_size, hidden_size, num_classes):
        super(Net, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)
        self.relu = nn.ReLU()
        self.fc2 = nn.Linear(hidden_size, num_classes)

    def forward(self, x):
        out = self.fc1(x)
        out = self.relu(out)
        out = self.fc2(out)
        return out

# 实例化神经网络模型
net = Net(input_size, hidden_size, num_classes)

# 定义损失函数和优化器
criterion = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(net.parameters(), lr=learning_rate)

# 训练神经网络模型
total_step = len(train_loader)
for epoch in range(num_epochs):
    for i, (images, labels) in enumerate(train_loader):
        # 将图像数据展平
        images = images.reshape(-1, 28 * 28)

        # 前向传播
        outputs = net(images)
        loss = criterion(outputs, labels)

        # 反向传播和优化
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()

        # 打印训练信息
        if (i + 1) % 100 == 0:
            print('Epoch [{}/{}], Step [{}/{}], Loss: {:.4f}'.format(epoch + 1, num_epochs, i + 1, total_step, loss.item()))

# 测试神经网络模型
with torch.no_grad():
    correct = 0
    total = 0
    for images, labels in test_loader:
        # 将图像数据展平
        images = images.reshape(-1, 28 * 28)

        # 前向传播
        outputs = net(images)
        _, predicted = torch.max(outputs.data, 1)
        total += labels.size(0)
        correct += (predicted == labels).sum().item()

    print('Accuracy of the network on the 10000 test images: {} %'.format(100 * correct / total))

在这个示例中，我们首先设置了随机数种子，然后定义了超参数、加载了MNIST数据集、定义了神经网络模型、损失函数和优化器。接下来，我们使用随机梯度下降算法训练神经网络模型，并打印训练信息。最后，我们测试神经网络模型，并打印出测试结果。

总结

在本文中，我们提供了详细的攻略，以帮助您在PyTorch中设置随机数种子。我们还提供了两个示例，展示如何使用随机数种子生成随机数和训练神经网络模型。如果您遵循这些步骤和示例，您应该能够在PyTorch中成功设置随机数种子，并确保结果的可复现性。