Pytorch结合PyG实现MLP过程详解

下面是关于Pytorch结合PyG实现MLP的完整攻略。

解决方案

在Pytorch中,可以结合PyG实现MLP。以下是Pytorch结合PyG实现MLP的详细步骤:

步骤一:导入库

首先需要导入Pytorch和PyG库。

import torch
import torch.nn.functional as F
from torch_geometric.nn import GCNConv
from torch_geometric.datasets import Planetoid

步骤二:加载数据

可以使用PyG库的Planetoid()方法加载数据。

dataset = Planetoid(root='/tmp/Cora', name='Cora')

步骤三:定义模型

可以使用Pytorch定义MLP模型。

class MLP(torch.nn.Module):
    def __init__(self, hidden_channels):
        super(MLP, self).__init__()
        self.conv1 = GCNConv(dataset.num_features, hidden_channels)
        self.conv2 = GCNConv(hidden_channels, dataset.num_classes)

    def forward(self, x, edge_index):
        x = F.relu(self.conv1(x, edge_index))
        x = F.dropout(x, training=self.training)
        x = self.conv2(x, edge_index)
        return F.log_softmax(x, dim=1)

步骤四:定义训练函数

可以使用Pytorch定义训练函数。

def train():
    model.train()
    optimizer.zero_grad()
    out = model(data.x, data.edge_index)
    loss = F.nll_loss(out[data.train_mask], data.y[data.train_mask])
    loss.backward()
    optimizer.step()
    return loss.item()

步骤五:定义测试函数

可以使用Pytorch定义测试函数。

def test():
    model.eval()
    out = model(data.x, data.edge_index)
    pred = out.argmax(dim=1)
    test_correct = pred[data.test_mask] == data.y[data.test_mask]
    test_acc = int(test_correct.sum()) / int(data.test_mask.sum())
    return test_acc

步骤六:训练模型

可以使用定义好的训练函数和测试函数训练模型。

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
model = MLP(hidden_channels=16).to(device)
data = dataset[0].to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=0.01, weight_decay=5e-4)

for epoch in range(1, 201):
    loss = train()
    test_acc = test()
    print(f'Epoch: {epoch:03d}, Loss: {loss:.4f}, Test Acc: {test_acc:.4f}')

示例说明1

以下是一个Pytorch结合PyG实现MLP的示例:

import torch
import torch.nn.functional as F
from torch_geometric.nn import GCNConv
from torch_geometric.datasets import Planetoid

dataset = Planetoid(root='/tmp/Cora', name='Cora')

class MLP(torch.nn.Module):
    def __init__(self, hidden_channels):
        super(MLP, self).__init__()
        self.conv1 = GCNConv(dataset.num_features, hidden_channels)
        self.conv2 = GCNConv(hidden_channels, dataset.num_classes)

    def forward(self, x, edge_index):
        x = F.relu(self.conv1(x, edge_index))
        x = F.dropout(x, training=self.training)
        x = self.conv2(x, edge_index)
        return F.log_softmax(x, dim=1)

def train():
    model.train()
    optimizer.zero_grad()
    out = model(data.x, data.edge_index)
    loss = F.nll_loss(out[data.train_mask], data.y[data.train_mask])
    loss.backward()
    optimizer.step()
    return loss.item()

def test():
    model.eval()
    out = model(data.x, data.edge_index)
    pred = out.argmax(dim=1)
    test_correct = pred[data.test_mask] == data.y[data.test_mask]
    test_acc = int(test_correct.sum()) / int(data.test_mask.sum())
    return test_acc

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
model = MLP(hidden_channels=16).to(device)
data = dataset[0].to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=0.01, weight_decay=5e-4)

for epoch in range(1, 201):
    loss = train()
    test_acc = test()
    print(f'Epoch: {epoch:03d}, Loss: {loss:.4f}, Test Acc: {test_acc:.4f}')

示例说明2

以下是一个Pytorch结合PyG实现MLP的示例:

import torch
import torch.nn.functional as F
from torch_geometric.nn import GCNConv
from torch_geometric.datasets import Planetoid

dataset = Planetoid(root='/tmp/Cora', name='Cora')

class MLP(torch.nn.Module):
    def __init__(self, hidden_channels):
        super(MLP, self).__init__()
        self.conv1 = GCNConv(dataset.num_features, hidden_channels)
        self.conv2 = GCNConv(hidden_channels, dataset.num_classes)

    def forward(self, x, edge_index):
        x = F.relu(self.conv1(x, edge_index))
        x = F.dropout(x, training=self.training)
        x = self.conv2(x, edge_index)
        return F.log_softmax(x, dim=1)

def train():
    model.train()
    optimizer.zero_grad()
    out = model(data.x, data.edge_index)
    loss = F.nll_loss(out[data.train_mask], data.y[data.train_mask])
    loss.backward()
    optimizer.step()
    return loss.item()

def test():
    model.eval()
    out = model(data.x, data.edge_index)
    pred = out.argmax(dim=1)
    test_correct = pred[data.test_mask] == data.y[data.test_mask]
    test_acc = int(test_correct.sum()) / int(data.test_mask.sum())
    return test_acc

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
model = MLP(hidden_channels=32).to(device)
data = dataset[0].to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=0.01, weight_decay=5e-4)

for epoch in range(1, 201):
    loss = train()
    test_acc = test()
    print(f'Epoch: {epoch:03d}, Loss: {loss:.4f}, Test Acc: {test_acc:.4f}')

结论

在本文中,我们详细介绍了Pytorch结合PyG实现MLP的方法。提供了示例说明可以根据具体的需求进行学习和实践。需要注意的是应该根据具体的应用场景选择合适的模型和参数,以获得更好的效果。

本站文章如无特殊说明,均为本站原创,如若转载,请注明出处:Pytorch结合PyG实现MLP过程详解 - Python技术站

(0)
上一篇 2023年5月16日
下一篇 2023年5月16日

相关文章

  • 【深度学习】循环神经网络教程

    这是在公司做培训时制作的PPT,教程对循环神经网络以及其应用进行了简单地介绍,主要分为以下六个部分: Why do we need Recurrent Neural Networks? Vanilla Recurrent Neural Network Backpropagation Through Time (BPTT) Gradient exploding…

    2023年4月6日
    00
  • 循环神经网络(四)-LSTM

    LSTM(Long Short-Term Memory)是长短期记忆网络,是一种时间递归神经网络,适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。 LSTM能够很大程度上缓解长期依赖的问题。   LSTM的形象描述 RNN是傻子式的记忆,把所有的事情都记下来,这很容易记忆混乱。 LSTM不同的地方是学会了思考、总结,而且思考方式很符合人类的思维。  …

    2023年4月5日
    00
  • Tensorflow–RNN-LSTM循环神经网络(二)

     utils.py: # -*- coding: UTF-8 -*- “”” 实用方法 “”” import os import sys import argparse import datetime import collections import numpy as np import tensorflow as tf “”” 此例子中用到的数据是从 T…

    2023年4月6日
    00
  • 关于RNN (循环神经网络)相邻采样为什么在每次迭代之前都需要将参数detach

    这个问题出自《动手学深度学习pytorch》中RNN 第六章6.4节内容,如下图所示: 当时看到这个注释,我是一脸懵逼,(难道就不能解释清楚一点嘛,让我独自思考了那么长时间,差评!!!)我主要有以下疑惑: 每次小批量反向传播之后,由于torch是动态计算图,本质上该次的计算图已经销毁,与下次小批量迭代的构建的计算没有任何关联,detach不是多此一举嘛? 按…

    2023年4月5日
    00
  • 深度学习笔记——循环神经网络RNN/LSTM

    原文来自知乎专栏NLP进阶之路,作者韦伟。以下文章是摘录了原文部分内容的学习笔记,侵删。 循环神经网络(Rerrent Neural Network) RNN是神经网络的一种,RNN对具有序列特性的数据非常有效,它能挖掘数据中的时序信息以及语义信息。其中,序列特性包括时间顺序,逻辑顺序等其他顺序。例如:I like eating apple ! / The …

    2023年4月6日
    00
  • 循环神经网络(Recurrent Neural Network, RNN)与LSTM

    深度学习神经网络算法发展顺序 RNN处理的是一种时间序列数据,它处理的问题中,前后数据间不是互相独立的,前一次决策会影响后一次决策 RNN可以保持序列的“记忆”信息,通过之前的信息决策当前的问题 看了上图对RNN根本没什么理解,今天读到了七月一篇RNN文章,解释非常到位,地址如下: https://mp.weixin.qq.com/s?__biz=MzI4M…

    2023年4月6日
    00
  • 第六讲 循环神经网络 –SimpleRNN_onehot_1pre1

    1 import numpy as np 2 import tensorflow as tf 3 from tensorflow.keras.layers import Dense, SimpleRNN 4 import matplotlib.pyplot as plt 5 import os 6 7 input_word = “abcde” 8 w_to_…

    循环神经网络 2023年4月7日
    00
  • 【RNN】理解循环神经网络中的 Skip-Gram

    在处理文字模型的时候,将文字转化成可以放进模型的数字,最简单方法是用 one-hot 编码。但是这种方法有弊端,转化后的每个词之间在数字上都是相互独立的,任何一对词的one-hot向量的余弦相似度都为0,任何词之间都没有关系。 Google团队发表的 word2vec 工具。word2vec工具主要包含两个模型:跳字模型(skip-gram)和连续词袋模型(…

    2023年4月8日
    00
合作推广
合作推广
分享本页
返回顶部