PyTorch入门教程：从基础张量操作到神经网络实现

前言

PyTorch作为当前最流行的深度学习框架之一，以其动态计算图和Pythonic的编程风格深受研究人员和开发者的喜爱。本文将从基础概念出发，逐步介绍PyTorch的核心功能，帮助初学者快速掌握这一强大工具。

1. PyTorch基础：张量操作

张量(Tensor)是PyTorch中最基本的数据结构，可以看作是多维数组的扩展。让我们从创建各种张量开始：

import torch

# 从列表创建张量
tensor = torch.tensor([1, 2, 3, 4, 5])

# 创建全零张量
zeros = torch.zeros((3, 3))  # 3x3的零矩阵

# 创建全一张量
ones = torch.ones((2, 4))  # 2行4列的全1矩阵

# 创建单位矩阵
iden = torch.eye(2)  # 2x2单位矩阵

# 创建随机张量
random = torch.rand(2, 2)  # 2x2的随机矩阵(0-1均匀分布)

理解张量的维度(ndim)、形状(shape)和数据类型(dtype)非常重要：

# 标量(0维张量)
x = torch.tensor(6)
print("维度:", x.ndim)  # 0
print("形状:", x.shape)  # torch.Size([])

# 向量(1维张量)
x = torch.tensor([1.3, 2.2, 1.7])
print("维度:", x.ndim)  # 1
print("形状:", x.shape)  # torch.Size([3])

# 矩阵(2维张量)
x = torch.tensor([[1,2], [3,4]])
print("维度:", x.ndim)  # 2
print("形状:", x.shape)  # torch.Size([2, 2])

# 3维张量
x = torch.tensor([[[1,2],[3,4]], [[5,6],[7,8]]])
print("维度:", x.ndim)  # 3
print("形状:", x.shape)  # torch.Size([2, 2, 2])

2. 张量运算

PyTorch支持丰富的张量运算，包括基本的算术运算和线性代数运算：

a = torch.tensor([1, 2, 3])
b = torch.tensor([4, 5, 6])

# 基本运算
print(a + b)  # 逐元素加法
print(a * b)  # 逐元素乘法
print(a ** 2) # 逐元素平方

# 点积
print(torch.dot(a, b))  # 1*4 + 2*5 + 3*6 = 32

# 矩阵乘法
m1 = torch.tensor([[1, 2], [3, 4]])
m2 = torch.tensor([[5, 6], [7, 8]])
print(torch.mm(m1, m2))  # 矩阵乘法

3. GPU加速

PyTorch可以轻松利用GPU加速计算：

# 检查GPU是否可用
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

# 直接在GPU上创建张量
x = torch.tensor([1, 2, 3], device=device)

# 将CPU张量移动到GPU
y = torch.tensor([4, 5, 6])
y = y.to(device)

# 运算会自动在GPU上执行
z = x + y

4. 自动微分与梯度计算

PyTorch的自动微分功能是其核心特性之一：

# 创建需要计算梯度的张量
x = torch.tensor([2.0], requires_grad=True)

# 定义计算图
y = x ** 2  # y = x^2

# 计算梯度
y.backward()

# 访问梯度
print(x.grad)  # dy/dx = 2x = 4

5. 实现简单神经网络

让我们实现一个简单的感知机：

import numpy as np

class Perceptron:
    def __init__(self, input_size):
        self.weights = np.random.rand(input_size)
        self.bias = np.random.rand(1)
    
    def sigmoid(self, x):
        return 1 / (1 + np.exp(-x))
    
    def predict(self, inputs):
        summation = np.dot(inputs, self.weights) + self.bias
        return self.sigmoid(summation)

# 使用示例
perceptron = Perceptron(2)  # 2个输入
inputs = np.array([1, 1])
output = perceptron.predict(inputs)
print(output)

6. 实现XOR神经网络

XOR问题是神经网络的一个经典案例：

import torch.nn as nn

class XORNet(nn.Module):
    def __init__(self):
        super(XORNet, self).__init__()
        self.hidden = nn.Linear(2, 3)  # 2输入, 3个隐藏神经元
        self.output = nn.Linear(3, 1)   # 3输入, 1输出
        self.sigmoid = nn.Sigmoid()
    
    def forward(self, x):
        x = self.sigmoid(self.hidden(x))
        x = self.sigmoid(self.output(x))
        return x

# 准备数据
X = torch.tensor([[0., 0.], [0., 1.], [1., 0.], [1., 1.]])
y = torch.tensor([[0.], [1.], [1.], [0.]])

# 创建模型
model = XORNet()
optimizer = torch.optim.SGD(model.parameters(), lr=0.1)
criterion = nn.BCELoss()  # 二元交叉熵损失

# 训练循环
for epoch in range(10000):
    outputs = model(X)
    loss = criterion(outputs, y)
    
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()
    
    if (epoch + 1) % 1000 == 0:
        print(f'Epoch {epoch+1}, Loss: {loss.item():.4f}')

# 测试模型
with torch.no_grad():
    test_input = torch.tensor([1., 0.])
    prediction = model(test_input)
    print(f"预测结果: {prediction.item():.4f}")

7. 数据加载与批处理

PyTorch提供了方便的数据加载工具：

from torch.utils.data import Dataset, DataLoader

class CustomDataset(Dataset):
    def __init__(self, X, y):
        self.X = torch.FloatTensor(X)
        self.y = torch.FloatTensor(y)
    
    def __len__(self):
        return len(self.X)
    
    def __getitem__(self, idx):
        return self.X[idx], self.y[idx]

# 创建DataLoader
dataset = CustomDataset(X, y)
dataloader = DataLoader(dataset, batch_size=2, shuffle=True)

# 使用批处理训练
for batch_X, batch_y in dataloader:
    outputs = model(batch_X)
    loss = criterion(outputs, batch_y)
    # 反向传播和优化...

8. 模型保存与加载

训练好的模型可以保存供后续使用：

# 保存模型
torch.save(model.state_dict(), 'xor_model.pth')

# 加载模型
loaded_model = XORNet()
loaded_model.load_state_dict(torch.load('xor_model.pth'))
loaded_model.eval()  # 设置为评估模式

结语

通过本教程，我们系统地学习了PyTorch的基础知识，从张量操作到神经网络实现。PyTorch的灵活性和易用性使其成为深度学习研究和开发的理想选择。掌握这些基础知识后，你可以进一步探索更复杂的网络结构和应用场景。