使用PyTorch构建神经网络模型进行手写识别

PyTorch是一种基于Torch库的开源机器学习库，应用于计算机视觉和自然语言处理等应用，本章内容将从安装以及通过Torch构建基础的神经网络，计算梯度为主要内容进行学习。

How can we install Torch?

Torch在Linux，Windows，Mac等开发环境下都有特定的安装方法，首先搜索官方网页https://pytorch.org/，由下图所示我们可以根据自己适合的环境进行选择，我使用的是1.9.0版本Windows环境下conda包Python语言，CPU计算平台的安装。
使用PyTorch构建神经网络模型进行手写识别
安装过程需要打开Anaconda命令行输入下方所给提示命令指引，

使用PyTorch构建神经网络模型进行手写识别
安装好Torch后打开常用的编辑器进行测试

使用PyTorch构建神经网络模型进行手写识别
OK，我们可以看到已经成功的在电脑上安装了Torch

下列代码均在Jupyter NoteBook编辑，conda等安装方式不在此文章说明

在“PYTORCH”中定义神经网络

深度学习算法即为神经网络算法，它是由多层互连计算单元组成的计算系统。通过这些相互连接的单元传递数据，神经网络能够学习如何近似将输入转换位输出所需的计算。在Torch中可以使用torch.nn包构建神经网络。

最常听说的也是最基础的MNIST数据集也就是手写识别数据，定义用于MNIST数据集的神经网络需要如下步骤

1.导入库

2.定义初始化神经网络

3.指定数据集构建模型

4.通过模型传递数据进行测试

将从应用角度出发，下述内容神经网络名词定义不做过多叙述。

导入相关库加载数据

构建神经网络所需库为torch.nn以及torch.nn.functional

import os
import torch
from torch import nn
from torch.utils.data import DataLoader
from torchvision import datasets, transforms

通过上述模块和类，torch.nn帮助我们创建和训练神经网络，包含forward(input),返回output。

定义，初始化神经网络

我们定义的神经网络将帮助我们识别图像，将使用PyTorch内置的卷积。卷积过程将图像的每个元素添加到local neighbors，由内核或小型矩阵权重配比，将有助于我们从输入图像中提取某些特征(边缘检测，锐度，模糊度等)。

定义Net模型的类有两个要求。第一个是编写一个__init__引用nn.Moudle。这个函数是你在你神经网络中定义全连接层的地方。

使用卷积，我们从构建的神经网络模型输出一个图像通道，输出匹配数字从0到9的10个标签的目标，下列构建传统的MNIST算法

class Net(nn.Module):
  def __init__(self):
    super(Net, self).__init__()

    # First 2D convolutional layer, taking in 1 input channel (image),
    # outputting 32 convolutional features, with a square kernel size of 3
    self.conv1 = nn.Conv2d(1, 32, 3, 1)
    # Second 2D convolutional layer, taking in the 32 input layers,
    # outputting 64 convolutional features, with a square kernel size of 3
    self.conv2 = nn.Conv2d(32, 64, 3, 1)

    # Designed to ensure that adjacent pixels are either all 0s or all active
    # with an input probability
    self.dropout1 = nn.Dropout2d(0.25)
    self.dropout2 = nn.Dropout2d(0.5)

    # First fully connected layer
    self.fc1 = nn.Linear(9216, 128)
    # Second fully connected layer that outputs our 10 labels
    self.fc2 = nn.Linear(128, 10)

my_nn = Net()
print(my_nn)

如代码所示，构建的三层神经网络，第一个二维接收层，输入图像数据，输出32个特征，平方核大小为3，第二个二维convolutional 层输入32组数据得到64个特征平方核大小为3

通过指定数据传递进行训练

我们已经完成了神经网络的定义，下面将使用数据进行训练，在使用PyTorch构建模型只需要定义foward函数，将数据传递到计算图中，将代表我们的前馈算法。

class Net(nn.Module):
  def __init__(self):
    super(Net, self).__init__()
    self.conv1 = nn.Conv2d(1, 32, 3, 1)
    self.conv2 = nn.Conv2d(32, 64, 3, 1)
    self.dropout1 = nn.Dropout2d(0.25)
    self.dropout2 = nn.Dropout2d(0.5)
    self.fc1 = nn.Linear(9216, 128)
    self.fc2 = nn.Linear(128, 10)

  # x represents our data
  def forward(self, x):
    # Pass data through conv1
    x = self.conv1(x)
    # Use the rectified-linear activation function over x
    x = F.relu(x)

    x = self.conv2(x)
    x = F.relu(x)

    # Run max pooling over x
    x = F.max_pool2d(x, 2)
    # Pass data through dropout1
    x = self.dropout1(x)
    # Flatten x with start_dim=1
    x = torch.flatten(x, 1)
    # Pass data through fc1
    x = self.fc1(x)
    x = F.relu(x)
    x = self.dropout2(x)
    x = self.fc2(x)

    # Apply softmax to x
    output = F.log_softmax(x, dim=1)
    return output