3.3 mnist简单数据识别-改用更复杂的网络结构

# 改用更复杂的网络结构
# 手写数字
import numpy as np
from torch import nn,optim
from torch.autograd import Variable
from torchvision import datasets,transforms
from torch.utils.data import DataLoader
import torch

# 训练集
train_dataset=datasets.MNIST(root='./',train=True,transform=transforms.ToTensor(),download=True)
# 测试集
test_dataset=datasets.MNIST(root='./',train=False,transform=transforms.ToTensor(),download=True)

# 批次大小
batch_size =64
# 装载训练集
train_loader= DataLoader(dataset=train_dataset,batch_size=batch_size,shuffle=True)
# 装载测试集
test_loader= DataLoader(dataset=test_dataset,batch_size=batch_size,shuffle=True)

for i,data in enumerate(train_loader):
    inputs,labels=data
    print(inputs.shape)
    print(labels.shape)
    break
    ## torch.Size([64, 1, 28, 28])
    ## torch.Size([64])

# 定义网络结构
class Net(nn.Module):
    def __init__(self):
        super(Net,self).__init__()
        # 定义较为复杂的带有两个隐藏层的3层神经网络,并混合Dropout封装起来 p=0 Dropout不起作用
        self.layer1=nn.Sequential(nn.Linear(784,500),nn.Dropout(p=0),nn.Tanh())
        self.layer2=nn.Sequential(nn.Linear(500,300),nn.Dropout(p=0),nn.Tanh())
        self.layer3=nn.Sequential(nn.Linear(300,10),nn.Softmax(dim=1))
    def forward(self,x):
        #([64, 1, 28, 28])->(64,784)   -1表示自动匹配
        x=x.view(x.size()[0],-1)
        x=self.layer1(x)
        x=self.layer2(x)
        x=self.layer3(x)
        return x

LR=0.5
# 定义模型
model=Net()
# 定义代价函数
mse_loss=nn.CrossEntropyLoss()
# 定义优化器
optimizer=optim.SGD(model.parameters(),LR)

# 模型训练
def train():
    # 模型的训练状态,Dropout起作用
    model.train()
    for i,data in enumerate(train_loader):
        # 获得一个批次的数据和标签
        inputs,labels=data
        # 获得模型预测值
        out=model(inputs)
        # 交叉熵代价函数,不需要shape一致,它会自动独热编码
        loss=mse_loss(out,labels)
        # 梯度清0
        optimizer.zero_grad()
        # 梯度计算
        loss.backward()
        # 修改权值
        optimizer.step()
# 模型测试
def test():
    # 模型的测试状态,Dropout不起作用,所有神经元均参与计算
    model.eval()
    correct=0

    # 计算训练集上的准确率
    for i,data in enumerate(train_loader):
        # 获得一个批次的数据和标签
        inputs,labels=data
        # 获得模型预测值
        out=model(inputs)
        # 获得最大值(忽略),以及最大值所在的位置
        _,predicted=torch.max(out,1)
        # 计算正确的个数
        correct+=(predicted==labels).sum()
    # 输出正确率
    print("Train acc:{0}".format(correct.item()/len(train_dataset)))

    correct=0
    # 计算测试集上的准确率
    for i,data in enumerate(test_loader):
        # 获得一个批次的数据和标签
        inputs,labels=data
        # 获得模型预测值
        out=model(inputs)
        # 获得最大值(忽略),以及最大值所在的位置
        _,predicted=torch.max(out,1)
        # 计算正确的个数
        correct+=(predicted==labels).sum()
    # 输出正确率
    print("Test acc:{0}".format(correct.item()/len(test_dataset)))

# 效果变好了主要是因为神经网络变复杂了
for epoch in range(20):
    print('epoch:',epoch)
    train()
    test()
    ## epoch: 0
    ## Train acc:0.8902833333333333
    ## Test acc:0.8956
    ## epoch: 1
    ## Train acc:0.9222333333333333
    ## Test acc:0.9217
    ## epoch: 2
    ## Train acc:0.94535
    ## Test acc:0.941
    ## epoch: 3
    ## Train acc:0.9540333333333333
    ## Test acc:0.9499
    ## epoch: 4
    ## Train acc:0.9526333333333333
    ## Test acc:0.9488
    ## epoch: 5
    ## Train acc:0.96245
    ## Test acc:0.9562
    ## epoch: 6
    ## Train acc:0.9662166666666666
    ## Test acc:0.9606
    ## epoch: 7
    ## Train acc:0.9716166666666667
    ## Test acc:0.9644
    ## epoch: 8
    ## Train acc:0.97195
    ## Test acc:0.9617
    ## epoch: 9
    ## Train acc:0.9760166666666666
    ## Test acc:0.9675
    ## epoch: 10
    ## Train acc:0.9762166666666666
    ## Test acc:0.9661
    ## epoch: 11
    ## Train acc:0.9806833333333334
    ## Test acc:0.9699
    ## epoch: 12
    ## Train acc:0.9809333333333333
    ## Test acc:0.9688
    ## epoch: 13
    ## Train acc:0.98315
    ## Test acc:0.9708
    ## epoch: 14
    ## Train acc:0.9842333333333333
    ## Test acc:0.9721
    ## epoch: 15
    ## Train acc:0.9845
    ## Test acc:0.9718
    ## epoch: 16
    ## Train acc:0.9863333333333333
    ## Test acc:0.9739
    ## epoch: 17
    ## Train acc:0.9866833333333334
    ## Test acc:0.9726
    ## epoch: 18
    ## Train acc:0.9879333333333333
    ## Test acc:0.9751
    ## epoch: 19
    ## Train acc:0.9882
    ## Test acc:0.9739