PyTorch入門-1

1.為什么選擇PyTorch
  1）簡潔：追求更少封裝，避免重復(fù)造輪子
  2）速度：靈活性不以速度為代價(jià)
  3）易用：語法優(yōu)雅，簡單易學(xué)
  4）資源：社區(qū)豐富，維護(hù)及時(shí)

2.基礎(chǔ)入門
  1）安裝（pip install torch)
  2）創(chuàng)建tensor（PyTorch重要的數(shù)據(jù)結(jié)構(gòu)）
  3）自動(dòng)求導(dǎo)
  
import numpy as np  
import torch


#創(chuàng)建3行4列tensor，設(shè)置自動(dòng)求導(dǎo)
x = torch.randn(3,4,requires_grad=True)
#輸出結(jié)構(gòu)
x

#初始化b
b = torch.randn(3,4,requires_grad=True)
#計(jì)算t
t = x + b
#求和
y = t.sum()
#反向傳播計(jì)算
y.backward()
#輸出b梯度
b.grad

實(shí)戰(zhàn)一個(gè)例子（計(jì)算過程如下）：

#計(jì)算流程
x = torch.rand(1)
b = torch.rand(1, requires_grad = True)
w = torch.rand(1, requires_grad = True)
y = w * x 
z = y + b 
#如果不清空會(huì)累加起來
z.backward(retain_graph=True)
#w梯度
w.grad

#b梯度
b.grad

3.搭建線性回歸模型
  1）構(gòu)造數(shù)據(jù)
  2）初始化參數(shù)
  3）前向傳播
  4）模型訓(xùn)練
  5）預(yù)測結(jié)果
  6）保存模型

#初始化x值
x_values = [i for i in range(11)]
#轉(zhuǎn)換為ndarray
x_train = np.array(x_values, dtype=np.float32)
#維度轉(zhuǎn)換
x_train = x_train.reshape(-1, 1)
#查看形狀，（11，1）
x_train.shape


#計(jì)算y值
y_values = [2*i + 1 for i in x_values]
#轉(zhuǎn)換為ndarray
y_train = np.array(y_values, dtype=np.float32)
#維度轉(zhuǎn)換
y_train = y_train.reshape(-1, 1)
#查看形狀，（11，1）
y_train.shape

import torch
import torch.nn as nn


#線性回歸模型（本質(zhì)是一個(gè)不加激活函數(shù)的全連接層）
class LinearRegressionModel(nn.Module):
    #初始化參數(shù)
    def __init__(self, input_dim, output_dim):
        super(LinearRegressionModel, self).__init__()
        self.linear = nn.Linear(input_dim, output_dim)  
    #前向傳播
    def forward(self, x):
        out = self.linear(x)
        return out


#輸入維度
input_dim = 1
#輸出維度
output_dim = 1
#初始化模型
model = LinearRegressionModel(input_dim, output_dim)
#輪數(shù)
epochs = 1000
#學(xué)習(xí)率
learning_rate = 0.01
#隨機(jī)梯度下降算法
optimizer = torch.optim.SGD(model.parameters(), 
                            lr=learning_rate)
#定義均方損失函數(shù)
criterion = nn.MSELoss()


#遍歷每一輪（這里使用CPU進(jìn)行訓(xùn)練，建議使用GPU速度快）
for epoch in range(epochs):
    #計(jì)算輪數(shù)
    epoch += 1
    #注意轉(zhuǎn)換成tensor
    inputs = torch.from_numpy(x_train)
    labels = torch.from_numpy(y_train)
    #梯度要清零每一次迭代
    optimizer.zero_grad() 
    #前向傳播
    outputs = model(inputs)
    #計(jì)算損失
    loss = criterion(outputs, labels)
    #返向傳播
    loss.backward()
    #更新權(quán)重參數(shù)
    optimizer.step()
    #每50輪輸出損失值
    if epoch % 50 == 0:
        print('epoch {}, loss {}'.format(epoch, loss.item()))

#預(yù)測訓(xùn)練數(shù)據(jù)集
predicted = model(torch.from_numpy(x_train).requires_grad_()).data.numpy()
#輸出結(jié)果，跟我們真實(shí)y值幾乎沒有差別
predicted

#保存模型
torch.save(model.state_dict(), 'model.pkl')