第1课:机器学习和深度学习到底是什么

可以,而且这样学 PyTorch 会更顺。

我们先把 PyTorch 放一放,先建立“深度学习到底在干什么”的完整直觉。等这些概念清楚以后,再回到 PyTorch,你会发现很多 API 都很好理解。

我建议按这个顺序学:机器学习是什么 → 神经网络是什么 → 前向传播 → 损失函数 → 梯度下降 → 反向传播 → 激活函数 → 多层网络 → 过拟合 → CNN → Transformer。我们还是一课一课来,不一次塞太多。

第 1 课:机器学习和深度学习到底是什么

先看一个最简单的问题。

假设我们想写一个程序,输入“房子的面积”,输出“房价”。

传统编程是这样:

规则 + 数据 → 结果

比如你自己写规则:

price = area * 10000

这里“每平方米 10000 元”这个规则,是人写的。

机器学习换了一种思路:

数据 + 正确答案 → 自动找规则

比如你给程序很多历史数据:

面积    房价
50      100万
80      160万
100     200万
120     240万

程序自己发现:

房价 ≈ 面积 × 2万

这个“自动找规则”的过程,就是训练。

一个最简单的模型

我们用一个公式表示:

y = wx + b

这里:

x = 输入
y = 输出
w = 权重
b = 偏置

比如:

房价 = w × 面积 + b

一开始程序根本不知道 w 和 b 应该是多少。

它可能随机初始化成:

w = 0.3
b = 10

然后输入:

x = 100

模型预测:

y = 0.3 × 100 + 10
  = 40

但真实房价可能是:

200

于是模型就知道:

我预测得太低了

接下来它就要调整:

w
b

使下一次预测更准。

这就是“学习”。

那神经网络是什么?

神经网络本质上没有神秘到哪里去。

它只是把很多这种:

y = wx + b

组合起来。

比如最简单的一层:

输入 x1
输入 x2
输入 x3
   ↓
加权求和
   ↓
输出

数学上可以写成:

z = w1*x1 + w2*x2 + w3*x3 + b

例如判断一张图是不是猫。

输入可能是:

x1
x2
x3
...

这些输入实际上就是像素值。

每个像素有一个权重:

w1
w2
w3
...

最后算出一个结果。

所以你可以先把“神经元”理解成:

输入
  ↓
乘权重
  ↓
求和
  ↓
加偏置
  ↓
得到输出

也就是:

z = wx + b

为什么叫“深度”学习?

因为网络有很多层。

比如:

输入层
  ↓
隐藏层 1
  ↓
隐藏层 2
  ↓
隐藏层 3
  ↓
输出层

如果只有一层:

浅层网络

如果有很多层:

深度神经网络

所以:

Deep Learning

里的 Deep,主要就是指网络层数比较深。

一个很关键的思想:模型参数

以后你学习 PyTorch,经常会看到:

model.parameters()

什么叫参数?

就是:

w
b

这些需要模型自己学习的数字。

比如:

y = wx + b

里面:

w
b

就是参数。

训练神经网络,本质上就是:

不断调整大量的 w 和 b,让模型预测越来越准确。

一个很小的模型可能只有:

几千个参数

一个大模型可能有:

几十亿
几百亿
甚至更多参数

但本质没变:

不断调整参数

训练到底是什么过程?

我们先把完整流程记住:

1. 输入数据
      ↓
2. 模型进行预测
      ↓
3. 和正确答案比较
      ↓
4. 算出误差
      ↓
5. 根据误差调整参数
      ↓
6. 再预测
      ↓
7. 再调整
      ↓
...

这就是训练。

比如:

真实答案:200
模型预测:40

误差很大。

调整 w:

w = 0.3
↓
w = 0.8
↓
w = 1.3
↓
w = 1.8
↓
w = 2.0

最后:

100 × 2 = 200

预测越来越准。

当然,真正的神经网络参数可能有几百万甚至几百亿个,所以不可能人工一个一个修改。

于是就有了一个极其重要的东西:

梯度下降

而“参数到底应该往哪个方向修改”,则由:

反向传播

帮助计算。

这两个东西是深度学习真正的核心。

你现在先记住 6 个词

现在不用理解数学细节,只要建立关系:

数据 Data
   ↓
模型 Model
   ↓
预测 Prediction
   ↓
损失 Loss
   ↓
反向传播 Backpropagation
   ↓
梯度下降 Gradient Descent
   ↓
更新参数 Parameters

循环很多次:

预测 → 犯错 → 修改 → 再预测

模型就逐渐“学会”了。

一个生活化类比

可以把训练模型想象成射箭。

第一次:

目标:靶心

箭射到了左边

你知道:

方向错了

于是调整姿势。

第二次:

偏右

再调整。

第三次:

偏上

继续调整。

最终越来越接近靶心。

神经网络也是一样:

预测结果 = 射箭的位置
真实答案 = 靶心
Loss = 离靶心多远
Gradient = 应该往哪个方向调整
Optimizer = 帮你调整参数的方法

这个类比非常重要。

等我们回头学 PyTorch:

loss.backward()
optimizer.step()

你就不会觉得这是魔法了。

它们其实就是:

loss.backward()
→ 告诉模型“参数应该怎么改”

optimizer.step()
→ 真正把参数改掉

这一课只需要掌握三件事

第一:

机器学习 = 从数据中学习规律

第二:

神经网络 = 大量 y = wx + b 类似结构组合起来

第三:

训练 = 不断调整参数,让预测误差越来越小

下一课我建议讲最关键的一步:什么是损失函数,以及模型到底怎么知道自己“错了多少”。这一课会直接为后面的梯度下降和反向传播打基础。

评论

暂无评论