线性回归

上一章留下一个问题:给定一批房子,怎么找出那组 ww 和 bb。

先把目标说清楚

现在有 12 套房的成交记录,画在图上:

这些点大致排成一条斜线。目标是找一个函数:

输入一个面积,输出一个房价。 记作 f(x)f(x)。

只要能造出这个函数,以后来一套没卖过的房子,把面积填进去,它就能给出一个价格估计。

可以用曲线,但先用直线

这些点不是笔直排的。理论上你可以画一条弯的曲线,让它更贴近每个点。

但先别急。先假设关系是一条直线:

f(x)=wx+bf(x) = wx + b

这么做的理由很实在:直线只有两个参数,好理解、好计算、不容易过拟合。等你把直线玩明白了,再去弯也不迟。

用一条直线去拟合数据,这件事叫「线性回归」。

这个名称值得记住——它是后面一切的地基。深度学习的每一个网络,最后都在做类似的事:找一组参数,让输出尽量贴近真实值。只是参数从 2 个变成几百万个,函数从直线变成了一层层堆叠的矩阵运算。

先随便放一条线

ww 和 bb 还不知道。那就先瞎猜一个:w=1.0w = 1.0、b=0b = 0。也就是 f(x)=xf(x) = x——面积多少平米,就卖多少万元。

画上去看看:

差得离谱。100 平米的房子真实成交 371 万,这条线说 100 万。

但它至少是一条线。接下来只要把它"转"过去、"抬"上去。

慢慢调

直线有两个可以动的地方:

  • 改 ww,线的陡不陡会变(旋转)

  • 改 bb,线的高低会变(上下平移)

调几次看看:

参数

这条线在做什么

w=1.0,b=0w = 1.0, b = 0

太平,太低,完全不像

w=2.4,b=30w = 2.4, b = 30

陡了一点,还是偏低

w=3.2,b=45w = 3.2, b = 45

角度接近了,但整体偏高

w=3.5,b=20w = 3.5, b = 20

抬起角度、压低头部,基本贴合

图里 w=3.5w = 3.5、b=20b = 20 时,100 平米的预测是 3.5×100+20=3703.5 \times 100 + 20 = 370 万,真实 371 万。

所以"训练"到底是什么

把它说白:

训练,就是在所有可能的 ww 和 bb 里,挑出一组让这条线尽量贴近所有点的。

人眼一看图就知道"再陡一点",但机器没有眼睛。机器需要两个东西:

  1. 一个数字,能衡量"这条线现在有多差"——这就是损失函数

  2. 一套办法,能告诉它"ww 该往大调还是往小调"——这就是梯度

这两件事是下一课的内容。这一课只需要记住结论:找线 = 找参数。

线性回归:用一条直线 f(x)=wx+bf(x) = wx + b 去拟合数据,找出一组让预测尽量接近真实值的 ww 和 bb。

ww 控制斜率,bb 控制截距。这两个数决定了这条线的一切。

下一课

下一课解决一个问题:怎么衡量一条线的好坏。有了这个数,才谈得上"找最好的那条"。