线性回归
上一章留下一个问题:给定一批房子,怎么找出那组 和 。
先把目标说清楚
现在有 12 套房的成交记录,画在图上:

这些点大致排成一条斜线。目标是找一个函数:
输入一个面积,输出一个房价。 记作 。
只要能造出这个函数,以后来一套没卖过的房子,把面积填进去,它就能给出一个价格估计。
可以用曲线,但先用直线
这些点不是笔直排的。理论上你可以画一条弯的曲线,让它更贴近每个点。
但先别急。先假设关系是一条直线:
这么做的理由很实在:直线只有两个参数,好理解、好计算、不容易过拟合。等你把直线玩明白了,再去弯也不迟。
用一条直线去拟合数据,这件事叫「线性回归」。
这个名称值得记住——它是后面一切的地基。深度学习的每一个网络,最后都在做类似的事:找一组参数,让输出尽量贴近真实值。只是参数从 2 个变成几百万个,函数从直线变成了一层层堆叠的矩阵运算。
先随便放一条线
和 还不知道。那就先瞎猜一个:、。也就是 ——面积多少平米,就卖多少万元。
画上去看看:

差得离谱。100 平米的房子真实成交 371 万,这条线说 100 万。
但它至少是一条线。接下来只要把它"转"过去、"抬"上去。
慢慢调
直线有两个可以动的地方:
改 ,线的陡不陡会变(旋转)
改 ,线的高低会变(上下平移)
调几次看看:

参数 | 这条线在做什么 |
|---|---|
太平,太低,完全不像 | |
陡了一点,还是偏低 | |
角度接近了,但整体偏高 | |
抬起角度、压低头部,基本贴合 |
图里 、 时,100 平米的预测是 万,真实 371 万。
所以"训练"到底是什么
把它说白:
训练,就是在所有可能的 和 里,挑出一组让这条线尽量贴近所有点的。
人眼一看图就知道"再陡一点",但机器没有眼睛。机器需要两个东西:
一个数字,能衡量"这条线现在有多差"——这就是损失函数
一套办法,能告诉它" 该往大调还是往小调"——这就是梯度
这两件事是下一课的内容。这一课只需要记住结论:找线 = 找参数。
线性回归:用一条直线 去拟合数据,找出一组让预测尽量接近真实值的 和 。
控制斜率, 控制截距。这两个数决定了这条线的一切。
下一课
下一课解决一个问题:怎么衡量一条线的好坏。有了这个数,才谈得上"找最好的那条"。