文本重点
针对于线性回归算法求解最优解,我们学习了两种算法:一种是梯度下降算法,另外一种是正规方程。本节课程我们还是使用这两种算法来求解带有正则化项的线性回归最优解。
梯度下降法处理正则化的线性回归
如下所示是正则化线性回归的代价函数,我们要使用梯度下降算法来对其进行最小化操作
正则化并没有对参数θ0进行正则化,所以此时的梯度下降的计算公式分为两种情况:一种情况是θ0,另外一种情况是其它的参数θ
我们来对上面的θj这个更新的式子进行一下变换:
式子一中,1-a*λ/m通常是一个具体实数而且小于1,我们可以把它当成0.97,所以就相当于我们的θj变为了原来的0.97倍,使得θj小了一点,θj小一点那么高次项就会小一点,那么过拟合问题就会解决了。
注意:式子一中被减去①那一项和我们之前没有使用正则化减去的是完全一样的。
总的来说,