过拟合问题，通常会考虑两种途径来解决：a) 减少特征的数量：b)

这样在最小化Cost function的时候，

.

正则化：

参数

取小一点的值，这样的优点：

-“简化”的hypothesis；

-不容易过拟合；

对于房价问题：

-特征包括：

-参数包括：

我们对除

以为的参数进行惩罚，也就是正则化：

正式的定义-经过正则化的Cost Function有如下的形式：

其中称为正则化参数，我们的目标依然是最小化

:

例如，对于正则化的线性回归模型来说，我们选择

来最小化如下的正则化成本函数：

如果将

设置为一个极大的值（例如对于我们的问题，设 )? 那么

-算法依然会正常的工作,将

设置的很大不会影响算法本身；

-算法在去除过拟合问题上会失败；

-算法的结构将是欠拟合（underfitting),即使训练数据非常好也会失败；

-梯度下降算法不一定会收敛；

这样的话，除了

，其他的参数都约等于0,,将得到类似如下的欠拟合图形：

关于正则化，以下引自李航博士《统计学习方法》1.5节关于正则化的一些描述：

模型选择的典型方法是正则化。正则化是结构风险最小化策略的实现，是在经验风险上加一个正则化项(regularizer)或罚项(penalty term)。正则化项一般是模型复杂度的单调递增函数，模型越复杂，正则化值就越大。比如，正则化项可以是模型参数向量的范数。

正则化符合奥卡姆剃刀(Occam's razor)原理。奥卡姆剃刀原理应用于模型选择时变为以下想法：在所有可能选择的模型中，能够很好地解释已知数据并且十分简单才是最好的模型，也就是应该选择的模型。从贝叶斯估计的角度来看，正则化项对应于模型的先验概率。可以假设复杂的模型有较大的先验概率，简单的模型有较小的先验概率。

3) Regularized Linear Regression(线性回归的正则化)

线性回归包括成本函数，梯度下降算法及正规方程解法等几个部分，不清楚的读者可以回顾第二课及第四课的笔记，这里将分别介绍正则化后的线性回归的成本函数，梯度下降算法及正规方程等。

首先来看一下线性回归正则化后的Cost function:

我们的目标依然是最小化

，从而得到相应的参数 . 梯度下降算法是其中的一种优化算法，由于正则化后的线性回归Cost function有了改变，因此梯度下降算法也需要相应的改变：

注意，对于参数

，梯度下降算法需要区分 和 。

同样的正规方程的表达式也需要改变，对于：

X 是m * (n+1)矩阵

y是m维向量：

正则化后的线性回归的Normal Equation的公式为：

假设样本数m小于等于特征数x,如果没有正则化，线性回归Normal eqation如下：

如果

不可逆怎么办？之前的办法是删掉一些冗余的特征，但是线性回归正则化后，如果 ，之前的公式依然有效：

其中括号中的矩阵可逆。

4) Regularized Logistic Regression(逻辑回归的正则化)

和线性回归相似，逻辑回归的Cost Function也需要加上一个正则化项（惩罚项），梯度下降算法也需要区别对待参数(theta).

再次回顾一些逻辑回归过拟合的情况，形容下面这个例子：

其中Hypothesis是这样的：

逻辑回归正则化后的Cost Function如下：

梯度下降算法如下：

其中

.

参考资料：

李航博士《统计学习方法》

http://en.wikipedia.org/wiki/Regularization_%28mathematics%29

http://en.wikipedia.org/wiki/Overfitting