关于正则化话的理解
发布时间：2020-12-14 00:57:06 所属栏目：百科 来源：网络整理
导读：正则化与归一化含义解析：http://sobuhu.com/ml/2012/12/29/normalization-regularization.html 正则化：http://www.cnblogs.com/richqian/p/4514528.html L0、L1、与L2范数：http://blog.csdn.net/zouxy09/article/details/24971995 备注： 正则化就是对最
|
正则化与归一化含义解析：http://sobuhu.com/ml/2012/12/29/normalization-regularization.html
正则化：http://www.cnblogs.com/richqian/p/4514528.html
L0、L1、与L2范数：http://blog.csdn.net/zouxy09/article/details/24971995
备注：
正则化就是对最小化经验误差函数上加约束，这样的约束可以解释为先验知识(正则化参数等价于对参数引入先验分布)。 约束有引导作用，在优化误差函数的时候倾向于选择满足约束的梯度减少的方向，使最终的解倾向于符合先验知识(如一般的l-norm先验，表示原问题更可能是比较简单的，这样的优化倾向于产生参数值量级小的解，一般对应于稀疏参数的平滑解)。
（编辑：李大同） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |