画出岭回归系数和正则化项关系的函数图像
发布时间:2020-12-14 04:21:53 所属栏目:百科 来源:网络整理
导读:画出岭回归系数和正则化项关系的函数图像 显示共线性对于系数估计的影响。 下面每一种颜色代表系数向量不同的特征,这个图可以显示出和正则化项的关系。 当正则化系数趋于 0 的时候趋近于普通最小二乘法,回归系数会有很大的波动。 python code: # Author: F
画出岭回归系数和正则化项关系的函数图像显示共线性对于系数估计的影响。 下面每一种颜色代表系数向量不同的特征,这个图可以显示出和正则化项的关系。 当正则化系数趋于 0 的时候趋近于普通最小二乘法,回归系数会有很大的波动。 python code: # Author: Fabian Pedregosa -- <fabian.pedregosa@inria.fr>
# License: BSD 3 clause
print(__doc__)
import numpy as np
import matplotlib.pyplot as plt
from sklearn import linear_model
# X is the 10x10 Hilbert matrix
X = 1. / (np.arange(1,11) + np.arange(0,10)[:,np.newaxis])
y = np.ones(10)
###############################################################################
# Compute paths
n_alphas = 200
alphas = np.logspace(-10,-2,n_alphas)
clf = linear_model.Ridge(fit_intercept=False)
coefs = []
for a in alphas:
clf.set_params(alpha=a)
clf.fit(X,y)
coefs.append(clf.coef_)
###############################################################################
# Display results
ax = plt.gca()
ax.set_color_cycle(['b','r','g','c','k','y','m'])
ax.plot(alphas,coefs)
ax.set_xscale('log')
ax.set_xlim(ax.get_xlim()[::-1]) # reverse axis
plt.xlabel('alpha')
plt.ylabel('weights')
plt.title('Ridge coefficients as a function of the regularization')
plt.axis('tight')
plt.show()
补充:
希尔伯特矩阵作为输入数据,代表多重共线性数据。 (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
相关内容
- ruby-on-rails – 相当于ruby / rails中的Array.some
- React项目动态设置title标题
- c# – 低开销文件写入过程应该在它自己的线程上吗?
- C++ 遍历二叉树实例详解
- JSON.Net – 如何将JSON反序列化为对象,但将属性视为字符串
- string – 在VARCHAR字段中使用MAX()
- runtime-error – 使用b2FixtureDef的box2d CreateFixture提
- objective-c – 如何在iOS中切片/切割精灵(核心图形)
- MT 203 Multiple General Financial Institution Transfer多
- c# – 处理后完成一个线程循环