数据集大小是否影响机器学习算法？

在我的硕士论文的第一部分中,我使用了一些非常大的数据集(约5,000个样本),并通过学习不同的数据集(学习曲线)来测试一些机器学习算法.

我所做的假设(主要是使用scikit学习)不是优化参数,使用算法的默认参数(由于实际原因我不得不提出这个假设,没有优化,一些模拟已经在24小时以上簇).

首先要注意的是,有效地,每种方法将导致数据集的某一部分的平台.然而,您不能得出关于达到高原所需样本数量的有效数量的结论,原因如下：

>每个数据集是不同的,对于真正简单的数据集,他们可以给你几乎所有提供的10个样本,而有些仍然有一些东西可以揭示12000个样本(见上面我的例子中的希格斯数据集).
>数据集中的样本数是任意的,在我的论文中,我测试了一个数据集,其中错误的样本只是加入了算法.

然而,我们可以区分将具有不同行为的两种不同类型的算法：参数(线性,…)和非参数(随机森林,…)模型.如果达到非参数平台,意味着数据集的其余部分是“无用的”.正如你可以看到,当闪电方法在我的照片很快达到一个高原,并不意味着数据集没有任何提供,但更多的是,这是该方法可以做的最好的.这就是为什么非参数方法在获得的模型是复杂的并且真正可以从大量的培训样本中受益的时候最好的工作.

所以就你的问题：

>见上文.
>是的,这一切都取决于数据集内部的内容.
对于我来说,唯一的经验法则是交叉验证.如果您处于认为您将使用20,000或30,000个样品的情况,则通常在交叉验证不成问题的情况下.在我的论文中,我计算了我的方法在测试集上的准确性,当我没有注意到一个显着的改进时,我确定了到达那里的样本数量.正如我所说,您可以观察到一些趋势(参数方法比非参数更快地饱和)
>有时当数据集不够大时,如果你有一个更大的数据集,你可以把每个数据点都拥有,并且还有改进的余地.在我的论文中,没有对参数进行优化,Cifar-10数据集表现如此,即使在50,000以后,我的算法都没有收敛.

我补充说,优化算法的参数对于与高原的收敛速度有很大的影响,但它需要交叉验证的另一个步骤.

你的最后一句与我的论文题目高度相关,但对我来说,这更重要的是可以用来完成ML任务的内存和时间. (好像覆盖整个数据集一样,内存要求更小,速度更快).关于这一点,“核心集”的概念真的可以让你感兴趣.

我希望我可以帮助你,我不得不停下来,因为我可以继续说,但如果你需要更多的澄清,我很乐意提供帮助.