Unix对部分有序数据集进行排序

发布时间：2020-12-15 18:40:34 所属栏目：安全来源：网络整理

导读：所以我有一个非常大的文件(大约10GB)并且需要对它进行排序,就像使用’sort’实用程序一样,但更有效. 问题是,我没有内存,CPU功率,时间,也没有自由交换空间来驱动整个排序. 好处是文件已经部分排序(我可以说每条线与其最终位置的距离小于某个值N).这种方式让我

所以我有一个非常大的文件(大约10GB)并且需要对它进行排序,就像使用’sort’实用程序一样,但更有效.

问题是,我没有内存,CPU功率,时间,也没有自由交换空间来驱动整个排序.

好处是文件已经部分排序(我可以说每条线与其最终位置的距离小于某个值N).这种方式让我想起了为此目的使用大小为N的堆的堆的经典计算机类示例.

问题：是否有一些unix工具已经有效地完成了这项工作,或者我是否需要自己编写代码？

谢谢
-MK

将文件拆分为更小的部分并对其进行排序会更容易.分开：-

split --lines=100000 large_file file_part.

然后使用正常排序对每个进行排序

for suffix in `ls file_part.* | cut -f2 -d.` 
do 
  sort file_part.${suffix} > file_sorted.${suffix} 
done

然后你可以在merge sorting之前结合起来

sort -m file_sorted.*

这在您的机器上应该更容易.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!