unix工具从文件中删除重复的行

发布时间：2020-12-15 18:50:07 所属栏目：安全来源：网络整理

导读：我有一个工具来生成测试并预测输出.这个想法是,如果我失败了,我可以将预测与实际产出进行比较,看看它们在哪里分歧.问题是实际输出包含一些行两次,这混淆了diff.我想删除重复项,以便我可以很容易地比较它们.基本上,像sort -u,但没有排序. 有没有可以做到这一

我有一个工具来生成测试并预测输出.这个想法是,如果我失败了,我可以将预测与实际产出进行比较,看看它们在哪里分歧.问题是实际输出包含一些行两次,这混淆了diff.我想删除重复项,以便我可以很容易地比较它们.基本上,像sort -u,但没有排序.

有没有可以做到这一点的unix命令行工具？

uniq(1)

概要

uniq [OPTION]… [INPUT [OUTPUT]]

描述

Discard all but one of successive identical lines from INPUT (or standard input),writing to OUTPUT (or standard output).

或者,如果你想删除不相邻的重复行,那么这个片段的perl将会这样做：

while(<>) {
    print $_ if (!$seen{$_});
    $seen{$_}=1;
}

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!