linux uniq 命令整理

無論是工作中使用還是應(yīng)付各種面試殿遂,linux uniq 都是必須要掌握的 linux 基本命令之一戏蔑。uniq 一般和 sort 一起用氧秘,用來對排序好的內(nèi)容去重

uniq 對排序好的內(nèi)容進行去重

語法:

uniq [-cdu][-f<欄位>][-s<字符位置>][-w<字符位置>][--help][--version][輸入文件][輸出文件]

選項:

-c或--count 在每列旁邊顯示該行重復(fù)出現(xiàn)的次數(shù)
-d或--repeated 僅顯示重復(fù)出現(xiàn)的行
-f<欄位>或--skip-fields=<欄位> 比較時跳過前n列寻行,從n+1列開始比較
-s<字符位置>或--skip-chars=<字符位置>比較時跳過前n個字符点晴,從n+1個字符開始比較
-u或--unique 僅顯示出現(xiàn)一次的行
-w<字符位置>或--check-chars=<字符位置>對每行第n個字符以后的內(nèi)容不作對照

這里也不多說感凤,就說一句,uniq 是對排序好的內(nèi)容去重粒督,一般和 sort 同時使用陪竿,好,直接上例子屠橄,先展示下原始數(shù)據(jù)
sort -k 2,2 sort.log

e   bsd     1000    600 4M
c   Debian  600     200 8K
b   linux   1000    200 5K
a   mac     2000    500 2K
f   SUSE    4000    300 6M
c   win7    2000    100 7G
d   winxp   4000    300 3G
d   winxp   500     300 3G
g   winxp   500     300 3G
g   winxp   500     300 3G

為了方便觀看族跛,我將原始數(shù)據(jù)和去重后的數(shù)據(jù)都展示出來,左邊為原始數(shù)據(jù)锐墙,右邊為去重后的數(shù)據(jù)
1礁哄、默認去重
sort -k 2,2 sort.log|uniq

e   bsd     1000    600 4M          e   bsd     1000    600 4M
c   Debian  600     200 8K          c   Debian  600     200 8K
b   linux   1000    200 5K          b   linux   1000    200 5K
a   mac     2000    500 2K          a   mac     2000    500 2K
f   SUSE    4000    300 6M          f   SUSE    4000    300 6M
c   win7    2000    100 7G          c   win7    2000    100 7G
d   winxp   4000    300 3G          d   winxp   4000    300 3G
d   winxp   500     300 3G          d   winxp   500     300 3G
g   winxp   500     300 3G          g   winxp   500     300 3G
g   winxp   500     300 3G

2、比較時跳過前n列溪北,從n+1列開始比較
sort -k 2,2 sort.log|uniq -f 3

e   bsd     1000    600 4M          e   bsd     1000    600 4M
c   Debian  600     200 8K          c   Debian  600     200 8K
b   linux   1000    200 5K          b   linux   1000    200 5K
a   mac     2000    500 2K          a   mac     2000    500 2K
f   SUSE    4000    300 6M          f   SUSE    4000    300 6M
c   win7    2000    100 7G          c   win7    2000    100 7G
d   winxp   4000    300 3G          d   winxp   4000    300 3G
d   winxp   500     300 3G
g   winxp   500     300 3G
g   winxp   500     300 3G

3桐绒、對每行第n個字符以后的內(nèi)容不作對照,忽略n以后的字符
sort -k 2,2 sort.log|uniq -w 1

e   bsd     1000    600 4M          e   bsd     1000    600 4M
c   Debian  600     200 8K          c   Debian  600     200 8K
b   linux   1000    200 5K          b   linux   1000    200 5K
a   mac     2000    500 2K          a   mac     2000    500 2K
f   SUSE    4000    300 6M          f   SUSE    4000    300 6M
c   win7    2000    100 7G          c   win7    2000    100 7G
d   winxp   4000    300 3G          d   winxp   4000    300 3G
d   winxp   500     300 3G          g   winxp   500     300 3G
g   winxp   500     300 3G
g   winxp   500     300 3G

4刻盐、比較時跳過前n個字符掏膏,從n+1個字符開始比較
sort -k 2,2 sort.log|uniq -s 1

e   bsd     1000    600 4M          e   bsd     1000    600 4M
c   Debian  600     200 8K          c   Debian  600     200 8K
b   linux   1000    200 5K          b   linux   1000    200 5K
a   mac     2000    500 2K          a   mac     2000    500 2K
f   SUSE    4000    300 6M          f   SUSE    4000    300 6M
c   win7    2000    100 7G          c   win7    2000    100 7G
d   winxp   4000    300 3G          d   winxp   4000    300 3G
d   winxp   500     300 3G          d   winxp   500     300 3G
g   winxp   500     300 3G
g   winxp   500     300 3G

5、在每列旁邊顯示該行重復(fù)出現(xiàn)的次數(shù)敦锌,并僅顯示出現(xiàn)一次的行
sort -k 2,2 sort.log|uniq -c -u

e   bsd     1000    600 4M          1 e bsd     1000    600 4M
c   Debian  600     200 8K          1 c Debian  600     200 8K
b   linux   1000    200 5K          1 b linux   1000    200 5K
a   mac     2000    500 2K          1 a mac     2000    500 2K
f   SUSE    4000    300 6M          1 f SUSE    4000    300 6M
c   win7    2000    100 7G          1 c win7    2000    100 7G
d   winxp   4000    300 3G          1 d winxp   4000    300 3G
d   winxp   500     300 3G          1 d winxp   500     300 3G
g   winxp   500     300 3G
g   winxp   500     300 3G

6馒疹、在每列旁邊顯示該行重復(fù)出現(xiàn)的次數(shù),并僅顯示重復(fù)出現(xiàn)的行
sort -k 2,2 sort.log|uniq -d -c

e   bsd     1000    600 4M          2 g winxp   500 300 3G
c   Debian  600     200 8K
b   linux   1000    200 5K
a   mac     2000    500 2K
f   SUSE    4000    300 6M
c   win7    2000    100 7G
d   winxp   4000    300 3G
d   winxp   500     300 3G
g   winxp   500     300 3G
g   winxp   500     300 3G

uniq整理完了乙墙,歡迎大牛指教

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末颖变,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子听想,更是在濱河造成了極大的恐慌腥刹,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,372評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件汉买,死亡現(xiàn)場離奇詭異衔峰,居然都是意外死亡,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評論 3 392
  • 文/潘曉璐 我一進店門垫卤,熙熙樓的掌柜王于貴愁眉苦臉地迎上來威彰,“玉大人,你說我怎么就攤上這事穴肘⌒危” “怎么了?”我有些...
    開封第一講書人閱讀 162,415評論 0 353
  • 文/不壞的土叔 我叫張陵评抚,是天一觀的道長豹缀。 經(jīng)常有香客問我,道長慨代,這世上最難降的妖魔是什么邢笙? 我笑而不...
    開封第一講書人閱讀 58,157評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮鱼响,結(jié)果婚禮上鸣剪,老公的妹妹穿的比我還像新娘组底。我一直安慰自己丈积,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 67,171評論 6 388
  • 文/花漫 我一把揭開白布债鸡。 她就那樣靜靜地躺著江滨,像睡著了一般。 火紅的嫁衣襯著肌膚如雪厌均。 梳的紋絲不亂的頭發(fā)上唬滑,一...
    開封第一講書人閱讀 51,125評論 1 297
  • 那天,我揣著相機與錄音棺弊,去河邊找鬼晶密。 笑死,一個胖子當(dāng)著我的面吹牛模她,可吹牛的內(nèi)容都是我干的稻艰。 我是一名探鬼主播,決...
    沈念sama閱讀 40,028評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼侈净,長吁一口氣:“原來是場噩夢啊……” “哼尊勿!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起畜侦,我...
    開封第一講書人閱讀 38,887評論 0 274
  • 序言:老撾萬榮一對情侶失蹤元扔,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后旋膳,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體澎语,經(jīng)...
    沈念sama閱讀 45,310評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,533評論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了擅羞。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片盯孙。...
    茶點故事閱讀 39,690評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖祟滴,靈堂內(nèi)的尸體忽然破棺而出振惰,到底是詐尸還是另有隱情,我是刑警寧澤垄懂,帶...
    沈念sama閱讀 35,411評論 5 343
  • 正文 年R本政府宣布骑晶,位于F島的核電站,受9級特大地震影響草慧,放射性物質(zhì)發(fā)生泄漏桶蛔。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,004評論 3 325
  • 文/蒙蒙 一漫谷、第九天 我趴在偏房一處隱蔽的房頂上張望仔雷。 院中可真熱鬧,春花似錦舔示、人聲如沸碟婆。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽竖共。三九已至,卻和暖如春俺祠,著一層夾襖步出監(jiān)牢的瞬間公给,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評論 1 268
  • 我被黑心中介騙來泰國打工蜘渣, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留淌铐,地道東北人。 一個月前我還...
    沈念sama閱讀 47,693評論 2 368
  • 正文 我出身青樓蔫缸,卻偏偏與公主長得像腿准,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子捂龄,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,577評論 2 353

推薦閱讀更多精彩內(nèi)容