大數據教程（2.8）：Linux命令sort-cut-wc詳解

sort
sort 命令對 File 參數指定的文件中的行排序，並將結果寫到標準輸出。若是 File 參數指定多個文件，那麼 sort 命令將這些文件鏈接起來，並看成一個文件進行排序。

sort語法
[root@www ~]# sort [-fbMnrtuk] [file or stdin]
選項與參數：
-f  ：忽略大小寫的差別，例如 A 與 a 視爲編碼相同；
-b  ：忽略最前面的空格符部分；
-M  ：以月份的名字來排序，例如 JAN, DEC 等等的排序方法；
-n  ：使用『純數字』進行排序(默認是以文字型態來排序的)；
-r  ：反向排序；
-u  ：就是 uniq ，相同的數據中，僅出現一行表明；
-t  ：分隔符，默認是用 [tab] 鍵來分隔；
-k  ：以那個區間 (field) 來進行排序的意思
 

對/etc/passwd 的帳號進行排序
[root@www ~]# cat /etc/passwd | sort
adm:x:3:4:adm:/var/adm:/sbin/nologin
apache:x:48:48:Apache:/var/www:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
sort 是默認以第一個數據來排序，並且默認是以字符串形式來排序,因此由字母 a 開始升序排序。

 

/etc/passwd 內容是以 : 來分隔的，我想以第三欄來排序，該如何

[root@www ~]# cat /etc/passwd | sort -t ':' -k 3
root:x:0:0:root:/root:/bin/bash
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
games:x:12:100:games:/usr/games:/sbin/nologin
默認是以字符串來排序的，若是想要使用數字排序：

cat /etc/passwd | sort -t ':' -k 3n
root:x:0:0:root:/root:/bin/bash
daemon:x:1:1:daemon:/usr/sbin:/bin/sh
bin:x:2:2:bin:/bin:/bin/sh
默認是升序排序，若是要倒序排序，以下

cat /etc/passwd | sort -t ':' -k 3nr
nobody:x:65534:65534:nobody:/nonexistent:/bin/sh
ntp:x:106:113::/home/ntp:/bin/false
messagebus:x:105:109::/var/run/dbus:/bin/false
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin
 

若是要對/etc/passwd,先以第六個域的第2個字符到第4個字符進行正向排序，再基於第一個域進行反向排序。

cat /etc/passwd |  sort -t':' -k 6.2,6.4 -k 1r      
sync:x:4:65534:sync:/bin:/bin/sync
proxy:x:13:13:proxy:/bin:/bin/sh
bin:x:2:2:bin:/bin:/bin/sh
sys:x:3:3:sys:/dev:/bin/sh
 

查看/etc/passwd有多少個shell:對/etc/passwd的第七個域進行排序，而後去重:

cat /etc/passwd |  sort -t':' -k 7 -u
root:x:0:0:root:/root:/bin/bash
syslog:x:101:102::/home/syslog:/bin/false
daemon:x:1:1:daemon:/usr/sbin:/bin/sh
sync:x:4:65534:sync:/bin:/bin/sync
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin
 

uniq
 uniq命令能夠去除排序過的文件中的重複行，所以uniq常常和sort合用。也就是說，爲了使uniq起做用，全部的重複行必須是相鄰的。

uniq語法

[root@www ~]# uniq [-icu]
選項與參數：
-i   ：忽略大小寫字符的不一樣；
-c  ：進行計數
-u  ：只顯示惟一的行
 

testfile的內容以下

 
cat testfile
hello
world
friend
hello
world
hello
 
 

直接刪除未經排序的文件，將會發現沒有任何行被刪除

 
#uniq testfile  
hello
world
friend
hello
world
hello
 
 

排序文件，默認是去重

#cat testfile | sort |uniq
friend
hello
world
 

排序以後刪除了重複行，同時在行首位置輸出該行重複的次數

#sort testfile | uniq -c
1 friend
3 hello
2 world
 

僅顯示存在重複的行，並在行首顯示該行重複的次數

#sort testfile | uniq -dc
3 hello
2 world
 

僅顯示不重複的行

sort testfile | uniq -u
friend  
 

cut
cut命令能夠從一個文本文件或者文本流中提取文本列。

cut語法

[root@www ~]# cut -d'分隔字符' -f fields <==用於有特定分隔字符
[root@www ~]# cut -c 字符區間            <==用於排列整齊的信息
選項與參數：
-d  ：後面接分隔字符。與 -f 一塊兒使用；
-f  ：依據 -d 的分隔字符將一段信息分割成爲數段，用 -f 取出第幾段的意思；
-c  ：以字符 (characters) 的單位取出固定字符區間；
 

PATH 變量以下

[root@www ~]# echo $PATH
/bin:/usr/bin:/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games
# 1 | 2       | 3   | 4       | 5            | 6            | 7
 

將 PATH 變量取出，我要找出第五個路徑。

#echo $PATH | cut -d ':' -f 5
/usr/local/bin
 

將 PATH 變量取出，我要找出第三和第五個路徑。

#echo $PATH | cut -d ':' -f 3,5
/sbin:/usr/local/bin
 

將 PATH 變量取出，我要找出第三到最後一個路徑。

echo $PATH | cut -d ':' -f 3-
/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games
 

將 PATH 變量取出，我要找出第一到第三個路徑。

#echo $PATH | cut -d ':' -f 1-3
/bin:/usr/bin:/sbin:
 
 

將 PATH 變量取出，我要找出第一到第三，還有第五個路徑。

echo $PATH | cut -d ':' -f 1-3,5
/bin:/usr/bin:/sbin:/usr/local/bin
 

實用例子:只顯示/etc/passwd的用戶和shell

#cat /etc/passwd | cut -d ':' -f 1,7 
root:/bin/bash
daemon:/bin/sh
bin:/bin/sh
 

 wc
統計文件裏面有多少單詞，多少行，多少字符。

wc語法

[root@www ~]# wc [-lwm]
選項與參數：
-l  ：僅列出行；
-w  ：僅列出多少字(英文單字)；
-m  ：多少字符；
 

默認使用wc統計/etc/passwd

#wc /etc/passwd
40   45 1719 /etc/passwd
40是行數，45是單詞數，1719是字節數

 

wc的命令比較簡單使用，每一個參數使用以下：

 
#wc -l /etc/passwd   #統計行數，在對記錄數時，很經常使用
40 /etc/passwd       #表示系統有40個帳戶

#wc -w /etc/passwd  #統計單詞出現次數
45 /etc/passwd

#wc -m /etc/passwd  #統計文件的字符數
1719
 

參考 http://vbird.dic.ksu.edu.tw/linux_basic/0320bash_6.php#pipe_2

      http://www.cnblogs.com/stephen-liu74/archive/2011/11/10/2240461.html