awk

awk
調用：
1.調用awk:

第一種方式：命令行方式
awk [-F field-separator] 'commands' input-file(s)
[-F域分隔符]是可選的，由於awk使用空格做爲缺省的域分隔符，所以若是要瀏覽域間有空格的文本，沒必要指定這個選項，若是要瀏覽諸如passwd文件，此文件各域以冒號做爲分隔符，則必須指明-F選項，如：
awk -F: 'commands' input-file

第二種方式是將全部awk命令插入一個文件，並使awk程序可執行，而後用awk命令解釋器做爲腳本的首行，以便經過鍵入腳本名稱來調用它。

第三種方式是將全部的awk命令插入一個單獨文件，而後調用：
awk -f awk-scrīpt-file input-files(s)
-f選項指明在文件awk_scrīpt_file中的awk腳本，input_file(s)是使用awk進行瀏覽的文件名。 


模式和動做

任何awk語句都由模式和動做組成。在一個awk腳本中可能有許多語句。模式部分決定動做語句什麼時候觸發及觸發事件。處理即對數據進行的操做。若是省略模式部分，動做將時刻保持執行狀態。模式能夠是任何條件語句或複合語句或正則表達式。模式包括兩個特殊字段 BEGIN和END。使用BEGIN語句設置計數和打印頭。BEGIN語句使用在任何文本瀏覽動做以前，以後文本瀏覽動做依據輸入文本開始執行。END語句用來在awk完成文本瀏覽動做後打印輸出文本總數和結尾狀態標誌。

域和記錄
使用$1,$3表示參照第1和第3域，注意這裏用逗號作域分隔。若是但願打印一個有5個域的記錄的全部域，可以使用$0，意即全部域。
爲打印一個域或全部域，使用print命令。這是一個awk動做

模式和動做
模式：兩個特殊斷 BEGIN和END
動做：實際動做大多在{}內指明


輸出
1.抽取域
awk -F: '{print $1}' /etc/passwd

2.保存輸出
awk -F: '{print $1}' /etc/passwd | tee user 使用tee命令，在輸出文件的同時，輸出到屏幕

使用標準輸出
awk -F: '{print $1}' /etc/passwd >user3

4.打印全部記錄
awk -F: '{print $0}' /etc/passwd

5.打印單獨記錄
awk -F: '{print $1,$4}' /etc/passwd

6.打印報告頭
awk -F: 'BEGIN {print "NAME\n"} {print $1}' /etc/passwd

7.打印結尾
awk -F: '{print $1} END {print "this is all users"}' /etc/passwd


條件操做符
1.匹配
awk -F: '{if($1~/root/) print }' /etc/passwd      //{if($1~/root/) print}表示若是field1包含root,打印它

2.精確匹配
使用等號 ==
awk -F: '{if($3=="0") print }' /etc/passwd  

3.不匹配
!~
awk -F: '{if($1!~/linuxtone/) print }' /etc/passwd

!=
精確不匹配
awk -F: '{if($1!="linuxtone") print }' /etc/passwd

4.小於
<
5.小於等於
<=
6.大於
>
.........
7.設置大小寫
awk '/[Rr]oot/' /etc/passwd

8.任意字符
awk -F: '{if($1~/^...t/) print}' /etc/passwd      //^...t表示第四個字幕是t

9.或關係匹配
awk -F: '{if ($1~/(squid|nagios)/) print}' /etc/passwd

10.行首
awk '/^root/' /etc/passwd       // ^root(行首包含root)

11.AND &&
awk -F: '{if($1=="root" && $3=="0") print}' /etc/passwd

12.OR ||

內置變量:
ARCC                                      命令行參數個數
ARGV                                      命令行參數排列
ENVIRON                                   支持隊列中系統環境變量的使用
FNR                                       瀏覽文件的記錄數
FS                                        置頂分隔符，等價於-F
NF                                        瀏覽記錄的域的個數，字段的數目
NR                                        已讀的記錄數
OFS                                       輸出域分隔符
ORS                                       輸出記錄分隔符
RS                                        控制記錄分隔符

打印有多少行記錄
awk 'END {print NR}' /etc/passwd

設置輸入域到變量名
awk -F: '{name=$1; path=$7; if(name~/root/) print name  "\tpath is:" path}' /etc/passwd

域值比較操做
awk '{if($6<$7) print $0}' input-file

修改文本域只顯示修改改記錄
awk -F: '{if($1=="nagios") {$1="nagios server" ; print }}' /etc/passwd

文件長度相加
ls -l|awk '/^[^d]/ {print $9"\t" $5} {tot+=$5} END {print "total kb:"tot}'

內置的字符竄函數
gsub(r,s)                                                      在整個$0中用s替代r
gsub(r,s,t)                                                    在整個t中用s替代r
index(s,t)                                                     返回s中字符串t的第一位置
length(s)                                                      返回s長度
match(s,r)                                                     測試s中是否包含匹配r的字符串
split(s,a,fs)                                                  在fs上將s分紅序列a
sub(s, )                                                       用$0中最左邊也是最長的字符串替代
subtr(s,p)                                                     返回字符串s中從p開始的後綴部分
substr(s,p,n)                                                  返回字符串s中從p開始長度爲n的後綴部分

1.gsub
awk 'gsub(/^root/,"netseek") {print}' /etc/passwd             將與root開頭的root替換爲netseek

awk 'gsub(/0/,2) {print}' /etc/fstab 

awk '{print gsub(/0/,2) $0}' /etc/fstab                       

2.index
awk 'BEGIN {print index("root","o")}'  查詢字符串root中o出現的第一位置

awk -F: '$1=="root" {print index($1,"o")" "$1}' /etc/passwd

awk -F: '{print index($1,"o") $1}' /etc/passwd

3.length
awk -F: '{print length($1)'} /etc/passwd

awk -F: '$1=="root" {print length($1)}' /etc/passwd

4.match (在ANCD中查找C的位置)
awk 'BEGIN {print match("ANCD",/C/)}'

5.split
返回字符串數組元素個數
awk 'BEGIN {print split("123#456#789", myarray, "#")}'

6.sub   只能替換指定域的第一個0
awk 'sub(/0/,2) {print }' /etc/fstab

7.substr 
按照起始位置及長度返回字符串的一部分
awk 'BEGIN {print substr("www.linuxtone.org",5,9)}'  //第5個字符開始，取9個字符。

awk 'BEGIN {print substr("www.linuxtone.org",5)}'  //第5個位置開始，取後面的全部.

字符串屏蔽序列
\b                  退格鍵
\f                  走紙換頁
\n                  新行
\r                  回車
\t                  tab
\c                  任意其餘特殊字符
\ddd                八進制

很簡單的例子
awk -F: '{print $1,"\b"$2,"\t"$3}' /etc/passwd 輸出函數printf(注意是printf不是print,二者效果不一樣的)
printf函數擁有幾種不一樣的格式化輸出功能

printf修飾符
-                               左對齊
Width                        域的步長0表示0步長
.prec                          最大字符串長度，或小數點右邊的位數


awk printf格式
%c                              ASCII字符
%d                              整數
%e                              浮點數，科學計數法
%f                               浮點數
%g                              awk決定使用哪一種浮點數轉換，e或者f
%o                              八進制數
%s                              字符串
%x                              十六進制數

1.字符串轉換
echo "65" | awk '{printf"%c\n",$0}'

awk 'BEGIN {printf "%c\n",65}'

awk 'BEGIN {printf "%f\n",999}'

2.格式化輸出
awk -F: '{printf "%-15s %s\n",$1,$3}' /etc/passwd

awk -F: 'BEGIN {printf"USER\t\tUID\n"} {printf "%-15s %s\n",$1,$3}' /etc/passwd

3.向一行awk命令傳值
who | awk '{if ($1 == user) print $1 " you are connected to:" $2}' user=$LOGNAME

4.awk腳本文件 (在文件名字後面加後綴.awk方便區分)
#!/bin/awk -f
BEGIN{
    FS=":"
        print "User\t\tUID"
        print"____________________________"
}

{printf "%-15s %s\n",$1,$3}

END{
       print "END"

}

 

awk 用法：awk ' pattern {action} '  

變量名 含義 
ARGC 命令行變元個數 
ARGV 命令行變元數組 
FILENAME 當前輸入文件名 
FNR 當前文件中的記錄號 
FS 輸入域分隔符，默認爲一個空格 
RS 輸入記錄分隔符 
NF 當前記錄裏域個數 ，字段的數目
NR 到目前爲止記錄數 
OFS 輸出域分隔符 
ORS 輸出記錄分隔符 

一、awk '/101/'               file 顯示文件file中包含101的匹配行。 
   awk '/101/,/105/'         file 
   awk '$1 == 5'             file 
   awk '$1 == "CT"'          file 注意必須帶雙引號 
   awk '$1 * $2 >100 '       file  
   awk '$2 >5 && $2<=15'     file 
二、awk '{print NR,NF,$1,$NF,}' file 顯示文件file的當前記錄號、域數和每一行的第一個和最後一個域。 
   awk '/101/ {print $1,$2 + 10}' file 顯示文件file的匹配行的第1、二個域加10。 
   awk '/101/ {print $1$2}'  file 
   awk '/101/ {print $1 $2}' file 顯示文件file的匹配行的第1、二個域，但顯示時域中間沒有分隔符。 
三、df | awk '$4>1000000 '         經過管道符得到輸入，如：顯示第4個域知足條件的行。 
四、awk -F "|" '{print $1}'   file 按照新的分隔符「|」進行操做。 
   awk  'BEGIN { FS="[: /t|]" } 
   {print $1,$2,$3}'       file 經過設置輸入分隔符（FS="[: /t|]"）修改輸入分隔符。 

   Sep="|" 
   awk -F $Sep '{print $1}'  file 按照環境變量Sep的值作爲分隔符。    
   awk -F '[ :/t|]' '{print $1}' file 按照正則表達式的值作爲分隔符，這裏表明空格、:、TAB、|同時作爲分隔符。 
   awk -F '[][]'    '{print $1}' file 按照正則表達式的值作爲分隔符，這裏表明[、] 
五、awk -f awkfile       file 經過文件awkfile的內容依次進行控制。 
   cat awkfile 
/101/{print "/047 Hello! /047"} --遇到匹配行之後打印 ' Hello! './047表明單引號。 
{print $1,$2}                   --由於沒有模式控制，打印每一行的前兩個域。 
六、awk '$1 ~ /101/ {print $1}' file 顯示文件中第一個域匹配101的行（記錄）。 
七、awk   'BEGIN { OFS="%"} 
   {print $1,$2}'           file 經過設置輸出分隔符（OFS="%"）修改輸出格式。 
八、awk   'BEGIN { max=100 ;print "max=" max}             BEGIN 表示在處理任意行以前進行的操做。 
   {max=($1 >max ?$1:max); print $1,"Now max is "max}' file 取得文件第一個域的最大值。 
   （表達式1?表達式2:表達式3 至關於： 
   if (表達式1) 
       表達式2 
   else 
       表達式3 
   awk '{print ($1>4 ? "high "$1: "low "$1)}' file  
九、awk '$1 * $2 >100 {print $1}' file 顯示文件中第一個域匹配101的行（記錄）。 
十、awk '{$1 == 'Chi' {$3 = 'China'; print}' file 找到匹配行後先將第3個域替換後再顯示該行（記錄）。 
    awk '{$7 %= 3; print $7}'  file 將第7域被3除，並將餘數賦給第7域再打印。 
十一、awk '/tom/ {wage=$2+$3; printf wage}' file 找到匹配行後爲變量wage賦值並打印該變量。 
十二、awk '/tom/ {count++;}  
         END {print "tom was found "count" times"}' file END表示在全部輸入行處理完後進行處理。 
1三、awk 'gsub(//$/,"");gsub(/,/,""); cost+=$4; 
         END {print "The total is $" cost>"filename"}'    file gsub函數用空串替換$和,再將結果輸出到filename中。
    1 2 3 $1,200.00 
    1 2 3 $2,300.00 
    1 2 3 $4,000.00 

    awk '{gsub(//$/,"");gsub(/,/,""); 
    if ($4>1000&&$4<2000) c1+=$4; 
    else if ($4>2000&&$4<3000) c2+=$4; 
    else if ($4>3000&&$4<4000) c3+=$4; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]/n",c1,c2,c3,c4}"' file 
    經過if和else if完成條件語句 

    awk '{gsub(//$/,"");gsub(/,/,""); 
    if ($4>3000&&$4<4000) exit; 
    else c4+=$4; } 
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]/n",c1,c2,c3,c4}"' file 
    經過exit在某條件時退出，可是仍執行END操做。 
    awk '{gsub(//$/,"");gsub(/,/,""); 
    if ($4>3000) next; 
    else c4+=$4; } 
    END {printf  "c4=[%d]/n",c4}"' file 
    經過next在某條件時跳過該行，對下一行執行操做。 


1四、awk '{ print FILENAME,$0 }' file1 file2 file3>fileall 把file一、file二、file3的文件內容所有寫到fileall中，格式爲
    打印文件並前置文件名。 
1五、awk ' $1!=previous { close(previous); previous=$1 }    
    {print substr($0,index($0," ") +1)>$1}' fileall 把合併後的文件從新分拆爲3個文件。並與原文件一致。 
1六、awk 'BEGIN {"date"|getline d; print d}'         經過管道把date的執行結果送給getline，並賦給變量d，而後打印。 
1七、awk 'BEGIN {system("echo /"Input your name://c/""); getline d;print "/nYour name is",d,"/b!/n"}'
    經過getline命令交互輸入name，並顯示出來。 
    awk 'BEGIN {FS=":"; while(getline< "/etc/passwd" >0) { if($1~"050[0-9]_") print $1}}'
    打印/etc/passwd文件中用戶名包含050x_的用戶名。 

1八、awk '{ i=1;while(i<NF) {print NF,$i;i++}}' file 經過while語句實現循環。 
    awk '{ for(i=1;i<NF;i++) {print NF,$i}}'   file 經過for語句實現循環。     
    type file|awk -F "/" ' 
    { for(i=1;i<NF;i++) 
    { if(i==NF-1) { printf "%s",$i } 
    else { printf "%s/",$i } }}'               顯示一個文件的全路徑。 
    用for和if顯示日期 
    awk  'BEGIN { 
for(j=1;j<=12;j++) 
{ flag=0; 
  printf "/n%d月份/n",j; 
        for(i=1;i<=31;i++) 
        { 
        if (j==2&&i>28) flag=1; 
        if ((j==4||j==6||j==9||j==11)&&i>30) flag=1; 
        if (flag==0) {printf "%02d%02d ",j,i} 
        } 
} 
}' 
1九、在awk中調用系統變量必須用單引號，若是是雙引號，則表示字符串 
Flag=abcd 
awk '{print '$Flag'}'   結果爲abcd 
awk '{print  "$Flag"}'   結果爲$Flag

 

1、split 初始化和類型強制 

awk的內建函數split容許你把一個字符串分隔爲單詞並存儲在數組中。你能夠本身定義域分隔符或者使用如今FS(域分隔符)的值。
文件長度相加
ls -l|awk '/^[^d]/ {print $9"\t" $5} {tot+=$5} END {print "total kb:"tot}'

內置的字符竄函數
gsub(r,s)                                                      在整個$0中用s替代r
gsub(r,s,t)                                                    在整個t中用s替代r
index(s,t)                                                     返回s中字符串t的第一位置
length(s)                                                      返回s長度
match(s,r)                                                     測試s中是否包含匹配r的字符串
split(s,a,fs)                                                  把s按照fs分紅序列 a[1] a[2]#在fs上將s分紅序列a
sub(s, )                                                       用$0中最左邊也是最長的字符串替代
subtr(s,p)                                                     返回字符串s中從p開始的後綴部分
substr(s,p,n)                                                  返回字符串s中從p開始長度爲n的後綴部分

 

格式：

split (string, array, field separator)
split (string, array) -->若是第三個參數沒有提供，awk就默認使用當前FS值。

例子：
例1：替換分隔符

?

1 2 3

time= "12:34:56" out=`echo  $time | awk  '{split($0,a,":");print a[1],a[2],a[3]}' ` echo  $out

例2：計算指定範圍內的和(計算每一個人1月份的工資之和)

?

1 2 3 4 5 6 7 8 9 10

[root @test ~] # cat test.txt Tom　　  2012 - 12 - 11 car  53000 John　　  2013 - 01 - 13 bike  41000 vivi  2013 - 01 - 18 car  42800 Tom　　  2013 - 01 - 20 car  32500 John　　  2013 - 01 - 28 bike  63500 [root @test ~] # awk '{split($2,a,"-");if(a[2]==01){b[$1]+=$4}}END{for(i in b)print i,b[i]}' test.txt vivi  2800 Tom2500 John4500

2、substr 截取字符串

返回從起始位置起，指定長度之子字符串；若未指定長度，則返回從起始位置到字符串末尾的子字符串。
格式：
substr(s,p) 返回字符串s中從p開始的後綴部分
substr(s,p,n) 返回字符串s中從p開始長度爲n的後綴部分
例子：

?

1 2	[root @test ~] # echo "123" | awk '{print substr($0,1,1)}' 1

解釋：

awk -F ',' '{print substr($3,6)}' ---> 表示是從第3個字段裏的第6個字符開始，一直到設定的分隔符","結束.
substr($3,10,8) ---> 表示是從第3個字段裏的第10個字符開始，截取8個字符結束.
substr($3,6) ---> 表示是從第3個字段裏的第6個字符開始，一直到結尾

3、length 字符串長度
length函數返回沒有參數的字符串的長度。length函數返回整個記錄中的字符數。

?

1 2	[root @test ~] # echo "123" | awk '{print length}' 3

4、gsub函數

gsub函數則使得在全部正則表達式被匹配的時候都發生替換。gsub(regular expression, subsitution string, target string);簡稱 gsub（r,s,t)。

舉例：把一個文件裏面全部包含 abc 的行裏面的 abc 替換成 def，而後輸出第一列和第三列

?

1	awk  '$0 ~ /abc/ {gsub("abc", "def", $0); print $1, $3}' abc.txt

5、正則表達式

字符	功能
+	指定若是一個或多個字符或擴展正則表達式的具體值（在 +（加號）前）在這個字符串中，則字符串匹配。命令行： awk '/smith+ern/' testfile 將包含字符 smit，後跟一個或多個 h 字符，並以字符 ern 結束的字符串的任何記錄打印至標準輸出。此示例中的輸出是： smithern, harry smithhern, anne
?	指定若是零個或一個字符或擴展正則表達式的具體值（在 ?（問號）以前）在字符串中，則字符串匹配。命令行： awk '/smith?/' testfile 將包含字符 smit，後跟零個或一個 h 字符的實例的全部記錄打印至標準輸出。此示例中的輸出是： smith, alan smithern, harry smithhern, anne smitters, alexis
|	指定若是以 |（垂直線）隔開的字符串的任何一個在字符串中，則字符串匹配。命令行： awk '/allen | alan /' testfile 將包含字符串 allen 或 alan 的全部記錄打印至標準輸出。此示例中的輸出是： smiley, allen smith, alan
( )	在正則表達式中將字符串組合在一塊兒。命令行： awk '/a(ll)?(nn)?e/' testfile 將具備字符串 ae 或 alle 或 anne 或 allnne 的全部記錄打印至標準輸出。此示例中的輸出是： smiley, allen smithhern, anne
{m}	指定若是正好有 m 個模式的具體值位於字符串中，則字符串匹配。命令行： awk '/l{2}/' testfile 打印至標準輸出 smiley, allen
{m,}	指定若是至少 m 個模式的具體值在字符串中，則字符串匹配。命令行： awk '/t{2,}/' testfile 打印至標準輸出： smitters, alexis
{m, n}	指定若是 m 和 n 之間（包含的 m 和 n）個模式的具體值在字符串中（其中m<= n），則字符串匹配。命令行： awk '/er{1, 2}/' testfile 打印至標準輸出： smithern, harry smithern, anne smitters, alexis
[String]	指定正則表達式與方括號內 String 變量指定的任何字符匹配。命令行： awk '/sm[a-h]/' testfile 將具備 sm 後跟以字母順序從 a 到 h 排列的任何字符的全部記錄打印至標準輸出。此示例的輸出是： smawley, andy
[^ String]	在 [ ]（方括號）和在指定字符串開頭的 ^ (插入記號) 指明正則表達式與方括號內的任何字符不匹配。這樣，命令行： awk '/sm[^a-h]/' testfile 打印至標準輸出： smiley, allen smith, alan smithern, harry smithhern, anne smitters, alexis
~,!~	表示指定變量與正則表達式匹配（代字號）或不匹配（代字號、感嘆號）的條件語句。命令行： awk '$1 ~ /n/' testfile 將第一個字段包含字符 n 的全部記錄打印至標準輸出。此示例中的輸出是： smithern, harry smithhern, anne
^	指定字段或記錄的開頭。命令行： awk '$2 ~ /^h/' testfile 將把字符 h 做爲第二個字段的第一個字符的全部記錄打印至標準輸出。此示例中的輸出是： smithern, harry
$	指定字段或記錄的末尾。命令行： awk '$2 ~ /y$/' testfile 將把字符 y 做爲第二個字段的最後一個字符的全部記錄打印至標準輸出。此示例中的輸出是： smawley, andy smithern, harry
. （句號）	表示除了在空白末尾的終端換行字符之外的任何一個字符。命令行： awk '/a..e/' testfile 將具備以兩個字符隔開的字符 a 和 e 的全部記錄打印至標準輸出。此示例中的輸出是： smawley, andy smiley, allen smithhern, anne
*（星號）	表示零個或更多的任意字符。命令行： awk '/a.*e/' testfile 將具備以零個或更多字符隔開的字符 a 和 e 的全部記錄打印至標準輸出。此示例中的輸出是： smawley, andy smiley, allen smithhern, anne smitters, alexis
\ (反斜槓)	轉義字符。當位於在擴展正則表達式中具備特殊含義的任何字符以前時，轉義字符除去該字符的任何特殊含義。例如，命令行： /a\/\// 將與模式 a // 匹配，由於反斜槓否認斜槓做爲正則表達式定界符的一般含義。要將反斜槓自己指定爲字符，則使用雙反斜槓。有關反斜槓及其使用的更多信息，請參閱如下關於轉義序列的內容。

舉例：把一個文件裏面全部包含 abc 的行裏面的 abc 替換成 def，而後輸出第一列和第三列

?

1	awk  '$0 ~ /abc/ {gsub("abc", "def", $0); print $1, $3}' abc.txt