linux awk命令詳解

簡介linux

awk是一個強大的文本分析工具,相對於grep的查找,sed的編輯,awk在其對數據分析並生成報告時,顯得尤其強大。簡單來講awk就是把文件逐行的讀入,以空格爲默認分隔符將每行切片,切開的部分再進行各類分析處理。正則表達式

awk3個不一樣版本: awknawkgawk,未做特別說明,通常指gawkgawk AWK GNU 版本。shell

awk其名稱得自於它的創始人 Alfred Aho Peter Weinberger Brian Kernighan 姓氏的首個字母。實際上 AWK 的確擁有本身的語言: AWK 程序設計語言 三位建立者已將它正式定義爲「樣式掃描和處理語言」。它容許您建立簡短的程序,這些程序讀取輸入文件、爲數據排序、處理數據、對輸入執行計算以及生成報 表,還有無數其餘的功能。express

 

使用方法編程

awk '{pattern + action}' {filenames}數組

儘管操做可能會很複雜,但語法老是這樣,其中 pattern 表示 AWK 在數據中查找的內容,而 action 是在找到匹配內容時所執行的一系列命令。花括號({})不須要在程序中始終出現,但它們用於根據特定的模式對一系列指令進行分組。 pattern就是要表示的正則表達式,用斜槓括起來。bash

awk語言的最基本功能是在文件或者字符串中基於指定規則瀏覽和抽取信息,awk抽取信息後,才能進行其餘文本操做。完整的awk腳本一般用來格式化文本文件中的信息。運維

一般,awk是以文件的一行爲處理單位的。awk每接收文件的一行,而後執行相應的命令,來處理文本。函數

 

調用awk工具

有三種方式調用awk

 

1.命令行方式 awk [-F  field-separator] 'commands' input-file(s)

其中,commands 是真正awk命令,[-F域分隔符]是可選的。 input-file(s) 是待處理的文件。

awk中,文件的每一行中,由域分隔符分開的每一項稱爲一個域。一般,在不指名-F域分隔符的狀況下,默認的域分隔符是空格。 2.shell腳本方式

將全部的awk命令插入一個文件,並使awk程序可執行,而後awk命令解釋器做爲腳本的首行,一遍經過鍵入腳本名稱來調用。

至關於shell腳本首行的:#!/bin/sh 能夠換成:#!/bin/awk 3.將全部的awk命令插入一個單獨文件,而後調用: awk -f awk-script-file input-file(s)

其中,-f選項加載awk-script-file中的awk腳本,input-file(s)跟上面的是同樣的。

 

 本章重點介紹命令行方式。

 

入門實例

假設last -n 5的輸出以下

[root@www ~]# last -n 5 <==僅取出前五行

root     pts/1 192.168.1.100 Tue Feb 10 11:21 still logged in root     pts/1 192.168.1.100 Tue Feb 10 00:46 - 02:28 (01:41)

root     pts/1 192.168.1.100 Mon Feb 9 11:41 - 18:30 (06:48)

dmtsai   pts/1 192.168.1.100 Mon Feb 9 11:41 - 11:41 (00:00)

root     tty1                   Fri Sep 5 14:09 - 14:10 (00:01)

若是隻是顯示最近登陸的5個賬號

#last -n 5 | awk '{print $1}'

root

root

root

dmtsai

root

awk工做流程是這樣的:讀入有'\n'換行符分割的一條記錄,而後將記錄按指定的域分隔符劃分域,填充域,$0則表示全部域,$1表示第一個域,$n表示第n個域。默認域分隔符是"空白鍵" "[tab]",因此$1表示登陸用戶,$3表示登陸用戶ip,以此類推。

 

若是隻是顯示/etc/passwd的帳戶

#cat /etc/passwd |awk -F ':' '{print $1}' root

daemon

bin

sys

這種是awk+action的示例,每行都會執行action{print $1}

-F指定域分隔符爲':'

 

若是隻是顯示/etc/passwd的帳戶和帳戶對應的shell,而帳戶與shell之間以tab鍵分割

#cat /etc/passwd |awk -F ':' '{print $1"\t"$7}' root /bin/bash

daemon /bin/sh bin /bin/sh sys /bin/sh

 

若是隻是顯示/etc/passwd的帳戶和帳戶對應的shell,而帳戶與shell之間以逗號分割,並且在全部行添加列名name,shell,在最後一行添加"blue,/bin/nosh"

 

cat /etc/passwd |awk -F ':' 'BEGIN {print "name,shell"}  {print $1","$7} END {print "blue,/bin/nosh"}' name,shell

root,/bin/bash

daemon,/bin/sh bin,/bin/sh sys,/bin/sh ....

blue,/bin/nosh

 

awk工做流程是這樣的:先執行BEGING,而後讀取文件,讀入有/n換行符分割的一條記錄,而後將記錄按指定的域分隔符劃分域,填充域,$0則表示全部域,$1表示第一個域,$n表示第n個域,隨後開始執行模式所對應的動做action。接着開始讀入第二條記錄······直到全部的記錄都讀完,最後執行END操做。

 

搜索/etc/passwdroot關鍵字的全部行

#awk -F: '/root/' /etc/passwd root:x:0:0:root:/root:/bin/bash

這種是pattern的使用示例,匹配了pattern(這裏是root)的行纔會執行action(沒有指定action,默認輸出每行的內容)

搜索支持正則,例如找root開頭的: awk -F: '/^root/' /etc/passwd

 

搜索/etc/passwdroot關鍵字的全部行,並顯示對應的shell

# awk -F: '/root/{print $7}' /etc/passwd /bin/bash

 這裏指定了action{print $7}

 

awk內置變量

awk有許多內置變量用來設置環境信息,這些變量能夠被改變,下面給出了最經常使用的一些變量。

 

ARGC               命令行參數個數

ARGV               命令行參數排列

ENVIRON            支持隊列中系統環境變量的使用

FILENAME           awk瀏覽的文件名

FNR                瀏覽文件的記錄數

FS                 設置輸入域分隔符,等價於命令行 -F選項

NF                 瀏覽記錄的域的個數

NR                 已讀的記錄數

OFS                輸出域分隔符

ORS                輸出記錄分隔符

RS                 控制記錄分隔符

 

 此外,$0變量是指整條記錄。$1表示當前行的第一個域,$2表示當前行的第二個域,......以此類推。

 

統計/etc/passwd:文件名,每行的行號,每行的列數,對應的完整行內容:

#awk -F ':' '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd filename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash

filename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/sh filename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/sh filename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh

 

使用printf替代print,可讓代碼更加簡潔,易讀

 awk -F ':' '{printf("filename:%10s,linenumber:%s,columns:%s,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd

 

printprintf

awk中同時提供了printprintf兩種打印輸出的函數。

其中print函數的參數能夠是變量、數值或者字符串。字符串必須用雙引號引用,參數用逗號分隔。若是沒有逗號,參數就串聯在一塊兒而沒法區分。這裏,逗號的做用與輸出文件的分隔符的做用是同樣的,只是後者是空格而已。

printf函數,其用法和c語言中printf基本類似,能夠格式化字符串,輸出複雜時,printf更加好用,代碼更易懂。

 

 awk編程

 變量和賦值

除了awk的內置變量,awk還能夠自定義變量。

下面統計/etc/passwd的帳戶人數

awk '{count++;print $0;} END{print "user count is ", count}' /etc/passwd root:x:0:0:root:/root:/bin/bash

......

user count is  40

count是自定義變量。以前的action{}裏都是隻有一個print,其實print只是一個語句,而action{}能夠有多個語句,以;號隔開。

 

這裏沒有初始化count,雖然默認是0,可是穩當的作法仍是初始化爲0:

awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ", count}' /etc/passwd [start]user count is 0 root:x:0:0:root:/root:/bin/bash

...

[end]user count is 40

 

統計某個文件夾下的文件佔用的字節數

ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size}'

[end]size is  8657198

 

若是以M爲單位顯示:

ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size/1024/1024,"M"}' [end]size is  8.25889 M

注意,統計不包括文件夾的子目錄。

 

條件語句

 awk中的條件語句是從C語言中借鑑來的,見以下聲明方式:

 

if (expression) {

    statement;

    statement;

    ... ...

} if (expression) {

    statement;

} else {

    statement2;

} if (expression) {

    statement1;

} else if (expression1) {

    statement2;

} else {

    statement3;

}

 

 

統計某個文件夾下的文件佔用的字節數,過濾4096大小的文件(通常都是文件夾):

ls -l |awk 'BEGIN {size=0;print "[start]size is ", size} {if($5!=4096){size=size+$5;}} END{print "[end]size is ", size/1024/1024,"M"}' [end]size is  8.22339 M

 

循環語句

awk中的循環語句一樣借鑑於C語言,支持whiledo/whileforbreakcontinue,這些關鍵字的語義和C語言中的語義徹底相同。

 

數組

  由於awk中數組的下標能夠是數字和字母,數組的下標一般被稱爲關鍵字(key)。值和關鍵字都存儲在內部的一張針對key/value應用hash的表 格里。因爲hash不是順序存儲,所以在顯示數組內容時會發現,它們並非按照你預料的順序顯示出來的。數組和變量同樣,都是在使用時自動建立的,awk 也一樣會自動判斷其存儲的是數字仍是字符串。通常而言,awk中的數組用來從記錄中收集信息,能夠用於計算總和、統計單詞以及跟蹤模板被匹配的次數等等。

 

顯示/etc/passwd的帳戶

 

awk -F ':' 'BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}' /etc/passwd 0 root 1 daemon 2 bin 3 sys 4 sync 5 games

......

 

這裏使用for循環遍歷數組

免費領取兄弟連IT教育原創linux運維工程師視頻/細說linux教程,詳情諮詢官網客服:http://www.lampbrother.net/linux/

學PHP、Linux、HTML五、UI、Android等視頻教程(課件+筆記+視頻)!聯繫Q2430675018

         Linux交流羣歡迎各位加入 羣號:478068715

相關文章
相關標籤/搜索