{ 撰文/bones7456 }linux
sed 和 awk 都是 Linux 下經常使用的流編輯器，他們各有各的特點，本文並非要作什麼對比，而是權當好玩，把《SED 單行腳本快速參考》這文章，用 awk 作了一遍~ 至於孰好孰壞，那真是很難評論了。通常來講，sed 的命令會更短小一些，同時也更難讀懂；而 awk 稍微長點，可是 if、while 這樣的，邏輯性比較強，更加像「程序」。到底喜歡用哪一個，就讓各位看官本身決定吧！正則表達式
文本間隔：shell
# 在每一行後面增長一空行緩存
sed G
awk '{printf("%s\n\n",$0)}'
# 將原來的全部空行刪除並在每一行後面增長一空行。
# 這樣在輸出的文本中每一行後面將有且只有一空行。ruby
sed '/^$/d;G'
awk '!/^$/{printf("%s\n\n",$0)}'
# 在每一行後面增長兩行空行bash
sed 'G;G'
awk '{printf("%s\n\n\n",$0)}'
# 將第一個腳本所產生的全部空行刪除（即刪除全部偶數行）編輯器
sed 'n;d'
awk '{f=!f;if(f)print $0}'
# 在匹配式樣「regex」的行以前插入一空行post
sed '/regex/{x;p;x;}'
awk '{if(/regex/)printf("\n%s\n",$0);else print $0}'
# 在匹配式樣「regex」的行以後插入一空行this
sed '/regex/G'
awk '{if(/regex/)printf("%s\n\n",$0);else print $0}'
# 在匹配式樣「regex」的行以前和以後各插入一空行
sed '/regex/{x;p;x;G;}'
awk '{if(/regex/)printf("\n%s\n\n",$0);else print $0}'
編號：
# 爲文件中的每一行進行編號（簡單的左對齊方式）。這裏使用了「製表符」
# （tab，見本文末尾關於’\t’的用法的描述）而不是空格來對齊邊緣。
sed = filename | sed 'N;s/\n/\t/'
awk '{i++;printf("%d\t%s\n",i,$0)}'
# 對文件中的全部行編號（行號在左，文字右端對齊）。
sed = filename | sed 'N; s/^/ /; s/ *\(.\{6,\}\)\n/\1 /'
awk '{i++;printf("%6d %s\n",i,$0)}'
# 對文件中的全部行編號，但只顯示非空白行的行號。
sed '/./=' filename | sed '/./N; s/\n/ /'
awk '{i++;if(!/^$/)printf("%d %s\n",i,$0);else print}'
# 計算行數 （模擬 「wc -l」）
sed -n '$='
awk '{i++}END{print i}'
文本轉換和替代：
# Unix環境：轉換DOS的新行符（CR/LF）爲Unix格式。
sed 's/.$//' # 假設全部行以CR/LF結束
sed 's/^M$//' # 在bash/tcsh中，將按Ctrl-M改成按Ctrl-V
sed 's/\x0D$//' # ssed、gsed 3.02.80，及更高版本
awk '{sub(/\x0D$/,"");print $0}'
# Unix環境：轉換Unix的新行符（LF）爲DOS格式。
sed "s/$/`echo -e \\\r`/" # 在ksh下所使用的命令
sed 's/$'"/`echo \\\r`/" # 在bash下所使用的命令
sed "s/$/`echo \\\r`/" # 在zsh下所使用的命令
sed 's/$/\r/' # gsed 3.02.80 及更高版本
awk '{printf("%s\r\n",$0)}'
# DOS環境：轉換Unix新行符（LF）爲DOS格式。
sed "s/$//" # 方法 1 sed -n p # 方法 2
DOS環境的略過
# DOS環境：轉換DOS新行符（CR/LF）爲Unix格式。
# 下面的腳本只對UnxUtils sed 4.0.7 及更高版本有效。要識別UnxUtils版本的
# sed能夠經過其特有的「–text」選項。你可使用幫助選項（「–help」）看
# 其中有無一個「–text」項以此來判斷所使用的是不是UnxUtils版本。其它DOS
# 版本的的sed則沒法進行這一轉換。但能夠用「tr」來實現這一轉換。
sed "s/\r//" infile >outfile # UnxUtils sed v4.0.7 或更高版本 tr -d \r <infile >outfile # GNU tr 1.22 或更高版本
DOS環境的略過
# 將每一行前導的「空白字符」（空格，製表符）刪除
# 使之左對齊
sed 's/^[ \t]*//' # 見本文末尾關於'\t'用法的描述
awk '{sub(/^[ \t]+/,"");print $0}'
# 將每一行拖尾的「空白字符」（空格，製表符）刪除
sed 's/[ \t]*$//' # 見本文末尾關於'\t'用法的描述
awk '{sub(/[ \t]+$/,"");print $0}'
# 將每一行中的前導和拖尾的空白字符刪除
sed 's/^[ \t]*//;s/[ \t]*$//'
awk '{sub(/^[ \t]+/,"");sub(/[ \t]+$/,"");print $0}'
# 在每一行開頭處插入5個空格（使全文向右移動5個字符的位置）
sed 's/^/ /'
awk '{printf(" %s\n",$0)}'
# 以79個字符爲寬度，將全部文本右對齊
# 78個字符外加最後的一個空格
sed -e :a -e 's/^.\{1,78\}$/ &/;ta'
awk '{printf("%79s\n",$0)}'
# 以79個字符爲寬度，使全部文本居中。在方法1中，爲了讓文本居中每一行的前
# 頭和後頭都填充了空格。 在方法2中，在居中文本的過程當中只在文本的前面填充
# 空格，而且最終這些空格將有一半會被刪除。此外每一行的後頭並未填充空格。
sed -e :a -e 's/^.\{1,77\}$/ & /;ta' # 方法1
sed -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/' # 方法2
awk '{for(i=0;i<39-length($0)/2;i++)printf(" ");printf("%s\n",$0)}' #至關於上面的方法二
# 在每一行中查找字串「foo」，並將找到的「foo」替換爲「bar」
sed 's/foo/bar/' # 只替換每一行中的第一個「foo」字串
sed 's/foo/bar/4' # 只替換每一行中的第四個「foo」字串
sed 's/foo/bar/g' # 將每一行中的全部「foo」都換成「bar」
sed 's/\(.*\)foo\(.*foo\)/\1bar\2/' # 替換倒數第二個「foo」
sed 's/\(.*\)foo/\1bar/' # 替換最後一個「foo」
awk '{gsub(/foo/,"bar");print $0}' # 將每一行中的全部「foo」都換成「bar」
# 只在行中出現字串「baz」的狀況下將「foo」替換成「bar」
sed '/baz/s/foo/bar/g'
awk '{if(/baz/)gsub(/foo/,"bar");print $0}'
# 將「foo」替換成「bar」，而且只在行中未出現字串「baz」的狀況下替換
sed '/baz/!s/foo/bar/g'
awk '{if(/baz$/)gsub(/foo/,"bar");print $0}'
# 不論是「scarlet」「ruby」仍是「puce」，一概換成「red」
sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g' #對多數的sed都有效
gsed 's/scarlet\|ruby\|puce/red/g' # 只對GNU sed有效
awk '{gsub(/scarlet|ruby|puce/,"red");print $0}'
# 倒置全部行，第一行成爲最後一行，依次類推（模擬「tac」）。
# 因爲某些緣由，使用下面命令時HHsed v1.5會將文件中的空行刪除
sed '1!G;h;$!d' # 方法1
sed -n '1!G;h;$p' # 方法2
awk '{A[i++]=$0}END{for(j=i-1;j>=0;j--)print A[j]}'
# 將行中的字符逆序排列，第一個字成爲最後一字，……（模擬「rev」）
sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'
awk '{for(i=length($0);i>0;i--)printf("%s",substr($0,i,1));printf("\n")}'
# 將每兩行鏈接成一行（相似「paste」）
sed '$!N;s/\n/ /'
awk '{f=!f;if(f)printf("%s",$0);else printf(" %s\n",$0)}'
# 若是當前行以反斜槓「\」結束，則將下一行併到當前行末尾
# 並去掉原來行尾的反斜槓
sed -e :a -e '/\\$/N; s/\\\n//; ta'
awk '{if(/\\$/)printf("%s",substr($0,0,length($0)-1));else printf("%s\n",$0)}'
# 若是當前行以等號開頭，將當前行併到上一行末尾
# 並以單個空格代替原來行頭的「=」
sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'
awk '{if(/^=/)printf(" %s",substr($0,2));else printf("%s%s",a,$0);a="\n"}END{printf("\n")}'
# 爲數字字串增長逗號分隔符號，將「1234567」改成「1,234,567」
gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta' # GNU sed
sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta' # 其餘sed
#awk的正則沒有後向匹配和引用，搞的比較狼狽，呵呵。
awk '{while(match($0,/[0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'
# 爲帶有小數點和負號的數值增長逗號分隔符（GNU sed）
gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'
#和上例差很少
awk '{while(match($0,/[^\.0-9][0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'
# 在每5行後增長一空白行 （在第5，10，15，20，等行後增長一空白行）
gsed '0~5G' # 只對GNU sed有效
sed 'n;n;n;n;G;' # 其餘sed
awk '{print $0;i++;if(i==5){printf("\n");i=0}}'
選擇性地顯示特定行：
# 顯示文件中的前10行 （模擬「head」的行爲）
sed 10q
awk '{print;if(NR==10)exit}'
# 顯示文件中的第一行 （模擬「head -1」命令）
sed q
awk '{print;exit}'
# 顯示文件中的最後10行 （模擬「tail」）
sed -e :a -e '$q;N;11,$D;ba'
#用awk幹這個有點虧，得全文緩存，對於大文件確定很慢
awk '{A[NR]=$0}END{for(i=NR-9;i<=NR;i++)print A[i]}'
# 顯示文件中的最後2行（模擬「tail -2」命令）
sed '$!N;$!D'
awk '{A[NR]=$0}END{for(i=NR-1;i<=NR;i++)print A[i]}'
# 顯示文件中的最後一行（模擬「tail -1」）
sed '$!d' # 方法1 sed -n '$p' # 方法2
#這個比較好辦，只存最後一行了。
awk '{A=$0}END{print A}'
# 顯示文件中的倒數第二行
sed -e '$!{h;d;}' -e x # 當文件中只有一行時，輸出空行
sed -e '1{$q;}' -e '$!{h;d;}' -e x # 當文件中只有一行時，顯示該行
sed -e '1{$d;}' -e '$!{h;d;}' -e x # 當文件中只有一行時，不輸出
#存兩行唄（當文件中只有一行時，輸出空行）
awk '{B=A;A=$0}END{print B}'
# 只顯示匹配正則表達式的行（模擬「grep」）
sed -n '/regexp/p' # 方法1
sed '/regexp/!d' # 方法2
awk '/regexp/{print}'
# 只顯示「不」匹配正則表達式的行（模擬「grep -v」）
sed -n '/regexp/!p' # 方法1，與前面的命令相對應
sed '/regexp/d' # 方法2，相似的語法
awk '!/regexp/{print}'
# 查找「regexp」並將匹配行的上一行顯示出來，但並不顯示匹配行
sed -n '/regexp/{g;1!p;};h'
awk '/regexp/{print A}{A=$0}'
# 查找「regexp」並將匹配行的下一行顯示出來，但並不顯示匹配行
sed -n '/regexp/{n;p;}'
awk '{if(A)print;A=0}/regexp/{A=1}'
# 顯示包含「regexp」的行及其先後行，並在第一行以前加上「regexp」所在行的行號 （相似「grep -A1 -B1」）
sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h
awk '{if(F)print;F=0}/regexp/{print NR;print b;print;F=1}{b=$0}'
# 顯示包含「AAA」、「BBB」和「CCC」的行（任意次序）
sed '/AAA/!d; /BBB/!d; /CCC/!d' # 字串的次序不影響結果
awk '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'
# 顯示包含「AAA」、「BBB」和「CCC」的行（固定次序）
sed '/AAA.*BBB.*CCC/!d'
awk '{if(match($0,/AAA.*BBB.*CCC/))print}'
# 顯示包含「AAA」「BBB」或「CCC」的行 （模擬「egrep」）
sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d # 多數sed
gsed '/AAA\|BBB\|CCC/!d' # 對GNU sed有效
awk '/AAA/{print;next}/BBB/{print;next}/CCC/{print}'
awk '/AAA|BBB|CCC/{print}'
# 顯示包含「AAA」的段落 （段落間以空行分隔）
# HHsed v1.5 必須在「x;」後加入「G;」，接下來的3個腳本都是這樣
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'
awk 'BEGIN{RS=""}/AAA/{print}'
awk -vRS= '/AAA/{print}'
# 顯示包含「AAA」「BBB」和「CCC」三個字串的段落 （任意次序）
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'
awk -vRS= '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'
# 顯示包含「AAA」、「BBB」、「CCC」三者中任一字串的段落 （任意次序）
sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d' # 只對GNU sed有效
awk -vRS= '/AAA|BBB|CCC/{print "";print}'
# 顯示包含65個或以上字符的行
sed -n '/^.\{65\}/p'
cat ll.txt | awk '{if(length($0)>=65)print}'
# 顯示包含65個如下字符的行
sed -n '/^.\{65\}/!p' # 方法1，與上面的腳本相對應
sed '/^.\{65\}/d' # 方法2，更簡便一點的方法
awk '{if(length($0)<=65)print}'
# 顯示部分文本——從包含正則表達式的行開始到最後一行結束
sed -n '/regexp/,$p'
awk '/regexp/{F=1}{if(F)print}'
# 顯示部分文本——指定行號範圍（從第8至第12行，含8和12行）
sed -n '8,12p' # 方法1
sed '8,12!d' # 方法2
awk '{if(NR>=8 && NR<12)print}'
# 顯示第52行
sed -n '52p' # 方法1
sed '52!d' # 方法2
sed '52q;d' # 方法3, 處理大文件時更有效率
awk '{if(NR==52){print;exit}}'
# 從第3行開始，每7行顯示一次
gsed -n '3~7p' # 只對GNU sed有效
sed -n '3,${p;n;n;n;n;n;n;}' # 其餘sed
awk '{if(NR==3)F=1}{if(F){i++;if(i%7==1)print}}'
# 顯示兩個正則表達式之間的文本（包含）
sed -n '/Iowa/,/Montana/p' # 區分大小寫方式
awk '/Iowa/{F=1}{if(F)print}/Montana/{F=0}'
選擇性地刪除特定行：
# 顯示通篇文檔，除了兩個正則表達式之間的內容
sed '/Iowa/,/Montana/d'
awk '/Iowa/{F=1}{if(!F)print}/Montana/{F=0}'
# 刪除文件中相鄰的重複行（模擬「uniq」）
# 只保留重複行中的第一行，其餘行刪除
sed '$!N; /^\(.*\)\n\1$/!P; D'
awk '{if($0!=B)print;B=$0}'
# 刪除文件中的重複行，無論有無相鄰。注意hold space所能支持的緩存大小，或者使用GNU sed。
sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P' #bones7456注：我這裏此命令並不能正常工做
awk '{if(!($0 in B))print;B[$0]=1}'
# 刪除除重複行外的全部行（模擬「uniq -d」）
sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'
awk '{if($0==B && $0!=l){print;l=$0}B=$0}'
# 刪除文件中開頭的10行
sed '1,10d'
awk '{if(NR>10)print}'
# 刪除文件中的最後一行
sed '$d'
#awk在過程當中並不知道文件一共有幾行，因此只能通篇緩存，大文件可能不適合，下面兩個也同樣
awk '{B[NR]=$0}END{for(i=0;i<=NR-1;i++)print B[i]}'
# 刪除文件中的最後兩行
sed 'N;$!P;$!D;$d'
awk '{B[NR]=$0}END{for(i=0;i<=NR-2;i++)print B[i]}'
# 刪除文件中的最後10行
sed -e :a -e '$d;N;2,10ba' -e 'P;D' # 方法1
sed -n -e :a -e '1,10!{P;N;D;};N;ba' # 方法2
awk '{B[NR]=$0}END{for(i=0;i<=NR-10;i++)print B[i]}'
# 刪除8的倍數行
gsed '0~8d' # 只對GNU sed有效
sed 'n;n;n;n;n;n;n;d;' # 其餘sed
awk '{if(NR%8!=0)print}' |head
# 刪除匹配式樣的行
sed '/pattern/d' # 刪除含pattern的行。固然pattern能夠換成任何有效的正則表達式
awk '{if(!match($0,/pattern/))print}'
# 刪除文件中的全部空行（與「grep ‘.’ 」效果相同）
sed '/^$/d' # 方法1
sed '/./!d' # 方法2
awk '{if(!match($0,/^$/))print}'
# 只保留多個相鄰空行的第一行。而且刪除文件頂部和尾部的空行。
# （模擬「cat -s」）
sed '/./,/^$/!d' #方法1，刪除文件頂部的空行，容許尾部保留一空行
sed '/^$/N;/\n$/D' #方法2，容許頂部保留一空行，尾部不留空行
awk '{if(!match($0,/^$/)){print;F=1}else{if(F)print;F=0}}' #同上面的方法2
# 只保留多個相鄰空行的前兩行。
sed '/^$/N;/\n$/N;//D'
awk '{if(!match($0,/^$/)){print;F=0}else{if(F<2)print;F++}}'
# 刪除文件頂部的全部空行
sed '/./,$!d'
awk '{if(F || !match($0,/^$/)){print;F=1}}'
# 刪除文件尾部的全部空行
sed -e :a -e '/^\n*$/{$d;N;ba' -e '}' # 對全部sed有效
sed -e :a -e '/^\n*$/N;/\n$/ba' # 同上，但只對 gsed 3.02.*有效
awk '/^.+$/{for(i=l;i<NR-1;i++)print "";print;l=NR}'
# 刪除每一個段落的最後一行
sed -n '/^$/{p;h;};/./{x;/./p;}'
#很長，很ugly，應該有更好的辦法
awk -vRS= '{B=$0;l=0;f=1;while(match(B,/\n/)>0){print substr(B,l,RSTART-l-f);l=RSTART;sub(/\n/,"",B);f=0};print ""}'
特殊應用：
# 移除手冊頁（man page）中的nroff標記。在Unix System V或bash shell下使
# 用’echo’命令時可能須要加上 -e 選項。
sed "s/.`echo \\\b`//g" # 外層的雙括號是必須的（Unix環境）
sed 's/.^H//g' # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H
sed 's/.\x08//g' # sed 1.5，GNU sed，ssed所使用的十六進制的表示方法
awk '{gsub(/.\x08/,"",$0);print}'
# 提取新聞組或 e-mail 的郵件頭
sed '/^$/q' # 刪除第一行空行後的全部內容
awk '{print}/^$/{exit}'
# 提取新聞組或 e-mail 的正文部分
sed '1,/^$/d' # 刪除第一行空行以前的全部內容
awk '{if(F)print}/^$/{F=1}'
# 從郵件頭提取「Subject」（標題欄字段），並移除開頭的「Subject:」字樣
sed '/^Subject: */!d; s///;q'
awk '/^Subject:.*/{print substr($0,10)}/^$/{exit}'
# 從郵件頭得到回覆地址
sed '/^Reply-To:/q; /^From:/h; /./d;g;q'
#好像是輸出第一個Reply-To:開頭的行？From是幹啥用的？不清楚規則。。
awk '/^Reply-To:.*/{print;exit}/^$/{exit}'
# 獲取郵件地址。在上一個腳本所產生的那一行郵件頭的基礎上進一步的將非電郵地址的部分剃除。（見上一腳本）
sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'
#取尖括號裏的東西吧？
awk -F'[<>]+' '{print $2}'
# 在每一行開頭加上一個尖括號和空格（引用信息）
sed 's/^/> /'
awk '{print "> " $0}'
# 將每一行開頭處的尖括號和空格刪除（解除引用）
sed 's/^> //'
awk '/^> /{print substr($0,3)}'
# 移除大部分的HTML標籤（包括跨行標籤）
sed -e :a -e 's/<[^>]*>//g;/</N;//ba'
awk '{gsub(/<[^>]*>/,"",$0);print}'
# 將分紅多卷的uuencode文件解碼。移除文件頭信息，只保留uuencode編碼部分。
# 文件必須以特定順序傳給sed。下面第一種版本的腳本能夠直接在命令行下輸入；
# 第二種版本則能夠放入一個帶執行權限的shell腳本中。（由Rahul Dhesi的一
# 個腳本修改而來。）
sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode # vers. 1 sed '/^end/,/^begin/d' "$@" | uudecode # vers. 2
#我不想裝個uudecode驗證，大體寫個吧
awk '/^end/{F=0}{if(F)print}/^begin/{F=1}' file1 file2 ... fileX
# 將文件中的段落以字母順序排序。段落間以（一行或多行）空行分隔。GNU sed使用
# 字元「\v」來表示垂直製表符，這裏用它來做爲換行符的佔位符——固然你也能夠
# 用其餘未在文件中使用的字符來代替它。
sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g'
gsed '/./{H;d};x;y/\n/\v/' file | sort | sed '1s/\v//;y/\v/\n/'
awk -vRS= '{gsub(/\n/,"\v",$0);print}' ll.txt | sort | awk '{gsub(/\v/,"\n",$0);print;print ""}'
# 分別壓縮每一個.TXT文件，壓縮後刪除原來的文件並將壓縮後的.ZIP文件
# 命名爲與原來相同的名字（只是擴展名不一樣）。（DOS環境：「dir /b」
# 顯示不帶路徑的文件名）。
echo @echo off >zipup.bat dir /b *.txt | sed "s/^\(.*\)\.TXT/pkzip -mo \1 \1.TXT/" >>zipup.bat
DOS 環境再次略過，並且我以爲這裏用 bash 的參數 ${i%.TXT}.zip 替換更帥。
下面的一些 SED 說明略過，須要的朋友自行查看原文。
{ Source. Thanks bones7456. }
Read More:
- » No related posts