Linux生產環境上,最經常使用的一套「Sed「技巧

最有用系列:java

《Linux生產環境上,最經常使用的一套「vim「技巧》python

《Linux生產環境上,最經常使用的一套「Sed「技巧》git

《Linux生產環境上,最經常使用的一套「AWK「技巧》程序員

《"Sed" 高級功能:我這小腦瓜都快繞暈了》github

sed命令應用普遍,使用簡單,是快速文本處理的利器。它其實沒多少技巧,背誦、使用是最合適的學習渠道,屬於硬 技能。但它又很複雜,由於高級功能太多。本篇不去關注sed的高級功能,僅對經常使用的一些操做,進行說明。正則表達式

隨着使用,你會發現它和vim的一些理念是想通的,正則表達式的語法也基本上同樣,並無多少學習成本。從我的視野和工做效率上來看,sed命令都是程序員必須掌握的一個重要工具。vim

這裏有篇更高級的:《"Sed" 高級功能:你須要一我的肉狀態機》api

那些說能夠現場google用法的,大多習慣將文本拷貝到excel裏,慢慢磨洋工,遇到大批量文件更是手忙腳亂。不是一家人不進一家門,本文不是爲你寫的。bash

一個簡單的入門

如圖,一個簡單的sed命令包含三個主要部分: 參數範圍操做。要操做的文件,能夠直接掛在命令行的最後。除了命令行,sed也能夠經過-f參數指定一個sed腳本,這個屬於高級用法,不作過多描述。

有些示例命令我會重複屢次,聰明如你必定能發現其中規律,有時連解釋都用不着。網絡

參數

-n 這個參數是--quiet或者--silent的意思。代表忽略執行過程的輸出,只輸出咱們的結果便可。

咱們經常使用的還有另一個參數 :-i

使用此參數後,全部改動將在原文件上執行。你的輸出將覆蓋原文件。很是危險,必定要注意。

範圍

1,4 表示找到文件中1,2,3,4行的內容。 這個範圍的指定頗有靈性,請看如下示例(請自行替換圖中的範圍部分)。

5 選擇第5行。

2,5 選擇2到5行,共4行。

1~2 選擇奇數行。

2~2 選擇偶數行。

2,+32,5的效果是同樣的,共4行。

2,$ 從第二行到文件結尾。

範圍的選擇還可使用正則匹配。請看下面示例。

/sys/,+3 選擇出現sys字樣的行,以及後面的三行。

/^sys/,/mem/ 選擇以sys開頭的行,和出現mem字樣行之間的數據。

爲了直觀,下面的命令一一對應上面的介紹,範圍和操做之間是能夠有空格的。

sed -n '5p' file
sed -n '2,5 p' file
sed -n '1~2 p' file
sed -n '2~2 p' file
sed -n '2,+3p' file
sed -n '2,$ p' file

sed -n '/sys/,+3 p' file
sed -n '/^sys/,/mem/p' file
複製代碼

操做

最經常使用的操做就是p,意思就是打印。好比,如下兩個命令就是等同的:

cat file 
sed -n 'p' file
複製代碼

除了打印,還有如下操做,咱們來講經常使用的。

p 對匹配內容進行打印。

d 對匹配內容進行刪除。這個時候就要去掉-n參數了,想一想爲何。

w 將匹配內容寫入到其餘地方。

a,i,c等操做雖基本但使用少,不作介紹。咱們依然拿一些命令來講明。

sed -n '2,5 p' file
sed    '2,5 d' file
sed -n '2,5 w output.txt' file
複製代碼

替換模式

以上是sed命令的經常使用匹配模式,但它還有一個強大的替換模式,意思就是查找替換其中的某些值,並輸出結果。使用替換模式不多使用-n參數。

替換模式的參數有點多,但第一部分和第五部分都是能夠省略的。替換後會將 整個文本輸出出來。

前半部分用來匹配一些範圍,然後半部分執行替換的動做。

範圍

這個範圍和上面的範圍語法相似。看下面的例子。

/sys/,+3 選擇出現sys字樣的行,以及後面的三行。

/^sys/,/mem/ 選擇以sys開頭的行,和出現mem字樣行之間的數據。

具體命令爲:

sed '/sys/,+3 s/a/b/g' file
sed '/^sys/,/mem/s/a/b/g' file 
複製代碼

命令

這裏的命令是指s。也就是substitute的意思。

查找匹配

查找部分會找到要被替換的字符串。這部分能夠接受純粹的字符串,也能夠接受正則表達式。看下面的例子。

a 查找範圍行中的字符串a

[a,b,c] 從範圍行裏查找字符串a或者b或者c。

命令相似:

sed 's/a/b/g' file
sed 's/[a,b,c]/<&>/g' file
#這個命令咱們下面解釋
複製代碼

替換

是時候把找出的字符串給替換掉了。本部分的內容將替換查找匹配部分找到的內容。

惋惜的是,這部分不能使用正則。經常使用的就是精確替換。好比把a替換成b。

但也有高級功能。和java或者python的正則api相似,sed的替換一樣有Matched Pattern的含義,一樣能夠獲得Group,不深究。經常使用的替位符,就是&

**&**號,再重複一遍。當它用在替換字符串中的時候,表明的是原始的查找匹配數據。

[&] 代表將查找到的數據使用[]包圍起來。

"&" 代表將查找的數據使用""包圍起來。

下面這條命令,將會把文件中的每一行,使用引號包圍起來。

sed 's/.*/"&"/' file
複製代碼

flag 參數

這些參數能夠單個使用,也可使用多個,僅介紹最經常使用的。

g 默認只匹配行中第一次出現的內容,加上g,就能夠全文替換了。經常使用。

p 當使用了-n參數,p將僅輸出匹配行內容。

w 和上面的w模式相似,可是它僅僅輸出有變換的行。

i 這個參數比較重要,表示忽略大小寫。

e 表示將輸出的每一行,執行一個命令。不建議使用,可使用xargs配合完成這種功能。

看兩個命令的語法:

sed -n 's/a/b/gipw output.txt' file
sed 's/^/ls -la/e' file
複製代碼

好玩

因爲正則的關係,不少字符須要轉義。你會在腳本里作些不少\\\*之類的處理。你可使用|^@!四個字符來替換\。 好比,下面五個命令是同樣的。

sed '/aaa/s/\/etc/\/usr/g' file
sed '/aaa/s@/etc@/usr@g' file
sed '/aaa/s^/etc^/usr^g' file
sed '/aaa/s|/etc|/usr|g' file
sed '/aaa/s!/etc!/usr!g' file
複製代碼

注意:前半部分的範圍是不能使用這種方式的。我習慣使用符號@

其餘

正則表達式

能夠看到,正則表達式在命令行中無處不在。如下,緊作簡要說明。

^ 行首

$ 行尾

. 單個字符

* 0個或者多個匹配

+ 1個或者多個匹配

? 0個或者1個匹配

{m} 前面的匹配重複m次

{m,n} 前面的匹配重複m到n次

\ 轉義字符

[0-9] 匹配括號中的任何一個字符,or的做用 | or,或者

\b 匹配一個單詞。好比\blucky\b 只匹配單詞lucky

參數i

上面已經簡單介紹了參數i,它的做用是讓操做在原文件執行。不管你執行了啥,原始文件都將會被覆蓋。這是很是危險的。 經過加入一個參數,能夠將原文件作個備份。

sed -i.bak 's/a/b/' file
複製代碼

以上命令會對原file文件生效,並生成一個file.bak文件。強烈建議使用i參數同時指定bak文件。

表演一下

咱們經過兩個命令,來稍微看下sed和其餘命令組合起來的威力。

輸出長度不小於50個字符的行

sed -n '/^.{50}/p'
複製代碼

統計文件中有每一個單詞出現了多少次

sed 's/ /\n/g' file | sort | uniq -c
複製代碼

查找目錄中的py文件,刪掉全部行級註釋

find ./ -name "*.py" | xargs sed  -i.bak '/^[ ]*#/d'
複製代碼

查看第5-7行和10-13行

sed -n -e '5,7p' -e '10,13p' file
複製代碼

僅輸出ip地址

ip route show | sed -n '/src/p' | sed -e 's/ */ /g' | cut -d' ' -f9
複製代碼

End

本文配合《Linux生產環境上,最經常使用的一套「vim「技巧》 一文,查看更佳,你會發現不少類似的東西,這和KISS原則是密不可分的。 sed還有一個精華就是x(Exchange)命令,但也屬於高級功能。有些你可能在不少Makefile裏見過了。sed甚至還能夠寫推箱子游戲,雖然代碼很酷,但,腦回路徹底不夠用啊。

https://github.com/aureliojargas/sokoban.sed
複製代碼

擴展閱讀:

Linux之《荒島餘生》(一)準備篇

Linux之《荒島餘生》(二)CPU篇

Linux之《荒島餘生》(三)內存篇

Linux之《荒島餘生》(四)I/O篇

Linux之《荒島餘生》(五)網絡篇

相關文章
相關標籤/搜索