linux下shell腳本中sed命令的用法

先來給一個案例：

 #將old.sql文件中的符號「|」替換爲「,」，並保存到test.sql文件中
    sed "s/|/,/g" "old.sql"> test.sql 
   #將test.sql文件中的每一行最後的符號「,」刪除 
    sed -i 's/,$//g' test.sql
　　#在test.sql文件中每行的開頭添加左括號「(」
    sed -i 's/^/(&/g' test.sql
    #在test.sql文件中每一行的末尾添右括號「)」
    sed -i 's/$/&)/g' test.sql
　　#統計文件old.sql的行數
    c=`sed -n '$=' /home/work/BaikalDB/tpch/load/data_tbl/old.sql`
    #在test.sql文件的第3行～3+99行的末尾添右括號「,」
   sed -i "3,+99 s/$/&,/" test.sql
   #在test.sql文件的第n行的開頭添加「insert into table values」,這裏的能夠爲具體的數字，也能夠爲變量的值，如j變量：${j}
   sed -i "niinsert into table values " test.sql
   #將test.sql文件的最後一行末尾的「,」換成「;」,這裏的能夠爲具體的數字，也能夠爲變量的值，如j變量：${j}
   sed -i "ns/,$/;/" test.sql

 

如下的知識點轉自：https://www.zhihu.com/tardis/sogou/art/66651350

一個簡單的入門

 

如圖，一個簡單的sed命令包含三個主要部分：參數、範圍、操做。要操做的文件，能夠直接掛在命令行的最後。除了命令行，sed也能夠經過-f參數指定一個sed腳本，這個屬於高級用法，不作過多描述。

有些示例命令我會重複屢次，聰明如你必定能發現其中規律，有時連解釋都用不着。

參數

-n 這個參數是--quiet或者--silent的意思。代表忽略執行過程的輸出，只輸出咱們的結果便可。

咱們經常使用的還有另一個參數 ：-i。

使用此參數後，全部改動將在原文件上執行。你的輸出將覆蓋原文件。很是危險，必定要注意。

範圍

1,4 表示找到文件中1,2,3,4行的內容。

這個範圍的指定頗有靈性，請看如下示例（請自行替換圖中的範圍部分）。

5 選擇第5行。
2,5 選擇2到5行，共4行。
1~2 選擇奇數行。
2~2 選擇偶數行。
2,+3 和2,5的效果是同樣的，共4行。
2,$ 從第二行到文件結尾。

範圍的選擇還可使用正則匹配。請看下面示例。

/sys/,+3 選擇出現sys字樣的行，以及後面的三行。
/\^sys/,/mem/ 選擇以sys開頭的行，和出現mem字樣行之間的數據。

爲了直觀，下面的命令一一對應上面的介紹，範圍和操做之間是能夠有空格的。

 

操做

最經常使用的操做就是p，意思就是打印。好比，如下兩個命令就是等同的：

 

除了打印，還有如下操做，咱們來講經常使用的。

p 對匹配內容進行打印。
d 對匹配內容進行刪除。這個時候就要去掉-n參數了，想一想爲何。
w 將匹配內容寫入到其餘地方。

a,i,c等操做雖基本但使用少，不作介紹。咱們依然拿一些命令來講明。

 

替換模式

以上是sed命令的經常使用匹配模式，但它還有一個強大的替換模式，意思就是查找替換其中的某些值，並輸出結果。使用替換模式不多使用-n參數。

 

 

替換模式的參數有點多，但第一部分和第五部分都是能夠省略的。替換後會將整個文本輸出出來。

前半部分用來匹配一些範圍，然後半部分執行替換的動做。

範圍

這個範圍和上面的範圍語法相似。看下面的例子。

/sys/,+3 選擇出現sys字樣的行，以及後面的三行。
/\^sys/,/mem/ 選擇以sys開頭的行，和出現mem字樣行之間的數據。

具體命令爲：

 

命令

這裏的命令是指s。也就是substitute的意思。

查找匹配

查找部分會找到要被替換的字符串。這部分能夠接受純粹的字符串，也能夠接受正則表達式。看下面的例子。

a 查找範圍行中的字符串a。
[a,b,c] 從範圍行裏查找字符串a或者b或者c。

命令相似：

 

替換

是時候把找出的字符串給替換掉了。本部分的內容將替換查找匹配部分找到的內容。

惋惜的是，這部分不能使用正則。經常使用的就是精確替換。好比把a替換成b。

但也有高級功能。和java或者python的正則api相似，sed的替換一樣有Matched Pattern的含義，一樣能夠獲得Group，不深究。經常使用的替位符，就是&。

&號，再重複一遍。當它用在替換字符串中的時候，表明的是原始的查找匹配數據。

[&] 代表將查找到的數據使用[]包圍起來。
「&」 代表將查找的數據使用」」包圍起來。

下面這條命令，將會把文件中的每一行，使用引號包圍起來。

 

flag 參數

這些參數能夠單個使用，也可使用多個，僅介紹最經常使用的。

g 默認只匹配行中第一次出現的內容，加上g，就能夠全文替換了。經常使用。
p 當使用了-n參數，p將僅輸出匹配行內容。
w 和上面的w模式相似，可是它僅僅輸出有變換的行。
i 這個參數比較重要，表示忽略大小寫。
e 表示將輸出的每一行，執行一個命令。不建議使用，可使用xargs配合完成這種功能。

看兩個命令的語法：

 

好玩

因爲正則的關係，不少字符須要轉義。你會在腳本里作些不少\\，\*之類的處理。你可使用|^@!四個字符來替換\。

好比，下面五個命令是同樣的。

 

注意：前半部分的範圍是不能使用這種方式的。我習慣使用符號@。

其餘

正則表達式

能夠看到，正則表達式在命令行中無處不在。如下，緊作簡要說明。

^ 行首
$ 行尾
. 單個字符
* 0個或者多個匹配
+ 1個或者多個匹配
? 0個或者1個匹配
{m} 前面的匹配重複m次
{m,n} 前面的匹配重複m到n次
\ 轉義字符
[0-9] 匹配括號中的任何一個字符,or的做用

| or，或者

\b 匹配一個單詞。好比\blucky\b 只匹配單詞lucky

參數i

上面已經簡單介紹了參數i，它的做用是讓操做在原文件執行。不管你執行了啥，原始文件都將會被覆蓋。這是很是危險的。

經過加入一個參數，能夠將原文件作個備份。

 

以上命令會對原file文件生效，並生成一個file.bak文件。強烈建議使用i參數同時指定bak文件。

表演一下

咱們經過兩個命令，來稍微看下sed和其餘命令組合起來的威力。

輸出長度不小於50個字符的行

 

統計文件中有每一個單詞出現了多少次

 

查找目錄中的py文件，刪掉全部行級註釋

 

查看第5-7行和10-13行

 

僅輸出ip地址

End