正則表達式三劍客之二sed工具

正則表達式三劍客之二sed工具

三劍客之二sed工具

sed(Stream EDitor)是一個強大而簡單的文本解析轉換工具,能夠讀取文本,並根據指定的條件對文本內容進行編輯(刪除、替換、添加、移動等),最後輸出全部行或者僅輸出處理的某些行。sed 也能夠在無交互的狀況下實現至關複雜的文本處理操做,被普遍應用於 Shell 腳本中,用以完成各類自動化處理任務。正則表達式

sed 的工做流程主要包括讀取、執行和顯示三個過程。

讀取:sed 從輸入流(文件、管道、標準輸入)中讀取一行內容並存儲到臨時的緩redis

衝區中(又稱模式空間,pattern space)。
執行:默認狀況下,全部的 sed 命令都在模式空間中順序地執行,除非指定了行的地址,不然 sed 命令將會在全部的行上依次執行。
顯示:發送修改後的內容到輸出流。再發送數據後,模式空間將會被清空。
在全部的文件內容都被處理完成以前,上述過程將重複執行,直至全部內容被處理完。express

注意:默認狀況下,全部的 sed 命令都是在模式空間內執行的,所以輸入的文件並不會發生任何變化,除非是用重定向存儲輸出。vim

sed命令常見用法

調用 sed 命令有兩種格式。其中,「參數」是指操做的目標文件,當存在多個操做對象時用,文件之間用逗號「,」分隔;而 scriptfile 表示腳本文件,須要用「-f」選項指定,當腳本文件出如今目標文件以前時,表示經過指定的腳本文件來處理輸入的目標文件。bash

常見的sed命令選項主要包含如下幾種:

(1)e 或–expression=:表示用指定命令或者腳原本處理輸入的文本文件。
(2)-f 或–file=:表示用指定的腳本文件來處理輸入的文本文件。
(3)-h 或–help:顯示幫助。
(4)-n、–quiet 或 silent:表示僅顯示處理後的結果。
(5)-i:直接編輯文本文件。
「操做」用於指定對文件操做的動做行爲,也就是 sed 的命令。一般狀況下是採用的「[n1[,n2]]」操做參數的格式。n一、n2 是可選的,不必定會存在,表明選擇進行操做的行數,如操做須要在 5~20 行之間進行,則表示爲「5,20 動做行爲」。常見的操做包括如下幾種。
(1)a:增長,在當前行下面增長一行指定內容。
(2)c:替換,將選定行替換爲指定內容。
(3)d:刪除,刪除選定的行。
(4)i:插入,在選定行上面插入一行指定內容。
(5)p:打印,若是同時指定行,表示打印指定行;若是不指定行,則表示打印全部內容;若是有非打印字符,則以 ASCII 碼輸出。其一般與「-n」選項一塊兒使用。
(6)s:替換,替換指定字符。
(7)y:字符轉換。dom

一.sed工具用法

首先咱們準備一個測試文件

[root@localhost ~]# vim chen.txt

Use CDROM installation media
cdrom.
thethethe.
THE
THEASDHAS
 Use graphical install.
graphical.
best
test
ASSDJFXYxyzC
AxyzxyzxyzC
keyboard --vckeymap=cn --xlayouts='cn'
 System language
lang zh_CN.UTF-8

 Network information
network  --bootproto=dhcp --device=ens33 --onboot=off --ipv6=auto --no-activate
network  --hostname=localhost.localdomain

 Root password
rootpw --iscrypted $6$L.egxzosoP/0k9Nj$wna7vPXZjeH0jFcNZUymYKF8ySXq5HxQuvxTFxIpEAAxuDj7MQJtXBds5E0LxAftI1H5JbJuYpN44d5n6t1AZ.
 System services
services --enabled="chronyd"
#System timezone
tast

(1)輸出符合條件的文本(p表示正常輸出)

#version=DEVEL
#System authorization information
auth --enableshadow --passalgo=sha512
 Use CDROM installation media
cdrom.
thethethe.
THE
THEASDHAS
 Use graphical install.
graphical.
best
test
ASSDJFXYxyzC
AxyzxyzxyzC
keyboard --vckeymap=cn --xlayouts='cn'
 System language
lang zh_CN.UTF-8

 Network information
network  --bootproto=dhcp --device=ens33 --onboot=off --ipv6=auto --no-activate
network  --hostname=localhost.localdomain

 Root password
rootpw --iscrypted $6$L.egxzosoP/0k9Nj$wna7vPXZjeH0jFcNZUymYKF8ySXq5HxQuvxTFxIpEAAxuDj7MQJtXBds5E0LxAftI1H5JbJuYpN44d5n6t1AZ.
 System services
services --enabled="chronyd"
 System timezone
tast
bet
 Run the Setup Agent on first boot.
firstboot --enable
ignoredisk --only-use=sda
wood
wd
wod
woooooooood
dfsjdjoooooof
Foofddd
124153
3234
342222222
faasd11
2
ZASASDNA
short
shirt

(2)輸出第3行

[root@localhost ~]# sed -n '3p' chen.txt
auth --enableshadow --passalgo=sha512

(3)輸出3^5行

[root@localhost ~]# sed -n '3,5p' chen.txt
auth --enableshadow --passalgo=sha512
#Use CDROM installation media
cdrom.

(4)輸出全部奇數行,n表示讀入下一行資料,p在前面就是第一行顯示

[root@localhost ~]# sed -n 'p;n' chen.txt
#version=DEVEL
auth --enableshadow --passalgo=sha512
cdrom.
THE
 Use graphical install.
best
ASSDJFXYxyzC
keyboard --vckeymap=cn --xlayouts='cn'
lang zh_CN.UTF-8
 Network information
network  --hostname=localhost.localdomain
 Root password
 System services
 System timezone
bet
firstboot --enable
wood
wod
dfsjdjoooooof
124153
342222222
2
short

(5)輸出全部偶數行,n在前面就是第一行不顯示,直接從第二行開始

[root@localhost ~]# sed -n 'n;p' chen.txt
 System authorization information
 Use CDROM installation media
thethethe.
THEASDHAS
graphical.
test
AxyzxyzxyzC
#System language

network  --bootproto=dhcp --device=ens33 --onboot=off --ipv6=auto --no-activate

rootpw --iscrypted $6$L.egxzosoP/0k9Nj$wna7vPXZjeH0jFcNZUymYKF8ySXq5HxQuvxTFxIpEAAxuDj7MQJtXBds5E0LxAftI1H5JbJuYpN44d5n6t1AZ.
services --enabled="chronyd"
tast
 Run the Setup Agent on first boot.
ignoredisk --only-use=sda
wd
woooooooood
Foofddd
3234
faasd11
ZASASDNA
shirt

(6)輸出第 10 行至文件尾之間的偶數行

[root@localhost ~]# sed -n '10,${n;p}' chen.txt
best
ASSDJFXYxyzC
keyboard --vckeymap=cn --xlayouts='cn'
lang zh_CN.UTF-8
 Network information
network  --hostname=localhost.localdomain
 Root password# System services
#System timezone
bet
firstboot --enable
wood
wod
dfsjdjoooooof
124153
342222222
2
short

在執行「sed –n‘10,${n;p}’test.txt」命令時,讀取的第 1 行是文件的第 10 行,
讀取的第 2 行是文件的第 11 行,依此類推,因此輸出的偶數行是文件的第 11 行、13 行直至文件結尾,其中包括空行。
以上是 sed 命令的基本用法,sed 命令結合正則表達式時,格式略有不一樣,正則表達式以「/」包圍。例如,如下操做是 sed 命令與正則表達式結合使用的示例。ide

(7)輸出包含the 的行

[root@localhost ~]# sed -n '/the/p' chen.txt
thethethe.
 Run the Setup Agent on first boot.

(8)輸出從第 4 行至第一個包含 the 的行

[root@localhost ~]# sed -n '4,/the/p' chen.txt
 Use CDROM installation media
cdrom.
thethethe.

(9)輸出包含the 的行所在的行號,等號(=)用來輸出行號

[root@localhost ~]# sed -n '/the/=' chen.txt
6
30

(10)輸出以fi開頭的行

[root@localhost ~]# sed -n '/^fi/p' chen.txt
firstboot --enable

(11) 輸出以數字結尾的行

[root@localhost ~]# sed -n '/[0-9]$/p' chen.txt
auth --enableshadow --passalgo=sha512
lang zh_CN.UTF-8
124153
3234
342222222
faasd11
2

(12)輸出包含單詞wood 的行,<、>表明單詞邊界

[root@localhost ~]# sed -n '/\<wood\>/P' chen.txt
wood

(二)刪除符合條件的文本(d)

由於後面的示例還須要使用測試文件 test.txt,因此在執行刪除操做以前須要先將測試文件備份。如下示例分別演示了 sed 命令的幾種經常使用刪除用法。
下面命令中 nl 命令用於計算文件的行數,結合該命令能夠更加直觀地查看到命令執行的結果。工具

(1)刪除第 3 行

[root@localhost ~]# nl chen.txt | sed '3d'
     1  #version=DEVEL
     2  # System authorization information
     4  # Use CDROM installation media
     5  cdrom.
     6  thethethe.

(2)刪除第 3~5 行

[root@localhost ~]# nl chen.txt | sed '3,5d'
     1  #version=DEVEL
     2  # System authorization information
     6  thethethe.

(3)//刪除包含cross 的行,本來的第 47行被刪除

//刪除不包含cross 的行,用!符號表示取反操做,如’/cross/!d’

[root@localhost ~]# nl chen.txt | sed '3,5d'
  45    short
    46  shirt

(4)刪除以小寫字母開頭的行

[root@localhost ~]# sed '/[^a-z]/d' chen.txt測試

best
test

crp
tast
cross
bet
wood
wd
wod
woooooooood
dfsjdjoooooof
short
shirt

(5)刪除以"."結尾的行

[root@localhost ~]# sed '/\.$/d' chen.txtui

(6)刪除全部空行

[root@localhost ~]# sed '/^$/d' chen.txt
注意: 如果刪除重複的空行,即連續的空行只保留一個, 執行「 sed –e ‘/^KaTeX parse error: Expected group after '^' at position 6: /{n;/^̲/d}’test.txt」命令便可實現。其效果與「cat -s test.txt」相同,n 表示讀下一行數據。

(三)替換符合條件的文本

(1)在使用 sed 命令進行替換操做時須要用到 s(字符串替換)、c(整行/整塊替換)、y(字符轉換)命令選項

將每行中的第一個the 替換爲 THE

[root@localhost ~]# sed 's/the/THE/' chen.txt
#version=DEVEL
 System authorization information
auth --enableshadow --passalgo=sha512
 Use CDROM installation media
cdrom.
THEthethe.
THE

(2)/將每行中的第 3 個l 替換爲L

[root@localhost ~]# sed 's/l/L/' chen.txt
#version=DEVEL
 System authorization information
auLth --enableshadow --passalgo=sha512
 Use CDROM instaLlation media
cdLrom.

(3)將文件中的全部the 替換爲THE

[root@localhost ~]# sed 's/the/THE/g' chen.txt
#version=DEVEL
 System authorization information
aulth --enableshadow --passalgo=sha512
 Use CDROM installation media
cdlrom.
THETHETHE.
THE
THEASDHAS

(4)將文件中的全部o 刪除(替換爲空串)

[root@localhost ~]# sed 's/o//g' chen.txt

(5)在每行行首插入#號

[root@localhost ~]# sed 's/^/#/g' chen.txt
##version=DEVEL
##System authorization information
#aulth --enableshadow --passalgo=sha512
##Use CDROM installation media
#cdlrom.
#thethethe.
#THE
#THEASDHAS
##Use graphical install.

(6)在每行行尾插入字符串EOF

[root@localhost ~]# sed 's/$/EOF/g' chen.txt
ersion=DEVELEOF
ystem authorization informationEOF
aulth --enableshadow --passalgo=sha512EOF
se CDROM installation mediaEOF
cdlrom.EOF
thethethe.EOF
THEEOF
THEASDHASEOF
Use graphical install.EOF

(四)遷移符合條件的文本

H,複製到剪貼板;
g、G,將剪貼板中的數據覆蓋/追加至指定行;
w,保存爲文件;
r,讀取指定文件;
a,追加指定內容。

(1)將包含the 的行遷移至文件末尾,{;}用於多個操做

[root@localhost ~]# sed '/the/{H;d};$G' chen.txt
#version=DEVEL
 System authorization information
aulth --enableshadow --passalgo=sha512
 Use CDROM installation media
cdlrom.
THE
THEASDHAS

(2)將第 1~5 行內容轉移至第 17 行後

[root@localhost ~]# sed '1,5{H;d};17G' chen.txt
thethethe.
THE
THEASDHAS
 Use graphical install.
graphical.
best

(3)將包含the 的行另存爲文件/opt/abc.txt

[root@localhost ~]# sed '/the/w /opt/abc.txt' chen.txt
[root@localhost ~]# cd /opt
[root@localhost opt]# ls
abc.txt  rh
[root@localhost opt]# cat abc.txt
thethethe.
#Run the Setup Agent on first boot.

(4)將文件/etc/hostname 的內容添加到包含the 的每行之後

[root@localhost ~]# sed '/the/r /etc/hostname' chen.txt
 Run the Setup Agent on first boot.
localhost.localdomain

(5)在第 3 行後插入一個新行,內容爲 New

[root@localhost ~]# sed '3aNEW' chen.txt
#version=DEVEL
 System authorization information
aulth --enableshadow --passalgo=sha512
NEW

(6)在包含the 的每行後插入一個新行,內容爲 New

[root@localhost ~]# sed '/the/aNEW' chen.txt
 Run the Setup Agent on first boot.
NEW

(7)在第 3 行後插入多行內容,中間的\n 表示換行

[root@localhost ~]# sed '3aNEW\nNEW2\nNEW3' chen.txt

version=DEVEL
System authorization information
aulth --enableshadow --passalgo=sha512
NEW
NEW2
NEW3

(五)腳本編輯文件

root@localhost ~]# vim wq.com
#!/bin/bash
#指定樣本文件路徑、配置文件路徑
SAMPLE="/usr/share/doc/vsftpd-3.0.2/EXAMPLE/INTERNET_SITE/vsftpd.conf " CONFIG="/etc/vsftpd/vsftpd.conf"

#備份原來的配置文件,檢測文件名爲/etc/vsftpd/vsftpd.conf.bak 備份文件是否存在, 若不存在則使用 cp 命令進行文件備份
[ ! -e "$CONFIG.bak" ] && cp $CONFIG $CONFIG.bak
#基於樣本配置進行調整,覆蓋現有文件
sed -e '/^anonymous_enable/s/YES/NO/g' $SAMPLE > $CONFIG
sed -i -e '/^local_enable/s/NO/YES/g' -e'/^write_enable/s/NO/YES/g' $CONFIG 

grep "listen" $CONFIG || sed -i '$alisten=YES' $CONFIG
#啓動vsftpd 服務,並設爲開機後自動運行systemctl restart vsftpd
systemctl enable vsftpd

[root@localhost ~]# chmod +x wq.sh [root@localhost ~]# ./wq.sh

相關文章
相關標籤/搜索