Shell 編程入門

轉載自：https://github.com/qinjx/30min_guides/blob/master/shell.md

 

什麼是Shell腳本

示例

看個例子吧：

#!/bin/sh
cd ~
mkdir shell_tut
cd shell_tut

for ((i=0; i<10; i++)); do
    touch test_$i.txt
done
示例解釋

 

示例解釋

• 第1行：指定腳本解釋器，這裏是用/bin/sh作解釋器的
• 第2行：切換到當前用戶的home目錄
• 第3行：建立一個目錄shell_tut
• 第4行：切換到shell_tut目錄
• 第5行：循環條件，一共循環10次
• 第6行：建立一個test_0…9.txt文件
• 第7行：循環體結束

mkdir, touch都是系統自帶的程序，通常在/bin或者/usr/bin目錄下。for, do, done是sh腳本語言的關鍵字。

 

shell和shell腳本的概念

shell是指一種應用程序，這個應用程序提供了一個界面，用戶經過這個界面訪問操做系統內核的服務。Ken Thompson的sh是第一種Unix Shell，Windows Explorer是一個典型的圖形界面Shell。

shell腳本（shell script），是一種爲shell編寫的腳本程序。業界所說的shell一般都是指shell腳本，但讀者朋友要知道，shell和shell script是兩個不一樣的概念。因爲習慣的緣由，簡潔起見，本文出現的「shell編程」都是指shell腳本編程，不是指開發shell自身（如Windows Explorer擴展開發）。

 

環境

shell編程跟java、php編程同樣，只要有一個能編寫代碼的文本編輯器和一個能解釋執行的腳本解釋器就能夠了。

OS

當前主流的操做系統都支持shell編程，本文檔所述的shell編程是指Linux下的shell，講的基本都是POSIX標準下的功能，因此，也適用於Unix及BSD（如Mac OS）。

Linux 

Linux默認安裝就帶了shell解釋器。

Mac OS  

Mac OS不只帶了sh、bash這兩個最基礎的解釋器，還內置了ksh、csh、zsh等不經常使用的解釋器。

Windows上的模擬器

 windows出廠時沒有內置shell解釋器，須要自行安裝，爲了同時能用grep, awk, curl等工具，最好裝一個cygwin或者mingw來模擬linux環境

• cygwin
• mingw

 

腳本解釋器

sh

即Bourne shell，POSIX（Portable Operating System Interface）標準的shell解釋器，它的二進制文件路徑一般是/bin/sh，由Bell Labs開發。

本文講的是sh，若是你使用其它語言用做shell編程，請自行參考相應語言的文檔。

bash

Bash是Bourne shell的替代品，屬GNU Project，二進制文件路徑一般是/bin/bash。業界一般混用bash、sh、和shell，好比你會常常在招聘運維工程師的文案中見到：熟悉Linux Bash編程，精通Shell編程。

在Ubantu 16.04 裏，/bin/sh是一個指向/bin/dash的符號連接:

rogn@ubuntu:~$  ls -l /bin/*sh
-rwxr-xr-x 1 root root 1037528 5月  16  2017 /bin/bash
-rwxr-xr-x 1 root root  154072 2月  18  2016 /bin/dash
lrwxrwxrwx 1 root root       4 5月  16  2017 /bin/rbash -> bash
lrwxrwxrwx 1 root root       4 12月 15 11:06 /bin/sh -> dash
lrwxrwxrwx 1 root root       7 9月  23 10:48 /bin/static-sh -> busybox

但在Mac OS上不是，/bin/sh和/bin/bash是兩個不一樣的文件，儘管它們的大小隻相差100字節左右:

iMac:~ wuxiao$ ls -l /bin/*sh
-r-xr-xr-x  1 root  wheel  1371648  6 Nov 16:52 /bin/bash
-rwxr-xr-x  2 root  wheel   772992  6 Nov 16:52 /bin/csh
-r-xr-xr-x  1 root  wheel  2180736  6 Nov 16:52 /bin/ksh
-r-xr-xr-x  1 root  wheel  1371712  6 Nov 16:52 /bin/sh
-rwxr-xr-x  2 root  wheel   772992  6 Nov 16:52 /bin/tcsh
-rwxr-xr-x  1 root  wheel  1103984  6 Nov 16:52 /bin/zsh

 

高級編程語言

理論上講，只要一門語言提供瞭解釋器（而不只是編譯器），這門語言就能夠勝任腳本編程，常見的解釋型語言都是能夠用做腳本編程的，如：Perl、Tcl、Python、PHP、Ruby。Perl是最老牌的腳本編程語言了，Python這些年也成了一些linux發行版的預置解釋器。

編譯型語言，只要有解釋器，也能夠用做腳本編程，如C shell是內置的（/bin/csh），Java有第三方解釋器Jshell，Ada有收費的解釋器AdaScript。

 

以下是一個PHP Shell Script示例（假設文件名叫test.php）：

#!/usr/bin/php
<?php
for ($i=0; $i < 10; $i++)
        echo $i . "\n";

執行：

/usr/bin/php test.php

或者：

chmod +x test.php
./test.php

 

 

如何選擇shell編程語言

熟悉 vs 陌生

若是你已經掌握了一門編程語言（如PHP、Python、Java、JavaScript），建議你就直接使用這門語言編寫腳本程序，雖然某些地方會有點囉嗦，但你能利用在這門語言領域裏的經驗（單元測試、單步調試、IDE、第三方類庫）。

新增的學習成本很小，只要學會怎麼使用shell解釋器（Jshell、AdaScript）就能夠了。

 

簡單 vs 高級

若是你以爲本身熟悉的語言（如Java、C）寫shell腳本實在太囉嗦，你只是想作一些備份文件、安裝軟件、下載數據之類的事情，學着使用sh，bash會是一個好主意。

shell只定義了一個很是簡單的編程語言，因此，若是你的腳本程序複雜度較高，或者要操做的數據結構比較複雜，那麼仍是應該使用Python、Perl這樣的腳本語言，或者是你原本就已經很擅長的高級語言。由於sh和bash在這方面很弱，好比說：

• 它的函數只能返回字串，沒法返回數組
• 它不支持面向對象，你沒法實現一些優雅的設計模式
• 它是解釋型的，一邊解釋一邊執行，連PHP那種預編譯都不是，若是你的腳本包含錯誤(例如調用了不存在的函數)，只要沒執行到這一行，就不會報錯

 

環境兼容性

若是你的腳本是提供給別的用戶使用，使用sh或者bash，你的腳本將具備最好的環境兼容性，perl很早就是linux標配了，python這些年也成了一些linux發行版的標配，至於mac os，它默認安裝了perl、python、ruby、php、java等主流編程語言。

 

第一個shell腳本

編寫

打開文本編輯器，新建一個文件，擴展名爲sh（sh表明shell），擴展名並不影響腳本執行，見名知意就好，若是你用php寫shell 腳本，擴展名就用php好了。

輸入一些代碼，第一行通常是這樣：

#!/bin/bash
#!/usr/bin/php

「#!」是一個約定的標記，它告訴系統這個腳本須要什麼解釋器來執行。（在shell腳本中"#「用來標記註釋，」#!「除外）

 

運行

運行Shell腳本有兩種方法：

做爲可執行程序

chmod +x test.sh
./test.sh

注意，必定要寫成./test.sh，而不是test.sh，運行其它二進制的程序也同樣，直接寫test.sh，linux系統會去PATH裏尋找有沒有叫test.sh的，而只有/bin, /sbin, /usr/bin，/usr/sbin等在PATH裏，你的當前目錄一般不在PATH裏，因此寫成test.sh是會找不到命令的，要用./test.sh告訴系統說，就在當前目錄找。

經過這種方式運行bash腳本，第一行必定要寫對，好讓系統查找到正確的解釋器。

這裏的"系統"，其實就是shell這個應用程序（想象一下Windows Explorer），但我故意寫成系統，是方便理解，既然這個系統就是指shell，那麼一個使用/bin/sh做爲解釋器的腳本是否是能夠省去第一行呢？是的。

 

做爲解釋器參數

這種運行方式是，直接運行解釋器，其參數就是shell腳本的文件名，如：

/bin/sh test.sh
/bin/php test.php

或者：

sh test.sh
bash test.sh
php test.sh

 

這種方式運行的腳本，不須要在第一行指定解釋器信息，寫了也沒用。

 

補充知識: 文件的屬性

經過ls -l命令能夠查看文件的屬性，例如查看新建文件test.sh的屬性：

rogn@ubuntu:~$ touch test.sh
rogn@ubuntu:~$ ls -l test.sh
-rw-rw-r-- 1 rogn rogn 0 12月 15 11:38 test.sh

 

能夠看到，通常新建文件的默認屬性是-rw-rw-r--，即664，不具備可執行屬性x，可以使用chmod命令來改變文件屬性（修改默認屬性則使用umask命令），例如將文件test.sh的屬性改成可讀可寫可執行(rwx: 4 + 2 + 1 = 7)：

rogn@ubuntu:~$ chmod 777 test.sh
rogn@ubuntu:~$ ls -l test.sh
-rwxrwxrwx 1 rogn rogn 0 12月 15 11:38 test.sh

 

變量

定義變量

定義變量時，變量名不加美圓符號（$），如：

your_name="qinjx"

注意，變量名和等號之間不能有空格，這可能和你熟悉的全部編程語言都不同。

除了顯式地直接賦值，還能夠用語句（list）給變量賦值，如：

for language `C C++ python Java`

 

刪除變量

可使用 unset 刪除變量，可是不能刪除只讀變量。變量刪除後不能再次使用。

my_var="haha"
unset my_var
echo ${my_var} # 變量my_var已被刪除，沒有任何輸出

 

使用變量

使用一個定義過的變量，只要在變量名前面加美圓符號便可，如：

your_name="qinjx"
echo $your_name
echo ${your_name}

變量名外面的花括號是可選的，加不加都行，加花括號是爲了幫助解釋器識別變量的邊界（避免二義性），好比下面這種狀況：

for skill in Ada Coffe Action Java; do
    echo "I am good at ${skill}Script"
done

若是不給skill變量加花括號，寫成echo "I am good at $skillScript"，解釋器就會把$skillScript當成一個變量（其值爲空），代碼執行結果就不是咱們指望的樣子了。

推薦給全部變量加上花括號，這是個好的編程習慣。IntelliJ IDEA編寫shell script時，IDE就會提示加花括號。

 

重定義變量

已定義的變量，能夠被從新定義，如：

your_name="qinjx"
echo $your_name

your_name="alibaba"
echo $your_name

這樣寫是合法的，但注意，第二次賦值的時候不能寫$your_name="alibaba"，使用變量的時候才加美圓符。

 

註釋

以「#」開頭的行就是註釋，會被解釋器忽略。（"#!"除外）

多行註釋

sh裏沒有多行註釋，只能每一行加一個#號。就像這樣：

#--------------------------------------------
# 這是一個自動打ipa的腳本，基於webfrogs的ipa-build書寫：https://github.com/webfrogs/xcode_shell/blob/master/ipa-build

# 功能：自動爲etao ios app打包，產出物爲14個渠道的ipa包
# 特點：全自動打包，不須要輸入任何參數
#--------------------------------------------

##### 用戶配置區 開始 #####
#
#
# 項目根目錄，推薦將此腳本放在項目的根目錄，這裏就不用改了
# 應用名，確保和Xcode裏Product下的target_name.app名字一致
#
##### 用戶配置區 結束  #####

 

若是在開發過程當中，遇到大段的代碼須要臨時註釋起來，過一下子又取消註釋，怎麼辦呢？每一行加個#符號太費力了，能夠把這一段要註釋的代碼用一對花括號括起來，定義成一個函數，沒有地方調用這個函數，這塊代碼就不會執行，達到了和註釋同樣的效果。

 

字符串

字符串是shell編程中最經常使用最有用的數據類型（除了數字和字符串，也沒啥其它類型好用了，哈哈），字符串能夠用單引號，也能夠用雙引號，也能夠不用引號。單雙引號的區別跟PHP相似。

單引號

str='this is a string'

單引號字符串的限制：

• 單引號裏的任何字符都會原樣輸出，單引號字符串中的變量是無效的
• 單引號字串中不能出現單引號（對單引號使用轉義符後也不行）

雙引號

your_name='qinjx'
str="Hello, I know your are \"$your_name\"! \n"

• 雙引號裏能夠有變量
• 雙引號裏能夠出現轉義字符

效果以下：

rogn@ubuntu:~$ cat test.sh
your_name='qinjx'
str="Hello, I know your are \"$your_name\"! \n"
echo $str
rogn@ubuntu:~$ sh test.sh
Hello, I know your are "qinjx"! 

rogn@ubuntu:~$ 

 

字符串操做

參見本文檔末尾的參考資料中Advanced Bash-Scripting Guid Chapter 10.1

 

數組

管道

條件判斷

流程控制

for while

for

在開篇的示例裏演示過了：

for var in item1 item2 ... itemN
do
    command1
    command2
    ...
    commandN
done

寫成一行：

for var in item1 item2 ... itemN; do command1; command2… done;

 

C風格的for

for (( EXP1; EXP2; EXP3 ))
do
    command1
    command2
    command3
done

 

補充知識：

在Ubantu16.04上運行C風格的for會提示 「syntax error: Bad for loop variable」，從 ubuntu 6.10 開始，ubuntu 就將先前默認的bash shell 更換成了dash shell；其表現爲 /bin/sh 連接倒了/bin/dash而不是傳統的/bin/bash。 

rogn@ubuntu:~$ echo $SHELL
/bin/bash

rogn@ubuntu:~$ ls -l /bin/*sh
-rwxr-xr-x 1 root root 1037528 5月  16  2017 /bin/bash
-rwxr-xr-x 1 root root  154072 2月  18  2016 /bin/dash
lrwxrwxrwx 1 root root       4 5月  16  2017 /bin/rbash -> bash
lrwxrwxrwx 1 root root       4 12月 15 11:06 /bin/sh -> dash
lrwxrwxrwx 1 root root       7 9月  23 10:48 /bin/static-sh -> busybox

解決方法：將默認的shell改回bash。在終端執行 sudo dpkg-reconfigure dash，而後選 擇 no。（若是想要改回bash，一樣執行這條命令，選擇「Yes」）。

 其實還有一種簡單的方法：直接使用dash執行，例如：dash test.sh

while

while condition
do
    command
done

 

無限循環

while :
do
    command
done

或者

while true
do
    command
done

或者

for (( ; ; ))

 

函數

文件包含

用戶輸入

經常使用的命令

sh腳本結合系統命令便有了強大的威力，在字符處理領域，有grep、awk、sed三劍客，grep負責找出特定的行，awk能將行拆分紅多個字段，sed則能夠實現更新插入刪除等寫操做。

ps

查看進程列表

grep

• 排除grep自身

• 查找與target相鄰的結果

awk

sed

• 插入

• 替換

• 刪除

xargs

curl

綜合案例

參考資料

• Advanced Bash-Scripting Guide，很是詳細，很是易讀，大量example，既能夠當入門教材，也能夠當作工具書查閱
• Unix Shell Programming
• Linux Shell Scripting Tutorial - A Beginner's handbook
• Bash Shell 編程入門