linux curl用法詳解

‍‍curl的應用方式，一是能夠直接經過命令行工具，另外一種是利用libcurl庫作上層的開發。本篇主要總結一下命令行工具的http相關的應用， 尤爲是http下載方面的；下一篇再講基於libcurl庫的開發。

  
  
   curl的命令行工具功能很是強大，這些數據交互的功能基本上都是經過URL方式進行的，咱們先來看看curl對多個URL的靈活操做，這些規則使咱們的 批處理需求應用起來很是方便。
  
   一、用{}表示多個URL
   如 http://site.{one,two,three}.com， 只要在{}中寫上不一樣的部分，就能夠表示3個URL了。
  
   二、用[]表示多個URL
   如 ftp://ftp.numericals.com/file[1-100].txt，ftp://ftp.numericals.com/file[001-100].txt，ftp://ftp.letters.com/file[a-z].txt， []中表示按數字或字母的順序排列。
   還能表示不連續的排列，如 http://www.numericals.com/file[1-100:10].txt，http://www.letters.com/file[a-z:2].txt，":" 後面的數字表示等差排列的階躍數。
  
   三、結合起來使用
   如 http://any.org/archive[1996-1999]/vol[1-4]/part{a,b,c}.html。
  
  
   curl命令行工具的基本語句爲：curl [options] [URL...]，即 curl [選項] [下載地址]。所以，若是你想下載百度的首頁，最簡單的方法啓動cmd，進入curl安裝目錄，輸入命令：curl http://www.baidu.com，回車，你的輸出窗口將當即出現百度首頁 的html數據。
   對於全部的布爾型option，基本上--option表示支持這個選項，--no-option表示禁用這個選項。下面總結幾個比較有用的 options。
  
   一、-o/--output <file>
   這個基本上要算最經常使用的選項了，用於將下載的數據保存到某個文件中。如 curl -o baidu.html http://www.baidu.com則將百度首頁保存到baidu.html 文件中了。下載過程當中標準輸出還會顯示下載的統計信息，好比進度、下載字節數、下載速度等。若是指定輸出爲"-"，則下載數據會輸出到標準輸出。
   若是輸出的文件是一個多級目錄的話，則要配合--create-dirs選項，--create-dirs將自動建立設置的輸出目錄。
   若是但願保存到本地的文件名和服務器上的相同，就能夠直接用-O選項（大寫O），而省去指定本地文件名。
   若是下載多個數據文件，可使用上面提到的多URL規則。下載文件名也能夠批量自定義，就是使用"#"。能夠將"#"加到文件名當中，這樣實際文件名中 的#將被多個URL中的當前字符串代替，如 curl http://{site,host}.host[1-5].com -o "#1_#2"，#1將被"site"或"host"代替，#2將被1-5之間的數字代替，也就是被當前被處理的URL中的字符串代替。
   另外下載數據的時候，能夠加個"-#"選項，用一個進度條來代替文本表示進度。
  
   二、-c/--cookie-jar <file name> 和 -b/--cookie <name=data>
   這是兩個操做cookie的選項，不少服務器是須要cookie信息的。用前一個選項能夠指定一個文件，將其餘文件中的cookie或者從服務器獲得的 cookie寫到文件中；後一個選項則用來向服務器發送cookie信息，能夠用"name=data"的形式，也能夠直接跟一個保存cookie的文件 名。
  
   三、-x/--proxy <proxyhost[:port]>
   該選項爲http指定代理及端口，若是不指定端口，默認爲1080。如 curl -x 201.36.208.19:3128 http://curl.haxx.se/。
  
   四、-u/--user <user:password> 和 -U/--proxy-user <user:password>
   登陸某些頁面或ftp須要先進行認證，輸入用戶名和密碼。curl的這個選項能夠直接處理這類操做，用指定的帳號和密碼進行登陸認證。
   後面的選項指定代理的用戶名和密碼，這樣即可以直接用這個代理訪問網頁了，如 curl -U user:password -x 201.36.208.19:3128 http://curl.haxx.se/。
  
   五、-A/--user-agent <agent string>
   該選項能夠指定客戶端類型，服務器經過該選項判斷用戶應用的平臺及瀏覽器信息。如 curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" http://www.clientinfo.com，
表示告訴服務器，客戶端是運行在Windows 2000系統上的IE6.0。

   

    六、-d/--data <data>
   該選項用來以POST方式向http服務器發送特定數據，最經常使用的就是提交表單。如 curl -d "user=username&password=111" http://www.login.com， 表示用帳號username和密碼111向站點發送登陸申請。其中多個數據段能夠用"&"進行鏈接一塊兒發送；若是數據前面加上符號"@"，則數據 來源爲後面指定的文件，如 curl -d password=@D:\pw.txthttp://www.login.com。

   

    七、-C/--continue-at <offset>
   改選項提供斷點續傳功能，與-o選項配合使用。如 curl -c -O http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3。 若是指定offset，則從offset的位置開始續傳。若是未指定offset，或者直接用"-C -"，則curl會本身分析該從什麼位置開始續傳。

   

    八、-r/--range <range>
   該選項指定下載字節的範圍，常應用於分塊下載文件。range的表示方式有多種，如100-500，則指定從100開始的400個字節數據；-500表示 最後的500個字節；5000-表示從第5000個字節開始的全部字節；另外還能夠同時指定多個字節塊，中間用","分開。如
   curl -r 0-1024000 -o new_divide_1.mp3 http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3 &
   curl -r 1024001-2048000 -o new_divide_2.mp3 http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3 &
   curl -r 2048001- -o new_divide_3.mp3 http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3
   這樣就會將目標mp3文件分塊下載爲3個文件，而後能夠用dos的copy命令：copy new_divide_1.mp3/b + new_divide_2.mp3/b + new_divide_3.mp3/b new_divide.mp3便可將3個分塊文件合併爲一個完整的mp3文件。
  
   九、-w/--write-out <format>
   該選項格式化輸出一些用戶操做的數據信息，用到的格式化輸出符除了"\n"，"\r"，"\t"這些常見轉義符外，還包括"@"和"%"。其 中"@filename"表示輸出filename文件中的數據，"@-"表示輸出用戶寫入標準輸入的數據；"%"標識符後面跟上定義的關鍵字， 則能夠輸出對應的curl數據，經常使用的關鍵字有：
   http_code —— 上次操做返回的響應碼；
   time_total —— 上次操做耗時，單位爲秒；
   time_connect —— TCP鏈接遠程主機的耗時，單位爲秒；
   time_pretransfer —— 文件真正開始傳輸以前交互耗時，單位爲秒，可能主要包括一些命令處理和協議分析的耗時；
   time_starttransfer —— 文件的第一個字節開始傳輸以前的耗時，單位爲秒，包括time_pretransfer和服務器計算結果的時間；
   size_download —— 下載的總字節數；
   size_upload —— 上傳的總字節數；
   size_request —— 發送http請求的總字節數；
   speed_download —— curl成功下載的平均下載速度；
   speed_upload —— curl成功上傳的平均上傳速度；
   舉例：curl -o page.html -s -w %{time_connect}:%{time_starttransfer}:%{time_total} http://curl.haxx.se/，其中-s表示安靜模式，即略去全部 狀態信息。
  
   十、--connect-timeout <seconds> 和 -m/--max-time <seconds>
   前者表示容許的鏈接的最長耗時，單位爲秒；後者表示容許的整個操做的最長耗時，單位爲秒，這個選項對於控制一個批處理操做的時長很是有用。
  
   十一、--limit-rate <speed> 、 -Y/--speed-limit <speed> 和 -y/--speed-time <time>
   --limit-rate <speed>指定最大的數據傳輸率，單位爲bytes/s，也能夠用'k'或'K'表示kb/s，'m'或'M'表示mb/s，'g'或 'G'表示gb/s，所給的speed爲平均傳輸率，短期峯值可能會超過此值；
-Y/--speed-limit <speed>指定最小傳輸率，單位爲bytes/s，若是小於speed值，則傳輸停止，如此時-y選項沒有被設置，默認time爲 30；-y/--speed-time <time>指定-Y選項的有效時間段，若是-Y選項沒有被設置，默認爲1。

    十二、--max-filesize <bytes>
   該選項指定所要下載的文件的最大長度，若是超過bytes值，則下載並不開始，curl返回退出碼63。
  
   1三、--retry <num> 、 --retry-delay <seconds> 和 --retry-max-time <seconds>
   當傳輸過程當中出現錯誤，如超時、FTP 5xx返回碼或者HTTP 5xx返回碼，curl會進行按照設置進行重試，這幾個選項都與重試有關。--retry <num>設置重試次數，--retry-delay <seconds>設置兩次重試的間隔時間，--retry-max-time <seconds>設置兩次重試間隔的最長時間。默認狀況下，curl不進行重試；若是重試，第一次間隔1秒，以後每次都間隔上一次的2倍時 間，直到間隔時間達到10分鐘，以後的重試都將採用10分鐘間隔。若是這3個選項的值被從新設置，則執行設置值。
  
   1四、-T/--upload-file <file>
   該選項是上傳命令，如向http服務器上傳一個文件：curl -T D:\new_divide.mp3 http://www.uploadserver.com/path/； 向一個ftp服務器上傳文件：curl -T D:\new_divide.mp3 -u user:password ftp://upload_site:port/path/。

   curl定義了一組"EXIT CODES"，用來標識在出現錯誤時的相關信息，目前範圍從1-83，具體信息能夠查閱curl庫自帶的文檔。這些退出碼對於咱們分析錯誤及緣由有很大幫 助。
  
    
   以上簡單介紹了一下利用curl命令行工具進行一些簡單的http和ftp應用，你們能夠試着多用一下，會慢慢發現curl的強大功能，有不少獨特的功能 用起來很是簡單方便。