利用cURL抓取網頁

使用PHP的cURL庫能夠簡單和有效地去抓網頁。你只須要運行一個腳本，而後分析一下你所抓取的網頁，而後就能夠以程序的方式獲得你想要的數據 了。不管是你想從從一個連接上取部分數據，或是取一個XML文件並把其導入數據庫，那怕就是簡單的獲取網頁內容，cURL 是一個功能強大的PHP庫。本文主要講述若是使用這個PHP庫。

啓用 cURL 設置

首先，咱們得先要肯定咱們的PHP是否開啓了這個庫，你能夠經過使用php_info()函數來獲得這一信息。

<?php
phpinfo();
?>

若是你能夠在網頁上看到下面的輸出，那麼表示cURL庫已被開啓。

若是你看到的話，那麼你須要設置你的PHP並開啓這個庫。若是你是在Windows平臺下，那麼很是簡單，你須要改一改你的php.ini文件的設置，找到php_curl.dll，並取消前面的分號註釋就好了。以下所示：

//取消下在的註釋
extension=php_curl.dll

若是你是在Linux下面，那麼，你須要從新編譯你的PHP了，編輯時，你須要打開編譯參數——在configure命令上加上「–with-curl」 參數。

一個小示例

若是一切就緒，下面是一個小例程：

<?php
// 初始化一個 cURL 對象
$curl = curl_init();

// 設置你須要抓取的URL
curl_setopt($curl, CURLOPT_URL, 'http://cocre.com');

// 設置header
curl_setopt($curl, CURLOPT_HEADER, 1);

// 設置cURL 參數，要求結果保存到字符串中仍是輸出到屏幕上。
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);

// 運行cURL，請求網頁
$data = curl_exec($curl);

// 關閉URL請求
curl_close($curl);

// 顯示得到的數據
var_dump($data);
?>

如何POST數據

上面是抓取網頁的代碼，下面則是向某個網頁POST數據。假設咱們有一個處理表單的網址http://www.oschina.net/sendSMS.php，其能夠接受兩個表單域，一個是電話號碼，一個是短信內容。

<?php
$phoneNumber = '13912345678';
$message = 'This message was generated by curl and php';
$curlPost = 'pNUMBER=' . urlencode($phoneNumber) . '&MESSAGE=' . urlencode($message) . '&SUBMIT=Send';
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.oschina.net/sendSMS.php');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_POST, 1);
curl_setopt($ch, CURLOPT_POSTFIELDS, $curlPost);
$data = curl_exec();curl_close($ch);
?>

從上面的程序咱們能夠看到，使用CURLOPT_POST設置HTTP協議的POST方法，而不是GET方法，而後以CURLOPT_POSTFIELDS設置POST的數據。

關於代理服務器

下面是一個如何使用代理服務器的示例。請注意其中高亮的代碼，代碼很簡單，我就不用多說了。

<?php
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.oschina.net');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, 1);
curl_setopt($ch, CURLOPT_PROXY, 'fakeproxy.com:1080');
curl_setopt($ch, CURLOPT_PROXYUSERPWD, 'user:password');
$data = curl_exec();curl_close($ch);
?>

關於SSL和Cookie

關於SSL也就是HTTPS協議，你只須要把CURLOPT_URL鏈接中的http://變成https://就能夠了。固然，還有一個參數叫CURLOPT_SSL_VERIFYHOST能夠設置爲驗證站點。

關於Cookie，你須要瞭解下面三個參數：

CURLOPT_COOKIE，在當面的會話中設置一個cookie

CURLOPT_COOKIEJAR，當會話結束的時候保存一個Cookie

CURLOPT_COOKIEFILE，Cookie的文件。

HTTP服務器認證

最後，咱們來看一看HTTP服務器認證的狀況。

<?php
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.oschina.net');
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_BASIC);
curl_setopt(CURLOPT_USERPWD, '[username]:[password]')

$data = curl_exec();
curl_close($ch);
?>

關於其它更多的內容，請參看相關的cURL手冊。