這裏以PHP版爲例,儘可能說得通俗點吧,水平實在有限,見諒。php
目前我這裏全部的獲取全文輸出的網站大概是三種狀況:html
- 要輸出的內容集中在一頁上,也就是看似列表頁的頁面裏集中了你想要的全部內容,並不須要點擊「更多」或「繼續閱讀」才能看到文章總體。好比糗事百科、wiki。
- 有列表頁,要查看相應文章必須點擊連接進入。
- json方式寫入。特徵就是查看源文件並不能找到你在瀏覽器中看到的內容。好比騰訊新聞圖片(連接),它的真正內容在這(連接)。
第一種最省事,第二種最多見,第三種稍麻煩。json
今天先講第二種。瀏覽器
以國家地理中文網宇宙空間爲例(連接),先看代碼:(把下列源碼存爲space.php)服務器
- <?php
- include "gethtml.php";
- $regex_link = '/(?<=<dt><a href=").+?(?=")/s';
- $regex_tit = '/(?<=<title>)(.+?)(?= -)/s';
- $regex_con = '/<div id="detailMain_box_img".*?(?=<div class="M-L-article-last-p" >)/s';
- $header='<?xml version="1.0" encoding="utf-8"?><rss version="2.0"><channel><title>國家地理中文網宇宙空間</title>';
- $footer='</channel></rss>';
- $html=gethtml('http://www.nationalgeographic.com.cn/science/space/');
- if(preg_match_all($regex_link, $html, $links)){
- $size=count($links[0]);
- for($i=0;$i<$size;$i++){
- $link=preg_replace('/(.+)/','http://www.nationalgeographic.com.cn$1',$links[0][$i]);
- $content=gethtml($link);
- preg_match($regex_con,$content,$article);
- preg_match($regex_tit,$content,$title);
- $rss.='<item><title>'.$title[0].'</title><link><![CDATA['.$link.']]></link><description><![CDATA['.$article[0].']]></description></item>';
- }
- file_put_contents('space.xml',$header.$rss.$footer);
- }
- ?>
重點是第8行日後。只解釋我認爲重要的,不明白的能夠討論。app
第2行,引入gethtml方法,來自下面的代碼。curl
看一下第8行gethtml(‘http://www.nationalgeographic.com.cn/science/space/’)獲得了什麼(連接),雖然有點亂,可是目的達到了,http://www.nationalgeographic.com.cn/science/space/ 我已經抓到本地服務器上。網站
第9行是要挑出須要的連接 $links(連接)url
第13行利用這些連接繼續抓取頁面 $content=gethtml($link)spa
第1四、15行從$content裏查找須要的$title(文章標題)和$article(文章內容)
後面就是按RSS要求的格式輸出,並最終生成xml文件。
上面我說的查找、挑出都是用正則來實現的,此外最好對html特別熟悉,操做起來才能駕輕就熟。
=================================================
下面是在別人的基礎上本身總結的利用curl抓取頁面的方法,把下面源碼存爲gethtml.php,我全部的抓取都是用的這個方法,固然,省事的話能夠用 file_get_contents,那就是真正的20行代碼完成全文RSS輸出了,不過可選的參數就沒有了,有的頁面會抓取不到。
- <?php
- error_reporting(E_ERROR);
- function gethtml($url,$json){
- $args = json_decode($json,true);
- $useragent = $args["useragent"]?$args["useragent"]:'Mozilla/5.0';
- $timeout = $args["timeout"]?$args["timeout"]:9000;
- $ch = curl_init();
- $options = array(
- CURLOPT_URL => $url,
- CURLOPT_USERAGENT => $useragent,
- CURLOPT_TIMEOUT_MS => $timeout,
- CURLOPT_NOSIGNAL => 1,
- CURLOPT_HEADER => 0,
- CURLOPT_RETURNTRANSFER => 1,
- CURLOPT_FOLLOWLOCATION => 1
- );
- if($args["ip"]){
- $options[CURLOPT_HTTPHEADER] = array('CLIENT-IP:'.$args["ip"],'X-FORWARDED-FOR:'.$args["ip"]);
- }
- if (preg_match('/^https/',$url)){
- $options[CURLOPT_SSL_VERIFYHOST] = 1;
- $options[CURLOPT_SSL_VERIFYPEER] = 0;
- }
- curl_setopt_array($ch, $options);
- $data = curl_exec($ch);
- $curl_errno = curl_errno($ch);
- curl_close($ch);
- if($curl_errno>0){
- return 'error';
- }else{
- return $data;
- }
- }
- ?>
原文:http://www.rssfull.net/turorial160710