java爬取網頁內容 簡單例子（2）——附jsoup的select用法詳解

【背景】

　　在上一篇博文 java爬取網頁內容 簡單例子（1）——使用正則表達式 裏面，介紹瞭如何使用正則表達式去解析網頁的內容，雖然該正則表達式比較通用，但繁瑣，代碼量多，現實中想要想出一條簡單的正則表達式 對於沒有很好正則表達式基礎的人——好比說我T_T——是一件蠻困難的事。這一篇，咱們改用jsoup，一個強大的解析html工具，去解析html，你會發現，一切都變得很容易。

 

【準備工做】

下載：jsoup-1.6.1.jar

 

【先看效果】

目標網站：中國天氣 

目的：獲取今天的天氣

目標HTML代碼：

<li class="dn on" data-dn="7d1">
      <h1>今天</h1>
      <h2>8日</h2>
      <big class="jpg50 d04"></big>
      <big class="jpg50 n04"></big>    
      <p class="wea" title="雷陣雨">雷陣雨</p>
      <p class="tem tem1"> <span>33</span><i>°C</i> </p>
      <p class="tem tem2"> <span>25</span><i>°C</i> </p>
      <p class="win">
            <em>
                  <span title="無持續風向" class=""></span>
                  <span title="無持續風向" class=""></span>
            </em>
            <i>微風</i>
      </p>
      <div class="slid"></div>
</li>

View Code

 

解析的java代碼：

（1）審查網頁元素後發現，咱們要的內容在上面的目標HTML代碼中，在整個網頁中是在 class="dn on" data-dn="7d1" 的<li>中

（2）「今天」 兩字在<h1></h1>中

（3）「8日」 兩字在<h2></h2>中

（4）「雷陣雨」 三字在 class="wea" 中

（5）「33」 在第一個<span>中

（6）「25」 在第二個<span>中

（7）「微風」 兩字在 第三個<i> 中

有了上面的分析，要獲取到這些天氣內容就易如反掌了。以下java代碼：

 1 package com.zjm.www.test;
 2 
 3 import java.io.IOException;
 4 
 5 import org.jsoup.Jsoup;
 6 import org.jsoup.nodes.Document;
 7 import org.jsoup.select.Elements;
 8 
 9 public class TestJsoup {
10     
11     public  Document getDocument (String url){
12         try {
13             return Jsoup.connect(url).get();
14         } catch (IOException e) {
15             e.printStackTrace();
16         }
17         return null;
18     }
19 
20     public static void main(String[] args) {
21         TestJsoup t = new TestJsoup();
22         Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml");
23         // 獲取目標HTML代碼
24         Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");
25         // 今天
26         Elements elements2 = elements1.select("h1");
27         String today = elements2.get(0).text();
28         System.out.println(today);
29         // 幾號
30         Elements elements3 = elements1.select("h2");
31         String number = elements3.get(0).text();
32         System.out.println(number);
33         // 是否有雨
34         Elements elements4 = elements1.select("[class=wea]");
35         String rain = elements4.get(0).text();
36         System.out.println(rain);
37         // 高的溫度
38         Elements elements5 = elements1.select("span");
39         String highTemperature = elements5.get(0).text()+"°C";
40         System.out.println(highTemperature);
41         // 低的溫度
42         String lowTemperature = elements5.get(1).text()+"°C";
43         System.out.println(lowTemperature);
44         // 風力
45         Elements elements6 = elements1.select("i");
46         String wind = elements6.get(2).text();
47         System.out.println(wind);
48     }
49 }

View Code

 

結果打印出：

1 今天
2 8日
3 雷陣雨
4 33°C
5 25°C
6 微風

 

【詳解】

附:

• jsoup的官方中文文檔爲：http://www.open-open.com/
• API爲：http://jsoup.org/apidocs/

java代碼第13行：

　　從文檔中咱們可用看出，獲取數據源的方法有三：

（1）從一段html代碼字符串獲取：　　Document doc = Jsoup.parse(html);

（2）從一個url獲取：　　　　　　　　Document doc = Jsoup.connect("http://example.com/").get();

（3）從一個html文件獲取　　　　　　File input = new File("/tmp/input.html");    Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");

這裏，咱們採起了第二種方法，從url中獲取。

java代碼第2四、2六、30、3四、38行：

　　Document 繼承自 Element 類， 而Element類有一個很好的方法，叫select ， 這個選擇器幾乎無所不能。快速從一堆html代碼中獲取咱們想要的一段，我以爲使用select最方便。下面咱們來看怎麼使用select方法來查找。

注：如下表格的結果都是使用如下語句打印出來的

for(Element e : elements) {
            System.out.println(e.text());
        }

 

select詳解
描述	測試的HTML代碼	select寫法	結果
經過 標籤名 來查找	<span>33</span> <span>25</span>	Elements elements = doc.select("span");   注：經過標籤來查找，直接寫 "標籤名" 就好，不須要尖括號。	33 25
經過  id  來查找	<span id=\"mySpan\">36</span> <span>20</span>	Elements elements = doc.select("#mySpan");  注：經過id來查找，使用方法跟css指定元素同樣，用#	36
經過  class名  來查找	<span class=\"myClass\">36</span> <span>20</span>	Elements elements = doc.select(".myClass"); 注：經過id來查找，使用方法跟css指定元素同樣，用 .	36
利用標籤內  屬性名  查找元素	<span class=\"class1\" id=\"id1\">36</span> <span class=\"class2\" id=\"id2\">36</span>	Elements elements = doc.select("span[class=class1]span[id=id1]");  注：規則爲 標籤名【屬性名=屬性值】，標籤名可寫可不寫，多個屬性即多個【】，如上。	36
利用標籤內  屬性名前綴  查找元素	<span class=\"class1\" >36</span> <span class=\"class2\" >22</span>	Elements elements = doc.select("span[^cl]");  注：規則爲 標籤名【^屬性名前綴】，標籤名可寫可不寫，多個屬性即多個【】。	36 22
利用標籤內 屬性名+正則表達式 查找元素	<span class=\"ABC\" >36</span> <span class=\"ADE\" >22</span>	Elements elements = doc.select("span[class~=^AB]");  注：規則爲 標籤名【屬性名~=正則表達式】，以上的正則表達式的意思是查找以class值以AB爲開頭的標籤，標籤名可寫可不寫，多個屬性即多個【】	36
利用標籤 文本包含某些內容 來查找	<span>36</span> <span>22</span>	Elements elements = doc.select("span:contains(3)");  注：規則爲 標籤名:contains(文本值)	36
利用標籤 文本包含某些內容+正則表達式 來查找	<span>36</span> <span>22</span>	Elements elements = doc.select("span:matchesOwn(^3)");  注：規則爲 標籤名:matchesOwn(正則表達式)，以上的正則表式的意思是以文本值以3爲開頭的標籤	36

關於select，還有一些其餘的查找方法，以上只列出我的以爲比較好用、經常使用的語法。

select方法返回的是一個Elements 對象，裏面包含着找到的全部節點。遍歷Elements ，經過get（index），就能夠拿出具體的 節點了。經過節點的text()方法，就可用拿出文本值。

而想獲得節點的其餘屬性，能夠看API的介紹。

 

【結語】

jsoup還有其餘強大的功能，在此只介紹其在獲取網頁特定內容的寫法。但願對剛接觸jsoup的人有幫助。

若是本文有哪裏寫得很差或寫錯，歡迎各位提出來，感激涕零~