python模塊之HTMLParser: 解析html,獲取url

時間 2019-11-11

標籤 python 模塊 htmlparser 解析 html 獲取 url 欄目 Python 简体版

原文原文鏈接

HTMLParser是python用來解析html的模塊。它能夠分析出html裏面的標籤、數據等等，是一種處理html的簡便途徑。 HTMLParser採用的是一種事件驅動的模式，當HTMLParser找到一個特定的標記時，它會去調用一個用戶定義的函數，以此來通知程序處理。它主要的用戶回調函數的命名都是以handler_開頭的，都是HTMLParser的成員函數。當咱們使用時，就從HTMLParser派生出新的類，然後從新定義這幾個以handler_開頭的函數便可。這幾個函數包括：
handle_startendtag 處理開始標籤和結束標籤
handle_starttag     處理開始標籤，好比<xx>
handle_endtag       處理結束標籤，好比</xx>
handle_charref      處理特殊字符串，就是以&#開頭的，通常是內碼錶示的字符
handle_entityref    處理一些特殊字符，以&開頭的，好比  
handle_data         處理數據，就是<xx>data</xx>中間的那些數據
handle_comment      處理註釋
handle_decl         處理<!開頭的，好比<!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"
handle_pi           處理形如<?instruction>的東西
    這裏我以從網頁中獲取到url爲例，介紹一下。要想獲取到url，確定是要分析<a>標籤，而後取到它的href屬性的值。下面是代碼：

# -*- encoding: gb2312 -*-
import HTMLParser

class MyParser(HTMLParser.HTMLParser):
     def __init__ (self):
        HTMLParser.HTMLParser. __init__ (self)

     def handle_starttag(self, tag, attrs):
         # 這裏從新定義了處理開始標籤的函數
         if tag == ' a ' :
             # 判斷標籤<a>的屬性
             for name,value in attrs:
                 if name == ' href ' :
                     print value


if __name__ == ' __main__ ' :
    a = ' <html><head><title>test</title><body><a href="http: //www.163.com">連接到163</a></body></html> '

    my = MyParser()
     # 傳入要分析的數據，是html的。
    my.feed(a)