使用 chardet 能夠很方便的實現字符串/文件的編碼檢測。尤爲是中文網頁,有的頁面使用GBK/GB2312,有的使用UTF8,若是你須要去爬一些頁面,知道網頁編碼很重要的,雖然HTML頁面有charset標籤,可是有些時候是不對的。那麼chardet就能幫咱們大忙了。 python
>>> import urllib >>> rawdata = urllib.urlopen('http://www.google.cn/').read() >>> import chardet >>> chardet.detect(rawdata) {'confidence': 0.98999999999999999, 'encoding': 'GB2312'} >>>
chardet能夠直接用detect函數來檢測所給字符的編碼。函數返回值爲字典,有2個元數,一個是檢測的可信度,另一個就是檢測到的編碼。 shell
chardet 安裝下載chardet後,解壓chardet壓縮包,直接將chardet文件夾放在應用程序目錄下,就能夠使用import chardet開始使用chardet了。 ide
或者使用setup.py安裝文件,將chardet拷貝到Python系統目錄下,這樣你全部的python程序只要用import chardet就能夠了。 函數
參考 google