PYTHON解析XML的多種方式效率對比實測

時間  2019-11-18
標籤 python 解析 xml 多種 方式 效率 對比 實測 欄目 Python 简体版
原文   原文鏈接

在最初學習PYTHON的時候，只知道有DOM和SAX兩種解析方法，可是其效率都不夠理想，因爲須要處理的文件數量太大，這兩種方式耗時過高沒法接受。git

在網絡搜索後發現，目前應用比較普遍，且效率相對較高的ElementTree也是一個比較多人推薦的算法，因而拿這個算法來實測對比，ElementTree也包括兩種實現，一個是普通ElementTree（ET），一個是ElementTree.iterparse（ET_iter）。github

本文將對DOM、SAX、ET、ET_iter四種方式進行橫向對比，經過處理相同文件比較各個算法的用時來評估其效率。算法

程序中將四種解析方法均寫爲函數，在主程序中分別調用，來評估其解析效率。網絡

解壓後的XML文件內容示例以下，我本身的需求是解析其中第一個measurement內容，其餘的內容丟棄。eNB的屬性以及object的屬性都須要解析並和v字段的文本一塊兒寫入csv文件。dom

<?xml version="1.0" encoding="UTF-8"?>
<bulkPmMrDataFile>
    <fileHeader fileFormatVersion="V1.0.4" reportTime="2016-02-22T21:00:00.000" ></fileHeader>
    <eNB id="122941">
        <measurement>
            <smr>MR.LteScRSRP MR.LteScRSRQ MR.LteScTadv MR.LteSceNBRxTxTimeDiff ...</smr>
            <object id="31472897" MmeUeS1apId="2417300878" MmeGroupId="1025" MmeCode="199" TimeStamp="2016-02-22T20:00:02.517">
                <v>38 22 6 31 34 0 34 38400 110 NIL NIL NIL NIL NIL NIL NIL NIL NIL NIL NIL 7 23 NIL 26 24 0 0 </v>
            </object>
            <object id="31472897" MmeUeS1apId="2416229278" MmeGroupId="1025" MmeCode="199" TimeStamp="2016-02-22T20:00:02.792">
                <v>61 30 5 32 45 0 27 38400 110 NIL NIL NIL NIL NIL NIL NIL NIL NIL NIL NIL 7 14 NIL 1 49 0 0 </v>
            </object>
            <object id="31472897" MmeUeS1apId="2148286566" MmeGroupId="1025" MmeCode="199" TimeStamp="2016-02-22T20:00:07.177">
                <v>42 26 5 31 30 412 35 38400 110 NIL NIL NIL NIL NIL NIL NIL NIL NIL NIL NIL 7 14 NIL 26 24 0 0 </v>
            </object>
            <object id="31472897" MmeUeS1apId="2417300878" MmeGroupId="1025" MmeCode="199" TimeStamp="2016-02-22T20:00:07.677">
                <v>39 22 7 31 35 387 36 38400 110 36 18 38400 108 NIL NIL NIL NIL NIL NIL NIL 5 10 NIL 25 25 0 0 </v>
            </object>
            <object id="31472897" MmeUeS1apId="2416229278" MmeGroupId="1025" MmeCode="199" TimeStamp="2016-02-22T20:00:07.962">
                <v>61 27 5 31 43 427 36 38400 110 49 4 38400 108 NIL NIL NIL NIL NIL NIL NIL 9 13 NIL 1 49 0 0 </v>
                <v>61 27 5 31 43 427 36 38400 110 46 0 38400 295 NIL NIL NIL NIL NIL NIL NIL 9 13 NIL 1 49 0 0 </v>
            </object>
            <object id="31472897" MmeUeS1apId="269973066" MmeGroupId="1025" MmeCode="199" TimeStamp="2016-02-22T20:00:08.382">
                <v>41 23 9 32 23 447 36 38400 110 32 11 38400 358 NIL NIL NIL NIL NIL NIL NIL 6 22 NIL 24 26 0 0 </v>
                <v>41 23 9 32 23 447 36 38400 110 31 7 38400 295 NIL NIL NIL NIL NIL NIL NIL 6 22 NIL 24 26 0 0 </v>
                <v>41 23 9 32 23 447 36 38400 110 28 8 38400 460 NIL NIL NIL NIL NIL NIL NIL 6 22 NIL 24 26 0 0 </v>
            </object>
        </measurement>
        <measurement>
            <smr>MR.LteScPlrULQci1 MR.LteScPlrULQci2 MR.LteScPlrULQci3 MR.LteScPlrULQci4 ...</smr>
            <object id="60057088" MmeUeS1apId="2416982066" MmeGroupId="1025" MmeCode="206" TimeStamp="2016-02-24T06:00:03.962">
                <v>NIL NIL NIL NIL NIL NIL NIL NIL 0 NIL NIL NIL NIL NIL NIL NIL NIL 0 </v>
            </object>
 .......................... </measurement>
        <measurement>
            <smr>MR.LteScRIP</smr>
            <object id="60057089:37900:2" TimeStamp="2016-02-24T06:00:11.259" MmeCode="NIL" MmeGroupId="NIL" MmeUeS1apId="NIL">
                <v>81</v>
            </object>
 .......................... </measurement>
    </eNB>
</bulkPmMrDataFile>

主程序函數調用部分代碼爲：函數

    print("文件計數：%d/%d." % (gz_cnt,paser_num)) str_s,cnt = dom_parser(gz) #str_s,cnt = sax_parser(gz)
    #str_s,cnt = ET_parser(gz)
    #str_s,cnt = ET_parser_iter(gz)
 output.write(str_s) vs_cnt += cnt

在最初的函數調用中函數返回兩個值，但接收函數調用值時用兩個變量分別調用，致使每一個函數都要執行兩次，以後修改成一次調用兩個變量接收返回值，減小了無效調用。工具

一、DOM解析學習

函數定義代碼：測試

def dom_parser(gz): import gzip,cStringIO import xml.dom.minidom vs_cnt = 0 str_s = ''
 file_io = cStringIO.StringIO() xm = gzip.open(gz,'rb') print("已讀入：%s.\n解析中：" % (os.path.abspath(gz))) doc = xml.dom.minidom.parseString(xm.read()) bulkPmMrDataFile = doc.documentElement #讀入子元素
    enbs = bulkPmMrDataFile.getElementsByTagName("eNB") measurements = enbs[0].getElementsByTagName("measurement") objects = measurements[0].getElementsByTagName("object") #寫入csv文件
    for object in objects: vs = object.getElementsByTagName("v") vs_cnt += len(vs) for v in vs: file_io.write(enbs[0].getAttribute("id")+' '+object.getAttribute("id")+' '+\ object.getAttribute("MmeUeS1apId")+' '+object.getAttribute("MmeGroupId")+' '+object.getAttribute("MmeCode")+' '+\ object.getAttribute("TimeStamp")+' '+v.childNodes[0].data+'\n')  #獲取文本值
    str_s = (((file_io.getvalue().replace(' \n','\r\n')).replace(' ',',')).replace('T',' ')).replace('NIL','') xm.close() file_io.close() return (str_s,vs_cnt)

程序運行結果：spa

**************************************************
程序處理啓動。 輸入目錄爲：/tmcdata/mro2csv/input31/。 輸出目錄爲：/tmcdata/mro2csv/output31/。 輸入目錄下.gz文件個數爲：12，本次處理其中的12個。 **************************************************
文件計數：1/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz. 解析中： 文件計數：2/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz. 解析中： 文件計數：3/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz. 解析中： ……………………………………… 文件計數：12/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz. 解析中： VS行計數：177849，運行時間：107.077867，每秒處理行數：1660。 已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。 **************************************************
程序處理結束。

因爲DOM解析須要將整個文件讀入內存，並創建樹結構，其內存消耗和時間消耗都比較高，但其優勢在於邏輯簡單，不須要定義回調函數，便於實現。

二、SAX解析

函數定義代碼：

def sax_parser(gz): import os,gzip,cStringIO from xml.parsers.expat import ParserCreate #變量聲明
    d_eNB = {} d_obj = {} s = ''
    global flag flag = False file_io = cStringIO.StringIO() #Sax解析類
    class DefaultSaxHandler(object): #處理開始標籤
        def start_element(self, name, attrs): global d_eNB global d_obj global vs_cnt if name == 'eNB': d_eNB = attrs elif name == 'object': d_obj = attrs elif name == 'v': file_io.write(d_eNB['id']+' '+ d_obj['id']+' '+d_obj['MmeUeS1apId']+' '+d_obj['MmeGroupId']+' '+d_obj['MmeCode']+' '+d_obj['TimeStamp']+' ') vs_cnt += 1
            else: pass
        #處理中間文本
        def char_data(self, text): global d_eNB global d_obj global flag if text[0:1].isnumeric(): file_io.write(text) elif text[0:17] == 'MR.LteScPlrULQci1': flag = True #print(text,flag)
            else: pass
        #處理結束標籤
        def end_element(self, name): global d_eNB global d_obj if name == 'v': file_io.write('\n') else: pass
    
    #Sax解析調用
    handler = DefaultSaxHandler() parser = ParserCreate() parser.StartElementHandler = handler.start_element parser.EndElementHandler = handler.end_element parser.CharacterDataHandler = handler.char_data vs_cnt = 0 str_s = ''
 xm = gzip.open(gz,'rb') print("已讀入：%s.\n解析中：" % (os.path.abspath(gz))) for line in xm.readlines(): parser.Parse(line) #解析xml文件內容
        if flag: break
 str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')    #寫入解析後內容
 xm.close() file_io.close() return (str_s,vs_cnt)

程序運行結果：

**************************************************
程序處理啓動。 輸入目錄爲：/tmcdata/mro2csv/input31/。 輸出目錄爲：/tmcdata/mro2csv/output31/。 輸入目錄下.gz文件個數爲：12，本次處理其中的12個。 **************************************************
文件計數：1/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz. 解析中： 文件計數：2/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz. 解析中： 文件計數：3/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz. 解析中： ......................................... 文件計數：12/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz. 解析中： VS行計數：177849，運行時間：14.386779，每秒處理行數：12361。 已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。 **************************************************
程序處理結束。

SAX解析相比DOM解析，運行時間大幅縮短，因爲SAX採用逐行解析，對於處理較大文件其佔用內存也少，所以SAX解析是目前應用較多的一種解析方法。其缺點在於須要本身實現回調函數，邏輯較爲複雜。

三、ET解析

函數定義代碼：

def ET_parser(gz): import os,gzip,cStringIO import xml.etree.cElementTree as ET vs_cnt = 0 str_s = ''
 file_io = cStringIO.StringIO() xm = gzip.open(gz,'rb') print("已讀入：%s.\n解析中：" % (os.path.abspath(gz))) tree = ET.ElementTree(file=xm) root = tree.getroot() for elem in root[1][0].findall('object'): for v in elem.findall('v'): file_io.write(root[1].attrib['id']+' '+elem.attrib['TimeStamp']+' '+elem.attrib['MmeCode']+' '+\
                    elem.attrib['id']+' '+ elem.attrib['MmeUeS1apId']+' '+ elem.attrib['MmeGroupId']+' '+ v.text+'\n') vs_cnt += 1
 str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')    #寫入解析後內容
 xm.close() file_io.close() return (str_s,vs_cnt)

程序運行結果：

**************************************************
程序處理啓動。 輸入目錄爲：/tmcdata/mro2csv/input31/。 輸出目錄爲：/tmcdata/mro2csv/output31/。 輸入目錄下.gz文件個數爲：12，本次處理其中的12個。 **************************************************
文件計數：1/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz. 解析中： 文件計數：2/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz. 解析中： 文件計數：3/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz. 解析中： ........................................... 文件計數：12/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz. 解析中： VS行計數：177849，運行時間：4.308103，每秒處理行數：41282。 已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。 **************************************************
程序處理結束。

相較於SAX解析，ET解析時間更短，而且函數實現也比較簡單，因此ET具備相似DOM的簡單邏輯實現且匹敵SAX的解析效率，所以ET是目前XML解析的首選。

四、ET_iter解析

函數定義代碼：

def ET_parser_iter(gz): import os,gzip,cStringIO import xml.etree.cElementTree as ET vs_cnt = 0 str_s = ''
 file_io = cStringIO.StringIO() xm = gzip.open(gz,'rb') print("已讀入：%s.\n解析中：" % (os.path.abspath(gz))) d_eNB = {} d_obj = {} i = 0 for event,elem in ET.iterparse(xm,events=('start','end')): if i >= 2: break        
        elif event == 'start': if elem.tag == 'eNB': d_eNB = elem.attrib elif elem.tag == 'object': d_obj = elem.attrib elif event == 'end' and elem.tag == 'smr': i += 1
        elif event == 'end' and elem.tag == 'v': file_io.write(d_eNB['id']+' '+d_obj['TimeStamp']+' '+d_obj['MmeCode']+' '+d_obj['id']+' '+\
                    d_obj['MmeUeS1apId']+' '+ d_obj['MmeGroupId']+' '+str(elem.text)+'\n') vs_cnt += 1
 elem.clear() str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')    #寫入解析後內容
 xm.close() file_io.close() return (str_s,vs_cnt)

程序運行結果：

**************************************************
程序處理啓動。 輸入目錄爲：/tmcdata/mro2csv/input31/。 輸出目錄爲：/tmcdata/mro2csv/output31/。 輸入目錄下.gz文件個數爲：12，本次處理其中的12個。 **************************************************
文件計數：1/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz. 解析中： 文件計數：2/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz. 解析中： 文件計數：3/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz. 解析中： ................................................... 文件計數：12/12. 已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz. 解析中： VS行計數：177849，運行時間：3.043805，每秒處理行數：58429。 已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。 **************************************************
程序處理結束。

在引入了ET_iter解析後，解析效率比ET提高了近50%，而相較於DOM解析更是提高了35倍，在解析效率提高的同時，因爲其採用了iterparse這個循序解析的工具，其內存佔用也是比較小的。

因此，小夥伴們，請好好利用這幾種工具吧。

主程序文件爲./xml_parser/os_walk_dom_parser_func.py，測試用mro文件目錄爲：./mro

測試用的程序和文件能夠到個人github頁面下載，歡迎小夥伴們一塊兒學習討論。

相關文章
相關標籤/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公眾號
   歡迎關注本站公眾號,獲取更多信息
聯繫我們 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程