PANDAS 數據合併與重塑（concat篇）

pandas做者Wes McKinney 在【PYTHON FOR DATA ANALYSIS】中對pandas的方方面面都有了一個權威簡明的入門級的介紹，但在實際使用過程當中，我發現書中的內容還只是冰山一角。談到pandas數據的行更新、表合併等操做，通常用到的方法有concat、join、merge。但這三種方法對於不少新手來講，都不太好分清使用的場合與用途。今天就pandas官網中關於數據合併和重述的章節作個使用方法的總結。

• 文中代碼塊主要有pandas官網教程提供。

1 concat

concat函數是在pandas底下的方法，能夠將數據根據不一樣的軸做簡單的融合

pd.concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,
       keys=None, levels=None, names=None, verify_integrity=False)

參數說明
objs: series，dataframe或者是panel構成的序列lsit
axis： 須要合併連接的軸，0是行，1是列
join：鏈接的方式 inner，或者outer

其餘一些參數不經常使用，用的時候再補上說明。

1.1 相同字段的表首尾相接

 

# 現將表構成list，而後在做爲concat的輸入
In [4]: frames = [df1, df2, df3]

In [5]: result = pd.concat(frames)

要在相接的時候在加上一個層次的key來識別數據源自於哪張表，能夠增長key參數

In [6]: result = pd.concat(frames, keys=['x', 'y', 'z'])

效果以下

1.2 橫向表拼接（行對齊）

1.2.1 axis

當axis = 1的時候，concat就是行對齊，而後將不一樣列名稱的兩張表合併

In [9]: result = pd.concat([df1, df4], axis=1)

 

1.2.2 join

加上join參數的屬性，若是爲’inner’獲得的是兩表的交集，若是是outer，獲得的是兩表的並集。

In [10]: result = pd.concat([df1, df4], axis=1, join='inner')

 

1.2.3 join_axes

若是有join_axes的參數傳入，能夠指定根據那個軸來對齊數據
例如根據df1表對齊數據，就會保留指定的df1表的軸，而後將df4的表與之拼接

In [11]: result = pd.concat([df1, df4], axis=1, join_axes=[df1.index])

 

1.3 append

append是series和dataframe的方法，使用它就是默認沿着列進行憑藉（axis = 0，列對齊）

In [12]: result = df1.append(df2)

 

1.4 無視index的concat

若是兩個表的index都沒有實際含義，使用ignore_index參數，置true，合併的兩個表就睡根據列字段對齊，而後合併。最後再從新整理一個新的index。

1.5 合併的同時增長區分數據組的鍵

前面提到的keys參數能夠用來給合併後的表增長key來區分不一樣的表數據來源

1.5.1 能夠直接用key參數實現

In [27]: result = pd.concat(frames, keys=['x', 'y', 'z'])

 

1.5.2 傳入字典來增長分組鍵

In [28]: pieces = {'x': df1, 'y': df2, 'z': df3}

In [29]: result = pd.concat(pieces)

 

1.6 在dataframe中加入新的行

append方法能夠將 series 和 字典就夠的數據做爲dataframe的新一行插入。

In [34]: s2 = pd.Series(['X0', 'X1', 'X2', 'X3'], index=['A', 'B', 'C', 'D'])

In [35]: result = df1.append(s2, ignore_index=True)

表格列字段不一樣的表合併

若是遇到兩張表的列字段原本就不同，但又想將兩個表合併，其中無效的值用nan來表示。那麼可使用ignore_index來實現。

 

In [36]: dicts = [{'A': 1, 'B': 2, 'C': 3, 'X': 4},
   ....:          {'A': 5, 'B': 6, 'C': 7, 'Y': 8}]
   ....: 

In [37]: result = df1.append(dicts, ignore_index=True)