PANDAS 數據合併與重塑（join/merge篇）

pandas中也經常用到的join 和merge方法

merge

pandas的merge方法提供了一種相似於SQL的內存連接操做，官網文檔提到它的性能會比其餘開源語言的數據操做（例如R）要高效。

和SQL語句的對比能夠看這裏

merge的參數

on：列名，join用來對齊的那一列的名字，用到這個參數的時候必定要保證左表和右表用來對齊的那一列都有相同的列名。

left_on：左表對齊的列，能夠是列名，也能夠是和dataframe一樣長度的arrays。

right_on：右表對齊的列，能夠是列名，也能夠是和dataframe一樣長度的arrays。

left_index/ right_index: 若是是True的haunted以index做爲對齊的key

how：數據融合的方法。

sort：根據dataframe合併的keys按字典順序排序，默認是，若是置false能夠提升表現。

merge的默認合併方法：
    merge用於表內部基於 index-on-index 和 index-on-column(s) 的合併，但默認是基於index來合併。

• 1
• 2
• 3

1.1 複合key的合併方法

使用merge的時候能夠選擇多個key做爲複合能夠來對齊合併。

• 1
• 2

1.1.1 經過on指定數據合併對齊的列

In [41]: left = pd.DataFrame({'key1': ['K0', 'K0', 'K1', 'K2'], ....: 'key2': ['K0', 'K1', 'K0', 'K1'], ....: 'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3']}) ....: In [42]: right = pd.DataFrame({'key1': ['K0', 'K1', 'K1', 'K2'], ....: 'key2': ['K0', 'K0', 'K0', 'K0'], ....: 'C': ['C0', 'C1', 'C2', 'C3'], ....: 'D': ['D0', 'D1', 'D2', 'D3']}) ....: In [43]: result = pd.merge(left, right, on=['key1', 'key2'])

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11
• 12
• 13

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11
• 12
• 13

沒有指定how的話默認使用inner方法。

how的方法有：

left

只保留左表的全部數據

In [44]: result = pd.merge(left, right, how='left', on=['key1', 'key2'])

• 1

• 1

right

只保留右表的全部數據

In [45]: result = pd.merge(left, right, how='right', on=['key1', 'key2'])

• 1

• 1

outer

保留兩個表的全部信息

In [46]: result = pd.merge(left, right, how='outer', on=['key1', 'key2'])

• 1

• 1

inner

只保留兩個表中公共部分的信息

In [47]: result = pd.merge(left, right, how='inner', on=['key1', 'key2'])

• 1

• 1

1.2 indicator

v0.17.0 版本的pandas開始還支持一個indicator的參數，若是置True的時候，輸出結果會增長一列 ’ _merge’。_merge列能夠取三個值

1. left_only 只在左表中
2. right_only 只在右表中
3. both 兩個表中都有

1.3 join方法

dataframe內置的join方法是一種快速合併的方法。它默認以index做爲對齊的列。

1.3.1 how 參數

join中的how參數和merge中的how參數同樣，用來指定表合併保留數據的規則。

具體可見前面的 how 說明。

1.3.2 on 參數

在實際應用中若是右表的索引值正是左表的某一列的值，這時能夠經過將 右表的索引 和 左表的列 對齊合併這樣靈活的方式進行合併。

ex 1

In [59]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3'], ....: 'key': ['K0', 'K1', 'K0', 'K1']}) ....: In [60]: right = pd.DataFrame({'C': ['C0', 'C1'], ....: 'D': ['D0', 'D1']}, ....: index=['K0', 'K1']) ....: In [61]: result = left.join(right, on='key')

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11

1.3.3 suffix後綴參數

若是和表合併的過程當中遇到有一列兩個表都同名，可是值不一樣，合併的時候又都想保留下來，就能夠用suffixes給每一個表的重複列名增長後綴。

In [79]: result = pd.merge(left, right, on='k', suffixes=['_l', '_r']) 

• 1
• 2

• 1
• 2

*　另外還有lsuffix 和 rsuffix分別指定左表的後綴和右表的後綴。

1.4 組合多個dataframe

一次組合多個dataframe的時候能夠傳入元素爲dataframe的列表或者tuple。一次join多個，一次解決屢次煩惱~

In [83]: right2 = pd.DataFrame({'v': [7, 8, 9]}, index=['K1', 'K1', 'K2']) In [84]: result = left.join([right, right2])

• 1
• 2
• 3

• 1
• 2
• 3

1.5 更新表的nan值

1.5.1 combine_first

若是一個表的nan值，在另外一個表相同位置（相同索引和相同列）能夠找到，則能夠經過combine_first來更新數據

1.5.2 update

若是要用一張表中的數據來更新另外一張表的數據則能夠用update來實現

1.5.3 combine_first 和 update 的區別

使用combine_first會只更新左表的nan值。而update則會更新左表的全部能在右表中找到的值（兩表位置相對應）。

示例代碼參考來源——官網