Pandas高級教程之:Dataframe的合併
簡介
Pandas提供了不少合併Series和Dataframe的強大的功能，經過這些功能能夠方便的進行數據分析。本文將會詳細講解如何使用Pandas來合併Series和Dataframe。python
使用concat
concat是最經常使用的合併DF的方法，先看下concat的定義：數據庫
pd.concat(objs, axis=0, join='outer', ignore_index=False, keys=None,
levels=None, names=None, verify_integrity=False, copy=True)
看一下咱們常常會用到的幾個參數：app
objs是Series或者Series的序列或者映射。spa
axis指定鏈接的軸。code
join : {‘inner’, ‘outer’}, 鏈接方式，怎麼處理其餘軸的index，outer表示合併，inner表示交集。排序
ignore_index： 忽略本來的index值，使用0,1,… n-1來代替。教程
copy：是否進行拷貝。rem
keys：指定最外層的多層次結構的index。字符串
咱們先定義幾個DF，而後看一下怎麼使用concat把這幾個DF鏈接起來：get
In [1]: df1 = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'],
...: 'B': ['B0', 'B1', 'B2', 'B3'],
...: 'C': ['C0', 'C1', 'C2', 'C3'],
...: 'D': ['D0', 'D1', 'D2', 'D3']},
...: index=[0, 1, 2, 3])
...:
In [2]: df2 = pd.DataFrame({'A': ['A4', 'A5', 'A6', 'A7'],
...: 'B': ['B4', 'B5', 'B6', 'B7'],
...: 'C': ['C4', 'C5', 'C6', 'C7'],
...: 'D': ['D4', 'D5', 'D6', 'D7']},
...: index=[4, 5, 6, 7])
...:
In [3]: df3 = pd.DataFrame({'A': ['A8', 'A9', 'A10', 'A11'],
...: 'B': ['B8', 'B9', 'B10', 'B11'],
...: 'C': ['C8', 'C9', 'C10', 'C11'],
...: 'D': ['D8', 'D9', 'D10', 'D11']},
...: index=[8, 9, 10, 11])
...:
In [4]: frames = [df1, df2, df3]
In [5]: result = pd.concat(frames)
df1,df2,df3定義了一樣的列名和不一樣的index，而後將他們放在frames中構成了一個DF的list，將其做爲參數傳入concat就能夠進行DF的合併。
舉個多層級的例子：
In [6]: result = pd.concat(frames, keys=['x', 'y', 'z'])
使用keys能夠指定frames中不一樣frames的key。
使用的時候，咱們能夠經過選擇外部的key來返回特定的frame：
In [7]: result.loc['y']
Out[7]:
A B C D
4 A4 B4 C4 D4
5 A5 B5 C5 D5
6 A6 B6 C6 D6
7 A7 B7 C7 D7
上面的例子鏈接的軸默認是0，也就是按行來進行鏈接，下面咱們來看一個例子按列來進行鏈接，若是要按列來鏈接，能夠指定axis=1：
In [8]: df4 = pd.DataFrame({'B': ['B2', 'B3', 'B6', 'B7'],
...: 'D': ['D2', 'D3', 'D6', 'D7'],
...: 'F': ['F2', 'F3', 'F6', 'F7']},
...: index=[2, 3, 6, 7])
...:
In [9]: result = pd.concat([df1, df4], axis=1, sort=False)
默認的 join='outer'，合併以後index不存在的地方會補全爲NaN。
下面看一個join='inner'的狀況：
In [10]: result = pd.concat([df1, df4], axis=1, join='inner')
join='inner' 只會選擇index相同的進行展現。
若是合併以後，咱們只想保存原來frame的index相關的數據，那麼可使用reindex：
In [11]: result = pd.concat([df1, df4], axis=1).reindex(df1.index)
或者這樣：
In [12]: pd.concat([df1, df4.reindex(df1.index)], axis=1)
Out[12]:
A B C D B D F
0 A0 B0 C0 D0 NaN NaN NaN
1 A1 B1 C1 D1 NaN NaN NaN
2 A2 B2 C2 D2 B2 D2 F2
3 A3 B3 C3 D3 B3 D3 F3
看下結果：
能夠合併DF和Series：
In [18]: s1 = pd.Series(['X0', 'X1', 'X2', 'X3'], name='X') In [19]: result = pd.concat([df1, s1], axis=1)
若是是多個Series，使用concat能夠指定列名：
In [23]: s3 = pd.Series([0, 1, 2, 3], name='foo') In [24]: s4 = pd.Series([0, 1, 2, 3]) In [25]: s5 = pd.Series([0, 1, 4, 5])
In [27]: pd.concat([s3, s4, s5], axis=1, keys=['red', 'blue', 'yellow']) Out[27]: red blue yellow 0 0 0 0 1 1 1 1 2 2 2 4 3 3 3 5
使用append
append能夠看作是concat的簡化版本，它沿着axis=0 進行concat：
In [13]: result = df1.append(df2)
若是append的兩個 DF的列是不同的會自動補全NaN：
In [14]: result = df1.append(df4, sort=False)
若是設置ignore_index=True，能夠忽略原來的index，並重寫分配index：
In [17]: result = df1.append(df4, ignore_index=True, sort=False)
向DF append一個Series：
In [35]: s2 = pd.Series(['X0', 'X1', 'X2', 'X3'], index=['A', 'B', 'C', 'D']) In [36]: result = df1.append(s2, ignore_index=True)
使用merge
和DF最相似的就是數據庫的表格，可使用merge來進行相似數據庫操做的DF合併操做。
先看下merge的定義：
pd.merge(left, right, how='inner', on=None, left_on=None, right_on=None,
left_index=False, right_index=False, sort=True,
suffixes=('_x', '_y'), copy=True, indicator=False,
validate=None)
Left, right是要合併的兩個DF 或者 Series。
on表明的是join的列或者index名。
left_on:左鏈接
right_on：右鏈接
left_index: 鏈接以後，選擇使用左邊的index或者column。
right_index:鏈接以後，選擇使用右邊的index或者column。
how：鏈接的方式，'left', 'right', 'outer', 'inner'. 默認 inner.
sort: 是否排序。
suffixes: 處理重複的列。
copy: 是否拷貝數據
先看一個簡單merge的例子：
In [39]: left = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3'],
....: 'A': ['A0', 'A1', 'A2', 'A3'],
....: 'B': ['B0', 'B1', 'B2', 'B3']})
....:
In [40]: right = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3'],
....: 'C': ['C0', 'C1', 'C2', 'C3'],
....: 'D': ['D0', 'D1', 'D2', 'D3']})
....:
In [41]: result = pd.merge(left, right, on='key')
上面兩個DF經過key來進行鏈接。
再看一個多個key鏈接的例子：
In [42]: left = pd.DataFrame({'key1': ['K0', 'K0', 'K1', 'K2'],
....: 'key2': ['K0', 'K1', 'K0', 'K1'],
....: 'A': ['A0', 'A1', 'A2', 'A3'],
....: 'B': ['B0', 'B1', 'B2', 'B3']})
....:
In [43]: right = pd.DataFrame({'key1': ['K0', 'K1', 'K1', 'K2'],
....: 'key2': ['K0', 'K0', 'K0', 'K0'],
....: 'C': ['C0', 'C1', 'C2', 'C3'],
....: 'D': ['D0', 'D1', 'D2', 'D3']})
....:
In [44]: result = pd.merge(left, right, on=['key1', 'key2'])
How 能夠指定merge方式，和數據庫同樣，能夠指定是內鏈接，外鏈接等：
| 合併方法 | SQL 方法 |
|---|---|
left |
LEFT OUTER JOIN |
right |
RIGHT OUTER JOIN |
outer |
FULL OUTER JOIN |
inner |
INNER JOIN |
In [45]: result = pd.merge(left, right, how='left', on=['key1', 'key2'])
指定indicator=True ，能夠表示具體行的鏈接方式：
In [60]: df1 = pd.DataFrame({'col1': [0, 1], 'col_left': ['a', 'b']})
In [61]: df2 = pd.DataFrame({'col1': [1, 2, 2], 'col_right': [2, 2, 2]})
In [62]: pd.merge(df1, df2, on='col1', how='outer', indicator=True)
Out[62]:
col1 col_left col_right _merge
0 0 a NaN left_only
1 1 b 2.0 both
2 2 NaN 2.0 right_only
3 2 NaN 2.0 right_only
若是傳入字符串給indicator，會重命名indicator這一列的名字：
In [63]: pd.merge(df1, df2, on='col1', how='outer', indicator='indicator_column') Out[63]: col1 col_left col_right indicator_column 0 0 a NaN left_only 1 1 b 2.0 both 2 2 NaN 2.0 right_only 3 2 NaN 2.0 right_only
多個index進行合併：
In [112]: leftindex = pd.MultiIndex.from_tuples([('K0', 'X0'), ('K0', 'X1'),
.....: ('K1', 'X2')],
.....: names=['key', 'X'])
.....:
In [113]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2'],
.....: 'B': ['B0', 'B1', 'B2']},
.....: index=leftindex)
.....:
In [114]: rightindex = pd.MultiIndex.from_tuples([('K0', 'Y0'), ('K1', 'Y1'),
.....: ('K2', 'Y2'), ('K2', 'Y3')],
.....: names=['key', 'Y'])
.....:
In [115]: right = pd.DataFrame({'C': ['C0', 'C1', 'C2', 'C3'],
.....: 'D': ['D0', 'D1', 'D2', 'D3']},
.....: index=rightindex)
.....:
In [116]: result = pd.merge(left.reset_index(), right.reset_index(),
.....: on=['key'], how='inner').set_index(['key', 'X', 'Y'])
支持多個列的合併：
In [117]: left_index = pd.Index(['K0', 'K0', 'K1', 'K2'], name='key1')
In [118]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'],
.....: 'B': ['B0', 'B1', 'B2', 'B3'],
.....: 'key2': ['K0', 'K1', 'K0', 'K1']},
.....: index=left_index)
.....:
In [119]: right_index = pd.Index(['K0', 'K1', 'K2', 'K2'], name='key1')
In [120]: right = pd.DataFrame({'C': ['C0', 'C1', 'C2', 'C3'],
.....: 'D': ['D0', 'D1', 'D2', 'D3'],
.....: 'key2': ['K0', 'K0', 'K0', 'K1']},
.....: index=right_index)
.....:
In [121]: result = left.merge(right, on=['key1', 'key2'])
使用join
join將兩個不一樣index的DF合併成一個。能夠看作是merge的簡寫。
In [84]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2'],
....: 'B': ['B0', 'B1', 'B2']},
....: index=['K0', 'K1', 'K2'])
....:
In [85]: right = pd.DataFrame({'C': ['C0', 'C2', 'C3'],
....: 'D': ['D0', 'D2', 'D3']},
....: index=['K0', 'K2', 'K3'])
....:
In [86]: result = left.join(right)
能夠指定how來指定鏈接方式：
In [87]: result = left.join(right, how='outer')
默認join是按index來進行鏈接。
還能夠按照列來進行鏈接：
In [91]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'],
....: 'B': ['B0', 'B1', 'B2', 'B3'],
....: 'key': ['K0', 'K1', 'K0', 'K1']})
....:
In [92]: right = pd.DataFrame({'C': ['C0', 'C1'],
....: 'D': ['D0', 'D1']},
....: index=['K0', 'K1'])
....:
In [93]: result = left.join(right, on='key')
單個index和多個index進行join：
In [100]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2'],
.....: 'B': ['B0', 'B1', 'B2']},
.....: index=pd.Index(['K0', 'K1', 'K2'], name='key'))
.....:
In [101]: index = pd.MultiIndex.from_tuples([('K0', 'Y0'), ('K1', 'Y1'),
.....: ('K2', 'Y2'), ('K2', 'Y3')],
.....: names=['key', 'Y'])
.....:
In [102]: right = pd.DataFrame({'C': ['C0', 'C1', 'C2', 'C3'],
.....: 'D': ['D0', 'D1', 'D2', 'D3']},
.....: index=index)
.....:
In [103]: result = left.join(right, how='inner')
列名重複的狀況：
In [122]: left = pd.DataFrame({'k': ['K0', 'K1', 'K2'], 'v': [1, 2, 3]})
In [123]: right = pd.DataFrame({'k': ['K0', 'K0', 'K3'], 'v': [4, 5, 6]})
In [124]: result = pd.merge(left, right, on='k')
能夠自定義重複列名的命名規則：
In [125]: result = pd.merge(left, right, on='k', suffixes=('_l', '_r'))
覆蓋數據
有時候咱們須要使用DF2的數據來填充DF1的數據，這時候可使用combine_first：
In [131]: df1 = pd.DataFrame([[np.nan, 3., 5.], [-4.6, np.nan, np.nan], .....: [np.nan, 7., np.nan]]) .....: In [132]: df2 = pd.DataFrame([[-42.6, np.nan, -8.2], [-5., 1.6, 4]], .....: index=[1, 2]) .....:
In [133]: result = df1.combine_first(df2)
或者使用update：
In [134]: df1.update(df2)
本文已收錄於 http://www.flydean.com/04-python-pandas-merge/
最通俗的解讀，最深入的乾貨，最簡潔的教程，衆多你不知道的小技巧等你來發現！
歡迎關注個人公衆號:「程序那些事」,懂技術，更懂你！
相關文章
- 1. pandas DataFrame(5)-合併DataFrame與Series
- 2. pandas之dataframe去掉冗餘行以及左鏈接合併dataframe
- 3. pandas教程：series和dataframe
- 4. Pandas庫之DataFrame
- 5. Pandas 庫之 DataFrame
- 6. Pandas之DataFrame
- 7. pandas之DataFrame
- 8. Pandas進階之DataFrame多級索引
- 9. pandas入門之DataFrame
- 10. Pandas之DataFrame操做
- 更多相關文章...
- • XML DOM 高級 - XML 教程
- • Markdown 高級技巧 - Markdown 教程
- • Java 8 Stream 教程
- • YAML 入門教程
相關標籤/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
歡迎關注本站公眾號,獲取更多信息
