pandas中DataFrame数据合并,连接(merge,join,concat)pandas作者Wes McKinney 在【PYTHON FOR DATA ANALYSIS】中对pandas的⽅⽅⾯⾯都有了⼀个权威简明的⼊门级的介绍,但在实际使⽤过程中,我发现书中的内容还只是冰⼭⼀⾓。谈到pandas数据的⾏更新、表合并等操作,⼀般⽤到的⽅法有concat、join、merge。但这三种⽅法对于很多新⼿来说,都不太好分清使⽤的场合与⽤途。今天就pandas关于数据合并和重述的章节做个使⽤⽅法的总结。
⽂中代码块主要有pandas官⽹教程提供。
1 concat
concat函数是在pandas底下的⽅法,可以将数据根据不同的轴作简单的融合
keys=None, levels=None, names=None, verify_integrity=False)
参数说明
objs: series,dataframe或者是panel构成的序列lsit
axis: 需要合并链接的轴,0是⾏,1是列
join:连接的⽅式 inner,或者outer
其他⼀些参数不常⽤,⽤的时候再补上说明。
1.1 相同字段的表⾸尾相接
# 现将表构成list,然后在作为concat的输⼊
In [4]: frames = [df1, df2, df3]
In [5]: result = pd.concat(frames)
要在相接的时候在加上⼀个层次的key来识别数据源⾃于哪张表,可以增加key参数
In [6]: result = pd.concat(frames, keys=['x', 'y', 'z'])
效果如下
1.2 横向表拼接(⾏对齐)
1.2.1 axis
当axis = 1的时候,concat就是⾏对齐,然后将不同列名称的两张表合并
In [9]: result = pd.concat([df1, df4], axis=1)
多表left join1.2.2 join
加上join参数的属性,如果为’inner’得到的是两表的交集,如果是outer,得到的是两表的并集。In [10]: result = pd.concat([df1, df4], axis=1, join='inner')
1.2.3 join_axes
如果有join_axes的参数传⼊,可以指定根据那个轴来对齐数据
例如根据df1表对齐数据,就会保留指定的df1表的轴,然后将df4的表与之拼接
In [11]: result = pd.concat([df1, df4], axis=1, join_axes=[df1.index])
1.3 append
append是series和dataframe的⽅法,使⽤它就是默认沿着列进⾏凭借(axis = 0,列对齐)
In [12]: result = df1.append(df2)
1.4 ⽆视index的concat
如果两个表的index都没有实际含义,使⽤ignore_index参数,置true,合并的两个表就睡根据列字段对齐,然后合并。最后再重新整理⼀个新的index。
1.5 合并的同时增加区分数据组的键
前⾯提到的keys参数可以⽤来给合并后的表增加key来区分不同的表数据来源
1.5.1 可以直接⽤key参数实现
In [27]: result = pd.concat(frames, keys=['x', 'y', 'z'])
1.5.2 传⼊字典来增加分组键
In [28]: pieces = {'x': df1, 'y': df2, 'z': df3}
In [29]: result = pd.concat(pieces)
1.6 在dataframe中加⼊新的⾏
append⽅法可以将 series 和 字典就够的数据作为dataframe的新⼀⾏插⼊。
In [34]: s2 = pd.Series(['X0', 'X1', 'X2', 'X3'], index=['A', 'B', 'C', 'D'])
In [35]: result = df1.append(s2, ignore_index=True)
表格列字段不同的表合并
如果遇到两张表的列字段本来就不⼀样,但⼜想将两个表合并,其中⽆效的值⽤nan来表⽰。那么可以使⽤ignore_index来实现。
1
In [36]: dicts = [{'A': 1, 'B': 2, 'C': 3, 'X': 4},
....: {'A': 5, 'B': 6, 'C': 7, 'Y': 8}]
....:
In [37]: result = df1.append(dicts, ignore_index=True)
在这⾥,将接着介绍pandas中也常常⽤到的join 和merge⽅法
merge
pandas的merge⽅法提供了⼀种类似于SQL的内存链接操作,官⽹⽂档提到它的性能会⽐其他开源语
⾔的数据操作(例如R)要⾼效。和SQL语句的对⽐可以看
merge的参数
on:列名,join⽤来对齐的那⼀列的名字,⽤到这个参数的时候⼀定要保证左表和右表⽤来对齐的那⼀列都有相同的列名。
left_on:左表对齐的列,可以是列名,也可以是和dataframe同样长度的arrays。
right_on:右表对齐的列,可以是列名,也可以是和dataframe同样长度的arrays。
left_index/ right_index: 如果是True的haunted以index作为对齐的key
how:数据融合的⽅法。
sort:根据dataframe合并的keys按字典顺序排序,默认是,如果置false可以提⾼表现。
merge的默认合并⽅法:
merge⽤于表内部基于 index-on-index 和 index-on-column(s) 的合并,但默认是基于index来合并。
1
2
1.1 复合key的合并⽅法
使⽤merge的时候可以选择多个key作为复合可以来对齐合并。
1.1.1 通过on指定数据合并对齐的列
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论