PandasにおけるDataFrameデータのマージ、接続(concat、merge、join)

5515 ワード

最近仕事中、データの連結、接続の問題に遭遇したので、以下のように整理し、需要者の参考に供する.
一、concat:1つの軸に沿って、複数のオブジェクトを積み重ねます.
concatメソッドは、データベース内の全接続(union all)に相当します.接続方法(outer joinまたはinner join)だけでなく、軸による接続も指定できます.データベースとは異なり、重くはなりませんがdrop_を使用できます.duplicates法は重量除去の効果を達成する.
concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False, 
       keys=None, levels=None, names=None, verify_integrity=False, copy=True): 

       pd.concat()は単純に2つのテーブルをつなぎ合わせるだけで、パラメータaxisはキーで、行か列かを指定するために使用され、axisのデフォルトは0です.axis=0の場合、pd.concat([obj 1,obj 2])の効果とobj 1.append(obj 2)は同じである.axis=1の場合、pd.concat([obj 1,obj 2],axis=1)の効果とpd.merge(obj 1,obj 2,left_index=True,right_index=True,how='outer')は同じです.mergeメソッドの紹介は以下を参照してください.
パラメータの説明:
OBjs:接続が必要なオブジェクトのセットで、一般的にリストまたは辞書です.
axis:軸方向を接続する;
join:パラメータは「outer」または「inner」です.
       join_axes=[]:カスタムインデックスを指定します.
keys=[]:階層インデックスの作成;
       ignore_index=True:インデックスの再構築
例:
df1=DataFrame(np.random.randn(3,4),columns=['a','b','c','d'])  
  
df2=DataFrame(np.random.randn(2,3),columns=['b','d','a'])  
  
pd.concat([df1,df2])  
  
          a         b         c         d  
0 -0.848557 -1.163877 -0.306148 -1.163944  
1  1.358759  1.159369 -0.532110  2.183934  
2  0.532117  0.788350  0.703752 -2.620643  
0 -0.316156 -0.707832       NaN -0.416589  
1  0.406830  1.345932       NaN -1.874817  

pd.concat([df1,df2],ignore_index=True)  

          a         b         c         d  
0 -0.848557 -1.163877 -0.306148 -1.163944  
1  1.358759  1.159369 -0.532110  2.183934  
2  0.532117  0.788350  0.703752 -2.620643  
3 -0.316156 -0.707832       NaN -0.416589  
4  0.406830  1.345932       NaN -1.874817  

二、merge:キーで列をつなぐ
リレーショナル・データベースと同様に、1つ以上のキーに基づいて異なるDatFrameを接続できます.この関数の典型的な適用シーンは、同じプライマリ・キーに対して2つの異なるフィールドのテーブルが存在し、プライマリ・キーに基づいて1つのテーブルに統合されることです.
merge(left, right, how='inner', on=None, left_on=None, right_on=None,  
      left_index=False, right_index=False, sort=True,  
      suffixes=('_x', '_y'), copy=True, indicator=False)

パラメータの説明:
leftとright:2つの異なるDataFrame;
how:接続方式、inner、left、right、outerがあり、デフォルトはinnerである.
on:接続に使用するカラムインデックス名で、左右の2つのデータFrameに存在する必要があり、指定がなく、その他のパラメータも指定されていない場合は、2つのデータFrameカラム名が交差することを接続キーとする.
     left_on:左側のDataFrameで接続キーに使用されるカラム名です.このパラメータは左右のカラム名が異なりますが、意味が同じ場合に便利です.
     right_on:右側のDataFrameで接続キーに使用されるカラム名;
     left_index:左側のDataFrameのローインデックスを接続キーとして使用します.
     right_index:接続キーとして右側のDataFrameのローインデックスを使用します.
sort:デフォルトはTrueで、マージしたデータをソートし、Falseに設定するとパフォーマンスが向上します.
suffixes:文字列値からなるメタグループで、左右のDataFrameに同じカラム名が存在する場合にカラム名の後ろに付加される接尾辞名を指定します.デフォルトは('_x','_y');
copy:デフォルトはTrueで、常にデータ構造にデータをコピーし、Falseに設定するとパフォーマンスが向上します.
indicator:連結データ内のデータのソース状況を表示
例:
# 1.             。
df1=DataFrame({'key':['a','b','b'],'data1':range(3)})    
df2=DataFrame({'key':['a','b','c'],'data2':range(3)})    
pd.merge(df1,df2)   #       ,       ,          
  
   data1 key  data2  
0      0   a      0  
1      1   b      1  
2      2   b      1  

# 2.   inner  ( key   ),      (left,right,outer),         :how=''
pd.merge(df2,df1)  
  
   data2 key  data1  
0      0   a      0  
1      1   b      1  
2      1   b      2                   #     ,    c     。  
  
pd.merge(df2,df1,how='left')    #  how,        
 
   data2 key  data1  
0      0   a      0  
1      1   b      1  
2      1   b      2  
3      2   c    NaN  

# 3.               , :pd.merge(df1,df2,on=['key1','key2']
right=DataFrame({'key1':['foo','foo','bar','bar'],  
         'key2':['one','one','one','two'],  
         'lval':[4,5,6,7]})  
left=DataFrame({'key1':['foo','foo','bar'],  
         'key2':['one','two','one'],  
         'lval':[1,2,3]})  
right=DataFrame({'key1':['foo','foo','bar','bar'],  
         'key2':['one','one','one','two'],  
         'lval':[4,5,6,7]})  
pd.merge(left,right,on=['key1','key2'],how='outer')  #      
   
  key1 key2  lval_x  lval_y  
0  foo  one       1       4  
1  foo  one       1       5  
2  foo  two       2     NaN  
3  bar  one       3       6  
4  bar  two     NaN       7  

# 4.           ,      , :pd.merge(df1,df2,left_on='lkey',right_on='rkey')
df3=DataFrame({'key3':['foo','foo','bar','bar'], #    right key       
         'key4':['one','one','one','two'],  
         'lval':[4,5,6,7]})  
pd.merge(left,df3,left_on='key1',right_on='key3')  #         
   
  key1 key2  lval_x key3 key4  lval_y  
0  foo  one       1  foo  one       4  
1  foo  one       1  foo  one       5  
2  foo  two       2  foo  one       4  
3  foo  two       2  foo  one       5  
4  bar  one       3  bar  one       6  
5  bar  one       3  bar  two       7  

三、join:主にインデックス上のマージに使用する
join(self, other, on=None, how='left', lsuffix='', rsuffix='',sort=False):

そのパラメータの意味はmerge法におけるパラメータの意味と基本的に同じである.