pandasデータ処理
前にRのデータ処理をしたことがあって、似たような需要のフレームワークに基づいて、pandasの中のデータ処理の方法をまとめて、自分で比較を見やすいようにしたいです
一、データの読み取り
1.すべて読み込み pandasでread_csvとread_Excelの2つの関数はそれぞれcsvとexcelファイルを読み取るために使用され、主なパラメータもほぼ同じ です.
2.逐行読み出し pythonでは行単位の読み出しはすべてハンドルによる読み出しであるが、問題は行単位の読み出しデータが結果として文字列 となることである.
二、データ検査
1.前後指定行のデータ情報の表示
2.データセットの表示行列数
3.データセットフィーチャーの表示
4.データセット統計の表示
5.データセット列名の表示
6.データフィールドタイプの表示
三、データフィルタ
1.条件を満たすデータのフィルタリング単一条件スクリーニング 複数の条件が同時に満たす必要がある注意すべきは、各条件が括弧で囲まれ、&記号しか使用できず、 の代わりにandを使用できないことである.多条件はその1 を満たす.
2.指定した行のフィルタ
3.指定した列のフィルタ
4.単一列データのフィルタ処理(データ・ボックスではない)
四、列の名前変更
1.rename列の名前変更
2.すべての列名を変更
五、データの順序付け
1.単列ソート
2.複数列ソート
六、新しい列を追加する
1.apply関数による新規カラムの作成
2.索引を列に変換
七、データの重量を減らす drop_duplicatesパラメータの意味
八、データ分割
1.複数の列を結合して新しい列を作成する
2.ある列を分割して新しい2列を形成する
九、表の変換
表のアスペクト変換再データ処理でもよく見られるが,特に図を描くときには
1.ワイドテーブル変長テーブルmelt関数
2.長尺表幅表pivot_table関数
備考:この記事はpandasがデータ処理に対するドキュメントの集合です.すべてのメソッドと実際に発生したすべての問題は含まれていません.クエリーの比較を容易にするために、後続の更新が必要です.
一、データの読み取り
1.すべて読み込み
import pandas as pd
txt_df = pd.read_csv(r'C:\Users\lstid\Desktop\ \demo.txt',sep='\t')
# 2 3
xlsx_df = pd.read_excel(r'C:\Users\lstid\Desktop\ \demo.xlsx',usecols=[1,2])
print(xlsx_df)
b c
0 s 10.0
1 qe 11.0
2 r 12.0
3 hy6 13.0
4 s 14.0
5 qe 15.0
# 2
df = pd.read_excel(r'C:\Users\lstid\Desktop\ \demo.xlsx',header=None,skiprows= 2)
print(df)
0 1 2
0 2 qe 11.0
1 3 r 12.0
2 4 hy6 13.0
3 5 s 14.0
4 6 qe 15.0
5 7 r 16.0
2.逐行読み出し
f = open(r'C:\Users\lstid\Desktop\ \demo.txt','r')
for i in f:
print(i)
print(type(i))
break
a b c
<class 'str'>
二、データ検査
1.前後指定行のデータ情報の表示
import pandas as pd
txt_df = pd.read_csv(r'C:\Users\lstid\Desktop\ \demo.txt',sep='\t')
print(txt_df.head(3))
a b c
0 1 s 10.0
1 2 qe 11.0
2 3 r 12.0
print(txt_df.tail(4))
a b c
18 19 r 28.0
19 20 NaN NaN
20 21 NaN NaN
21 22 NaN NaN
2.データセットの表示行列数
import pandas as pd
txt_df = pd.read_csv(r'C:\Users\lstid\Desktop\ \demo.txt',sep='\t')
# shape
print(txt_df.shape)
3.データセットフィーチャーの表示
import pandas as pd
txt_df = pd.read_csv(r'C:\Users\lstid\Desktop\ \demo.txt',sep='\t')
print(txt_df.info())
<class 'pandas.core.frame.DataFrame'>
RangeIndex: 22 entries, 0 to 21
Data columns (total 3 columns):
a 22 non-null int64
b 19 non-null object
c 19 non-null float64
dtypes: float64(1), int64(1), object(1)
memory usage: 608.0+ bytes
4.データセット統計の表示
import pandas as pd
txt_df = pd.read_csv(r'C:\Users\lstid\Desktop\ \demo.txt',sep='\t')
print(txt_df.describe())
a c
count 22.000000 19.000000
mean 11.500000 19.000000
std 6.493587 5.627314
min 1.000000 10.000000
25% 6.250000 14.500000
50% 11.500000 19.000000
75% 16.750000 23.500000
max 22.000000 28.000000
5.データセット列名の表示
import pandas as pd
txt_df = pd.read_csv(r'C:\Users\lstid\Desktop\ \demo.txt',sep='\t')
print(txt_df.columns.values)
['a' 'b' 'c']
6.データフィールドタイプの表示
import pandas as pd
txt_df = pd.read_csv(r'C:\Users\lstid\Desktop\ \demo.txt',sep='\t')
print(txt_df.dtypes)
a int64
b object
c float64
dtype: object
三、データフィルタ
#
import pandas as pd
mtcars = pd.read_excel(r'C:\Users\lstid\Desktop\ \mtcars.xlsx')
print(mtcars)
mpg cyl disp hp drat wt qsec vs am gear carb
0 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4
1 21.0 6 160.0 110 3.90 2.875 17.02 0 1 4 4
2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1
3 21.4 6 258.0 110 3.08 3.215 19.44 1 0 3 1
4 18.7 8 360.0 175 3.15 3.440 17.02 0 0 3 2
5 18.1 6 225.0 105 2.76 3.460 20.22 1 0 3 1
6 14.3 8 360.0 245 3.21 3.570 15.84 0 0 3 4
7 24.4 4 146.7 62 3.69 3.190 20.00 1 0 4 2
8 22.8 4 140.8 95 3.92 3.150 22.90 1 0 4 2
9 19.2 6 167.6 123 3.92 3.440 18.30 1 0 4 4
10 17.8 6 167.6 123 3.92 3.440 18.90 1 0 4 4
11 16.4 8 275.8 180 3.07 4.070 17.40 0 0 3 3
12 17.3 8 275.8 180 3.07 3.730 17.60 0 0 3 3
13 15.2 8 275.8 180 3.07 3.780 18.00 0 0 3 3
14 10.4 8 472.0 205 2.93 5.250 17.98 0 0 3 4
15 10.4 8 460.0 215 3.00 5.424 17.82 0 0 3 4
16 14.7 8 440.0 230 3.23 5.345 17.42 0 0 3 4
17 32.4 4 78.7 66 4.08 2.200 19.47 1 1 4 1
18 30.4 4 75.7 52 4.93 1.615 18.52 1 1 4 2
19 33.9 4 71.1 65 4.22 1.835 19.90 1 1 4 1
20 21.5 4 120.1 97 3.70 2.465 20.01 1 0 3 1
21 15.5 8 318.0 150 2.76 3.520 16.87 0 0 3 2
22 15.2 8 304.0 150 3.15 3.435 17.30 0 0 3 2
23 13.3 8 350.0 245 3.73 3.840 15.41 0 0 3 4
24 19.2 8 400.0 175 3.08 3.845 17.05 0 0 3 2
25 27.3 4 79.0 66 4.08 1.935 18.90 1 1 4 1
26 26.0 4 120.3 91 4.43 2.140 16.70 0 1 5 2
27 30.4 4 95.1 113 3.77 1.513 16.90 1 1 5 2
28 15.8 8 351.0 264 4.22 3.170 14.50 0 1 5 4
29 19.7 6 145.0 175 3.62 2.770 15.50 0 1 5 6
30 15.0 8 301.0 335 3.54 3.570 14.60 0 1 5 8
31 21.4 4 121.0 109 4.11 2.780 18.60 1 1 4 2
1.条件を満たすデータのフィルタリング
# cyl 4
df = mtcars[mtcars['cyl'] ==4]
print(df)
mpg cyl disp hp drat wt qsec vs am gear carb
2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1
7 24.4 4 146.7 62 3.69 3.190 20.00 1 0 4 2
8 22.8 4 140.8 95 3.92 3.150 22.90 1 0 4 2
17 32.4 4 78.7 66 4.08 2.200 19.47 1 1 4 1
18 30.4 4 75.7 52 4.93 1.615 18.52 1 1 4 2
19 33.9 4 71.1 65 4.22 1.835 19.90 1 1 4 1
20 21.5 4 120.1 97 3.70 2.465 20.01 1 0 3 1
25 27.3 4 79.0 66 4.08 1.935 18.90 1 1 4 1
26 26.0 4 120.3 91 4.43 2.140 16.70 0 1 5 2
27 30.4 4 95.1 113 3.77 1.513 16.90 1 1 5 2
31 21.4 4 121.0 109 4.11 2.780 18.60 1 1 4 2
# cyl 4 vs 0
df = mtcars[(mtcars['cyl'] ==4) & (mtcars['vs'] == 0)]
print(df)
mpg cyl disp hp drat wt qsec vs am gear carb
26 26.0 4 120.3 91 4.43 2.14 16.7 0 1 5 2
# cyl 4 mpg 21 22.8
df = mtcars[(mtcars['cyl'] ==4) | (mtcars['mpg'].isin([21,22.8]))]
print(df)
mpg cyl disp hp drat wt qsec vs am gear carb
0 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4
1 21.0 6 160.0 110 3.90 2.875 17.02 0 1 4 4
2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1
7 24.4 4 146.7 62 3.69 3.190 20.00 1 0 4 2
8 22.8 4 140.8 95 3.92 3.150 22.90 1 0 4 2
17 32.4 4 78.7 66 4.08 2.200 19.47 1 1 4 1
18 30.4 4 75.7 52 4.93 1.615 18.52 1 1 4 2
19 33.9 4 71.1 65 4.22 1.835 19.90 1 1 4 1
20 21.5 4 120.1 97 3.70 2.465 20.01 1 0 3 1
25 27.3 4 79.0 66 4.08 1.935 18.90 1 1 4 1
26 26.0 4 120.3 91 4.43 2.140 16.70 0 1 5 2
27 30.4 4 95.1 113 3.77 1.513 16.90 1 1 5 2
31 21.4 4 121.0 109 4.11 2.780 18.60 1 1 4 2
2.指定した行のフィルタ
#
df = mtcars.iloc[[0]]
print(df)
mpg cyl disp hp drat wt qsec vs am gear carb
0 21.0 6 160.0 110 3.9 2.62 16.46 0 1 4 4
#
df = mtcars.iloc[0:5]
print(df)
mpg cyl disp hp drat wt qsec vs am gear carb
0 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4
1 21.0 6 160.0 110 3.90 2.875 17.02 0 1 4 4
2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1
3 21.4 6 258.0 110 3.08 3.215 19.44 1 0 3 1
4 18.7 8 360.0 175 3.15 3.440 17.02 0 0 3 2
3.指定した列のフィルタ
df = mtcars[['mpg','cyl']].head()
print(df)
mpg cyl
0 21.0 6
1 21.0 6
2 22.8 4
3 21.4 6
4 18.7 8
4.単一列データのフィルタ処理(データ・ボックスではない)
vec = mtcars['vs']
print(vec.head())
0 0
1 0
2 1
3 1
4 0
Name: vs, dtype: int64
四、列の名前変更
1.rename列の名前変更
print(mtcars.columns.values)
df = mtcars.rename(columns={'mpg':'MPG'}) # ,
print(df.columns.values)
['mpg' 'cyl' 'disp' 'hp' 'drat' 'wt' 'qsec' 'vs' 'am' 'gear' 'carb']
['MPG' 'cyl' 'disp' 'hp' 'drat' 'wt' 'qsec' 'vs' 'am' 'gear' 'carb']
2.すべての列名を変更
print(mtcars.columns.values)
mtcars.columns = ['MPG', 'CYL', 'disp', 'hp', 'drat', 'wt' ,'qsec' ,'vs' ,'am' ,'gear' ,'carb']
print(mtcars.columns.values)
['mpg' 'cyl' 'disp' 'hp' 'drat' 'wt' 'qsec' 'vs' 'am' 'gear' 'carb']
['MPG' 'CYL' 'disp' 'hp' 'drat' 'wt' 'qsec' 'vs' 'am' 'gear' 'carb']
五、データの順序付け
1.単列ソート
print(mtcars.head())
df = mtcars.sort_values(by= 'mpg',ascending = False) # False ,
print(df.head())
mpg cyl disp hp drat wt qsec vs am gear carb
0 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4
1 21.0 6 160.0 110 3.90 2.875 17.02 0 1 4 4
2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1
3 21.4 6 258.0 110 3.08 3.215 19.44 1 0 3 1
4 18.7 8 360.0 175 3.15 3.440 17.02 0 0 3 2
mpg cyl disp hp drat wt qsec vs am gear carb
19 33.9 4 71.1 65 4.22 1.835 19.90 1 1 4 1
17 32.4 4 78.7 66 4.08 2.200 19.47 1 1 4 1
27 30.4 4 95.1 113 3.77 1.513 16.90 1 1 5 2
18 30.4 4 75.7 52 4.93 1.615 18.52 1 1 4 2
25 27.3 4 79.0 66 4.08 1.935 18.90 1 1 4 1
2.複数列ソート
df = mtcars.sort_values(by= ['mpg','gear'],ascending = [False,True])
print(df.head())
mpg cyl disp hp drat wt qsec vs am gear carb
19 33.9 4 71.1 65 4.22 1.835 19.90 1 1 4 1
17 32.4 4 78.7 66 4.08 2.200 19.47 1 1 4 1
18 30.4 4 75.7 52 4.93 1.615 18.52 1 1 4 2
27 30.4 4 95.1 113 3.77 1.513 16.90 1 1 5 2
25 27.3 4 79.0 66 4.08 1.935 18.90 1 1 4 1
六、新しい列を追加する
1.apply関数による新規カラムの作成
mtcars['new_cyl'] = mtcars['cyl'].apply(lambda x: 100 * x)
print(mtcars.head())
mpg cyl disp hp drat wt qsec vs am gear carb new_cyl
0 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4 600
1 21.0 6 160.0 110 3.90 2.875 17.02 0 1 4 4 600
2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1 400
3 21.4 6 258.0 110 3.08 3.215 19.44 1 0 3 1 600
4 18.7 8 360.0 175 3.15 3.440 17.02 0 0 3 2 800
2.索引を列に変換
mtcars.reset_index(inplace=True)
#
df = mtcars.reset_index(inplace=False)
print(df)
index mpg cyl disp hp drat wt qsec vs am gear carb
0 0 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4
1 1 21.0 6 160.0 110 3.90 2.875 17.02 0 1 4 4
2 2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1
3 3 21.4 6 258.0 110 3.08 3.215 19.44 1 0 3 1
4 4 18.7 8 360.0 175 3.15 3.440 17.02 0 0 3 2
七、データの重量を減らす
subset ， ， 。
subset=None 。
keep='first' ， 。keep "last" False，
。
inplace=True DataFrame ， False 。
df = mtcars.drop_duplicates(subset=['mpg','cyl'],keep='first',inplace=False)
print(df.head())
mpg cyl disp hp drat wt qsec vs am gear carb
0 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4
2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1
3 21.4 6 258.0 110 3.08 3.215 19.44 1 0 3 1
4 18.7 8 360.0 175 3.15 3.440 17.02 0 0 3 2
5 18.1 6 225.0 105 2.76 3.460 20.22 1 0 3 1
八、データ分割
1.複数の列を結合して新しい列を作成する
mtcars['x'] = mtcars['mpg'].astype(str) + '_' + mtcars['cyl'].astype(str)
print(mtcars.head())
mpg cyl disp hp drat wt qsec vs am gear carb x
0 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4 21.0_6
1 21.0 6 160.0 110 3.90 2.875 17.02 0 1 4 4 21.0_6
2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1 22.8_4
3 21.4 6 258.0 110 3.08 3.215 19.44 1 0 3 1 21.4_6
4 18.7 8 360.0 175 3.15 3.440 17.02 0 0 3 2 18.7_8
2.ある列を分割して新しい2列を形成する
#
mtcars['x'],mtcars['y'] = mtcars['wt'].astype(str).str.split('.', 1).str
print(mtcars)
mpg cyl disp hp drat wt qsec vs am gear carb x y
0 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4 2 62
1 21.0 6 160.0 110 3.90 2.875 17.02 0 1 4 4 2 875
2 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1 2 32
3 21.4 6 258.0 110 3.08 3.215 19.44 1 0 3 1 3 215
4 18.7 8 360.0 175 3.15 3.440 17.02 0 0 3 2 3 44
九、表の変換
表のアスペクト変換再データ処理でもよく見られるが,特に図を描くときには
import pandas as pd
df = pd.DataFrame({
'id':[1,2,3],
'time':['a','b','c'],
'lr': [100,200,300],
'ht':[50,60,70]
})
print(df)
id time lr ht
0 1 a 100 50
1 2 b 200 60
2 3 c 300 70
1.ワイドテーブル変長テーブルmelt関数
df1 = df.melt(
id_vars= [ 'id','time'], #
var_name=" ", #
value_name=" " #
)
print(df1)
id time
0 1 a lr 100
1 2 b lr 200
2 3 c lr 300
3 1 a ht 50
4 2 b ht 60
5 3 c ht 70
2.長尺表幅表pivot_table関数
df2 = df1.pivot_table(
index=['id','time'],
columns=[" "],
values=[" "]
)
print(df2)
ht lr
id time
1 a 50 100
2 b 60 200
3 c 70 300
備考:この記事はpandasがデータ処理に対するドキュメントの集合です.すべてのメソッドと実際に発生したすべての問題は含まれていません.クエリーの比較を容易にするために、後続の更新が必要です.