在學(xué)習(xí)scrapy時(shí)發(fā)現(xiàn)pandas的方法其實(shí)相當(dāng)多假栓,而且都很有用,所以貼一篇知乎上的文章過(guò)來(lái)
原文鏈接
本文翻譯自文章:Pandas Cheat Sheet - Python for Data Science,同時(shí)添加了部分注解。
對(duì)于數(shù)據(jù)科學(xué)家,無(wú)論是數(shù)據(jù)分析還是數(shù)據(jù)挖掘來(lái)說(shuō)熄捍,Pandas是一個(gè)非常重要的Python包。它不僅提供了很多方法母怜,使得數(shù)據(jù)處理非常簡(jiǎn)單余耽,同時(shí)在數(shù)據(jù)處理速度上也做了很多優(yōu)化,使得和Python內(nèi)置方法相比時(shí)有了很大的優(yōu)勢(shì)苹熏。
如果你想學(xué)習(xí)Pandas碟贾,建議先看兩個(gè)網(wǎng)站。
(1)官網(wǎng):Python Data Analysis Library
(2)十分鐘入門(mén)Pandas:10 Minutes to pandas
在第一次學(xué)習(xí)Pandas的過(guò)程中轨域,你會(huì)發(fā)現(xiàn)你需要記憶很多的函數(shù)和方法袱耽。所以在這里我們匯總一下[Pandas官方文檔](http://pandas.pydata.org/pandas-docs/stable/index.html)中比較常用的函數(shù)和方法,以方便大家記憶干发。
關(guān)鍵縮寫(xiě)和包導(dǎo)入
在這個(gè)速查手冊(cè)中朱巨,我們使用如下縮寫(xiě):
df:任意的Pandas DataFrame對(duì)象
s:任意的Pandas Series對(duì)象
同時(shí)我們需要做如下的引入:
import pandas as pd
import numpy as np
導(dǎo)入數(shù)據(jù)
pd.read_csv(filename):從CSV文件導(dǎo)入數(shù)據(jù)
pd.read_table(filename):從限定分隔符的文本文件導(dǎo)入數(shù)據(jù)
pd.read_excel(filename):從Excel文件導(dǎo)入數(shù)據(jù)
pd.read_sql(query, connection_object):從SQL表/庫(kù)導(dǎo)入數(shù)據(jù)
pd.read_json(json_string):從JSON格式的字符串導(dǎo)入數(shù)據(jù)
pd.read_html(url):解析URL、字符串或者HTML文件枉长,抽取其中的tables表格
pd.read_clipboard():從你的粘貼板獲取內(nèi)容冀续,并傳給read_table()
pd.DataFrame(dict):從字典對(duì)象導(dǎo)入數(shù)據(jù),Key是列名必峰,Value是數(shù)據(jù)
導(dǎo)出數(shù)據(jù)
df.to_csv(filename):導(dǎo)出數(shù)據(jù)到CSV文件
df.to_excel(filename):導(dǎo)出數(shù)據(jù)到Excel文件
df.to_sql(table_name, connection_object):導(dǎo)出數(shù)據(jù)到SQL表
df.to_json(filename):以Json格式導(dǎo)出數(shù)據(jù)到文本文件
創(chuàng)建測(cè)試對(duì)象
pd.DataFrame(np.random.rand(20,5)):創(chuàng)建20行5列的隨機(jī)數(shù)組成的DataFrame對(duì)象
pd.Series(my_list):從可迭代對(duì)象my_list創(chuàng)建一個(gè)Series對(duì)象
df.index = pd.date_range('1900/1/30', periods=df.shape[0]):增加一個(gè)日期索引
查看洪唐、檢查數(shù)據(jù)
df.head(n):查看DataFrame對(duì)象的前n行
df.tail(n):查看DataFrame對(duì)象的最后n行
df.shape():查看行數(shù)和列數(shù)
http://df.info():查看索引、數(shù)據(jù)類(lèi)型和內(nèi)存信息
df.describe():查看數(shù)值型列的匯總統(tǒng)計(jì)
s.value_counts(dropna=False):查看Series對(duì)象的唯一值和計(jì)數(shù)
df.apply(pd.Series.value_counts):查看DataFrame對(duì)象中每一列的唯一值和計(jì)數(shù)
數(shù)據(jù)選取
df[col]:根據(jù)列名吼蚁,并以Series的形式返回列
df[[col1, col2]]:以DataFrame形式返回多列
s.iloc[0]:按位置選取數(shù)據(jù)
s.loc['index_one']:按索引選取數(shù)據(jù)
df.iloc[0,:]:返回第一行
df.iloc[0,0]:返回第一列的第一個(gè)元素
數(shù)據(jù)清理
df.columns = ['a','b','c']:重命名列名
pd.isnull():檢查DataFrame對(duì)象中的空值凭需,并返回一個(gè)Boolean數(shù)組
pd.notnull():檢查DataFrame對(duì)象中的非空值,并返回一個(gè)Boolean數(shù)組
df.dropna():刪除所有包含空值的行
df.dropna(axis=1):刪除所有包含空值的列
df.dropna(axis=1,thresh=n):刪除所有小于n個(gè)非空值的行
df.fillna(x):用x替換DataFrame對(duì)象中所有的空值
s.astype(float):將Series中的數(shù)據(jù)類(lèi)型更改為float類(lèi)型
s.replace(1,'one'):用‘one’代替所有等于1的值
s.replace([1,3],['one','three']):用'one'代替1,用'three'代替3
df.rename(columns=lambda x: x + 1):批量更改列名
df.rename(columns={'old_name': 'new_ name'}):選擇性更改列名
df.set_index('column_one'):更改索引列
df.rename(index=lambda x: x + 1):批量重命名索引
數(shù)據(jù)處理:Filter粒蜈、Sort和GroupBy
df[df[col] > 0.5]:選擇col列的值大于0.5的行
df.sort_values(col1):按照列col1排序數(shù)據(jù)顺献,默認(rèn)升序排列
df.sort_values(col2, ascending=False):按照列col1降序排列數(shù)據(jù)
df.sort_values([col1,col2], ascending=[True,False]):先按列col1升序排列,后按col2降序排列數(shù)據(jù)
df.groupby(col):返回一個(gè)按列col進(jìn)行分組的Groupby對(duì)象
df.groupby([col1,col2]):返回一個(gè)按多列進(jìn)行分組的Groupby對(duì)象
df.groupby(col1)[col2]:返回按列col1進(jìn)行分組后薪伏,列col2的均值
df.pivot_table(index=col1, values=[col2,col3], aggfunc=max):創(chuàng)建一個(gè)按列col1進(jìn)行分組滚澜,并計(jì)算col2和col3的最大值的數(shù)據(jù)透視表
df.groupby(col1).agg(np.mean):返回按列col1分組的所有列的均值
data.apply(np.mean):對(duì)DataFrame中的每一列應(yīng)用函數(shù)np.mean
data.apply(np.max,axis=1):對(duì)DataFrame中的每一行應(yīng)用函數(shù)np.max
數(shù)據(jù)合并
df1.append(df2):將df2中的行添加到df1的尾部
df.concat([df1, df2],axis=1):將df2中的列添加到df1的尾部
df1.join(df2,on=col1,how='inner'):對(duì)df1的列和df2的列執(zhí)行SQL形式的join
數(shù)據(jù)統(tǒng)計(jì)
df.describe():查看數(shù)據(jù)值列的匯總統(tǒng)計(jì)
df.mean():返回所有列的均值
df.corr():返回列與列之間的相關(guān)系數(shù)
df.count():返回每一列中的非空值的個(gè)數(shù)
df.max():返回每一列的最大值
df.min():返回每一列的最小值
df.median():返回每一列的中位數(shù)
df.std():返回每一列的標(biāo)準(zhǔn)差