# Python學(xué)習(xí)——Pandas(3)

在學(xué)習(xí)scrapy時(shí)發(fā)現(xiàn)pandas的方法其實(shí)相當(dāng)多假栓,而且都很有用,所以貼一篇知乎上的文章過(guò)來(lái)
原文鏈接
本文翻譯自文章:Pandas Cheat Sheet - Python for Data Science,同時(shí)添加了部分注解。
對(duì)于數(shù)據(jù)科學(xué)家,無(wú)論是數(shù)據(jù)分析還是數(shù)據(jù)挖掘來(lái)說(shuō)熄捍,Pandas是一個(gè)非常重要的Python包。它不僅提供了很多方法母怜,使得數(shù)據(jù)處理非常簡(jiǎn)單余耽,同時(shí)在數(shù)據(jù)處理速度上也做了很多優(yōu)化,使得和Python內(nèi)置方法相比時(shí)有了很大的優(yōu)勢(shì)苹熏。

如果你想學(xué)習(xí)Pandas碟贾,建議先看兩個(gè)網(wǎng)站。

(1)官網(wǎng):Python Data Analysis Library

(2)十分鐘入門(mén)Pandas:10 Minutes to pandas

在第一次學(xué)習(xí)Pandas的過(guò)程中轨域,你會(huì)發(fā)現(xiàn)你需要記憶很多的函數(shù)和方法袱耽。所以在這里我們匯總一下[Pandas官方文檔](http://pandas.pydata.org/pandas-docs/stable/index.html)中比較常用的函數(shù)和方法,以方便大家記憶干发。

關(guān)鍵縮寫(xiě)和包導(dǎo)入

在這個(gè)速查手冊(cè)中朱巨,我們使用如下縮寫(xiě):

df:任意的Pandas DataFrame對(duì)象
s:任意的Pandas Series對(duì)象
同時(shí)我們需要做如下的引入:

import pandas as pd
import numpy as np

導(dǎo)入數(shù)據(jù)

pd.read_csv(filename):從CSV文件導(dǎo)入數(shù)據(jù)
pd.read_table(filename):從限定分隔符的文本文件導(dǎo)入數(shù)據(jù)
pd.read_excel(filename):從Excel文件導(dǎo)入數(shù)據(jù)
pd.read_sql(query, connection_object):從SQL表/庫(kù)導(dǎo)入數(shù)據(jù)
pd.read_json(json_string):從JSON格式的字符串導(dǎo)入數(shù)據(jù)
pd.read_html(url):解析URL、字符串或者HTML文件枉长,抽取其中的tables表格
pd.read_clipboard():從你的粘貼板獲取內(nèi)容冀续,并傳給read_table()
pd.DataFrame(dict):從字典對(duì)象導(dǎo)入數(shù)據(jù),Key是列名必峰,Value是數(shù)據(jù)

導(dǎo)出數(shù)據(jù)

df.to_csv(filename):導(dǎo)出數(shù)據(jù)到CSV文件
df.to_excel(filename):導(dǎo)出數(shù)據(jù)到Excel文件
df.to_sql(table_name, connection_object):導(dǎo)出數(shù)據(jù)到SQL表
df.to_json(filename):以Json格式導(dǎo)出數(shù)據(jù)到文本文件

創(chuàng)建測(cè)試對(duì)象
pd.DataFrame(np.random.rand(20,5)):創(chuàng)建20行5列的隨機(jī)數(shù)組成的DataFrame對(duì)象
pd.Series(my_list):從可迭代對(duì)象my_list創(chuàng)建一個(gè)Series對(duì)象
df.index = pd.date_range('1900/1/30', periods=df.shape[0]):增加一個(gè)日期索引

查看洪唐、檢查數(shù)據(jù)

df.head(n):查看DataFrame對(duì)象的前n行
df.tail(n):查看DataFrame對(duì)象的最后n行
df.shape():查看行數(shù)和列數(shù)
http://df.info():查看索引、數(shù)據(jù)類(lèi)型和內(nèi)存信息
df.describe():查看數(shù)值型列的匯總統(tǒng)計(jì)
s.value_counts(dropna=False):查看Series對(duì)象的唯一值和計(jì)數(shù)
df.apply(pd.Series.value_counts):查看DataFrame對(duì)象中每一列的唯一值和計(jì)數(shù)

數(shù)據(jù)選取

df[col]:根據(jù)列名吼蚁,并以Series的形式返回列
df[[col1, col2]]:以DataFrame形式返回多列
s.iloc[0]:按位置選取數(shù)據(jù)
s.loc['index_one']:按索引選取數(shù)據(jù)
df.iloc[0,:]:返回第一行
df.iloc[0,0]:返回第一列的第一個(gè)元素

數(shù)據(jù)清理

df.columns = ['a','b','c']:重命名列名
pd.isnull():檢查DataFrame對(duì)象中的空值凭需,并返回一個(gè)Boolean數(shù)組
pd.notnull():檢查DataFrame對(duì)象中的非空值,并返回一個(gè)Boolean數(shù)組
df.dropna():刪除所有包含空值的行
df.dropna(axis=1):刪除所有包含空值的列
df.dropna(axis=1,thresh=n):刪除所有小于n個(gè)非空值的行
df.fillna(x):用x替換DataFrame對(duì)象中所有的空值
s.astype(float):將Series中的數(shù)據(jù)類(lèi)型更改為float類(lèi)型
s.replace(1,'one'):用‘one’代替所有等于1的值
s.replace([1,3],['one','three']):用'one'代替1,用'three'代替3
df.rename(columns=lambda x: x + 1):批量更改列名
df.rename(columns={'old_name': 'new_ name'}):選擇性更改列名
df.set_index('column_one'):更改索引列
df.rename(index=lambda x: x + 1):批量重命名索引

數(shù)據(jù)處理:Filter粒蜈、Sort和GroupBy

df[df[col] > 0.5]:選擇col列的值大于0.5的行
df.sort_values(col1):按照列col1排序數(shù)據(jù)顺献,默認(rèn)升序排列
df.sort_values(col2, ascending=False):按照列col1降序排列數(shù)據(jù)
df.sort_values([col1,col2], ascending=[True,False]):先按列col1升序排列,后按col2降序排列數(shù)據(jù)
df.groupby(col):返回一個(gè)按列col進(jìn)行分組的Groupby對(duì)象
df.groupby([col1,col2]):返回一個(gè)按多列進(jìn)行分組的Groupby對(duì)象
df.groupby(col1)[col2]:返回按列col1進(jìn)行分組后薪伏,列col2的均值
df.pivot_table(index=col1, values=[col2,col3], aggfunc=max):創(chuàng)建一個(gè)按列col1進(jìn)行分組滚澜,并計(jì)算col2和col3的最大值的數(shù)據(jù)透視表
df.groupby(col1).agg(np.mean):返回按列col1分組的所有列的均值
data.apply(np.mean):對(duì)DataFrame中的每一列應(yīng)用函數(shù)np.mean
data.apply(np.max,axis=1):對(duì)DataFrame中的每一行應(yīng)用函數(shù)np.max

數(shù)據(jù)合并

df1.append(df2):將df2中的行添加到df1的尾部
df.concat([df1, df2],axis=1):將df2中的列添加到df1的尾部
df1.join(df2,on=col1,how='inner'):對(duì)df1的列和df2的列執(zhí)行SQL形式的join

數(shù)據(jù)統(tǒng)計(jì)

df.describe():查看數(shù)據(jù)值列的匯總統(tǒng)計(jì)
df.mean():返回所有列的均值
df.corr():返回列與列之間的相關(guān)系數(shù)
df.count():返回每一列中的非空值的個(gè)數(shù)
df.max():返回每一列的最大值
df.min():返回每一列的最小值
df.median():返回每一列的中位數(shù)
df.std():返回每一列的標(biāo)準(zhǔn)差

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末粗仓,一起剝皮案震驚了整個(gè)濱河市嫁怀,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌借浊,老刑警劉巖塘淑,帶你破解...
    沈念sama閱讀 212,080評(píng)論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異蚂斤,居然都是意外死亡存捺,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,422評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門(mén)曙蒸,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)捌治,“玉大人,你說(shuō)我怎么就攤上這事纽窟⌒び停” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 157,630評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵臂港,是天一觀的道長(zhǎng)森枪。 經(jīng)常有香客問(wèn)我,道長(zhǎng)审孽,這世上最難降的妖魔是什么县袱? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,554評(píng)論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮佑力,結(jié)果婚禮上式散,老公的妹妹穿的比我還像新娘。我一直安慰自己打颤,他們只是感情好暴拄,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,662評(píng)論 6 386
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著瘸洛,像睡著了一般揍移。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上反肋,一...
    開(kāi)封第一講書(shū)人閱讀 49,856評(píng)論 1 290
  • 那天那伐,我揣著相機(jī)與錄音,去河邊找鬼。 笑死罕邀,一個(gè)胖子當(dāng)著我的面吹牛畅形,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播诉探,決...
    沈念sama閱讀 39,014評(píng)論 3 408
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼日熬,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了肾胯?” 一聲冷哼從身側(cè)響起竖席,我...
    開(kāi)封第一講書(shū)人閱讀 37,752評(píng)論 0 268
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎敬肚,沒(méi)想到半個(gè)月后毕荐,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,212評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡艳馒,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,541評(píng)論 2 327
  • 正文 我和宋清朗相戀三年憎亚,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片弄慰。...
    茶點(diǎn)故事閱讀 38,687評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡第美,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出陆爽,到底是詐尸還是另有隱情什往,我是刑警寧澤,帶...
    沈念sama閱讀 34,347評(píng)論 4 331
  • 正文 年R本政府宣布墓陈,位于F島的核電站恶守,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏贡必。R本人自食惡果不足惜兔港,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,973評(píng)論 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望仔拟。 院中可真熱鬧衫樊,春花似錦、人聲如沸利花。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,777評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)炒事。三九已至臀栈,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間挠乳,已是汗流浹背权薯。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,006評(píng)論 1 266
  • 我被黑心中介騙來(lái)泰國(guó)打工姑躲, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人盟蚣。 一個(gè)月前我還...
    沈念sama閱讀 46,406評(píng)論 2 360
  • 正文 我出身青樓黍析,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親屎开。 傳聞我的和親對(duì)象是個(gè)殘疾皇子阐枣,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,576評(píng)論 2 349

推薦閱讀更多精彩內(nèi)容

  • pyspark.sql模塊 模塊上下文 Spark SQL和DataFrames的重要類(lèi): pyspark.sql...
    mpro閱讀 9,448評(píng)論 0 13
  • pandas接口速查 import pandas as pdimport numpy as np 導(dǎo)入數(shù)據(jù) pd....
    星星在線閱讀 923評(píng)論 0 8
  • 本文翻譯自文章:Pandas Cheat Sheet - Python for Data Science,同時(shí)添加...
    oyan99閱讀 378評(píng)論 0 1
  • pandas模塊 基本屬性 df.dtypes: data type of columns列...
    wong11閱讀 1,276評(píng)論 0 2
  • 表層習(xí)慣完成情況:早起(高)聽(tīng)力(中)閱讀(低) 今天干了一件蠢事 在修改之前寫(xiě)的論文的時(shí)候系統(tǒng)提醒要清理垃圾奄抽,于...
    呀呀呀呀呀dream閱讀 131評(píng)論 0 0