高效的10個(gè)Pandas函數(shù)茬缩,你都用過了嗎?

Pandas是python中最主要的數(shù)據(jù)分析庫(kù)之一吼旧,它提供了非常多的函數(shù)凰锡、方法,可以高效地處理并分析數(shù)據(jù)圈暗。讓pandas如此受歡迎的原因是它簡(jiǎn)潔掂为、靈活、功能強(qiáng)大的語(yǔ)法员串。

這篇文章將會(huì)配合實(shí)例勇哗,講解20個(gè)重要的pandas函數(shù)。其中有一些很常用昵济,相信你可能用到過智绸。還有一些函數(shù)出現(xiàn)的頻率沒那么高,但它們同樣是分析數(shù)據(jù)的得力幫手访忿。

介紹這些函數(shù)之前瞧栗,第一步先要導(dǎo)入pandas和numpy。

import numpy as np
import pandas as pd

1. Query

Query是pandas的過濾查詢函數(shù)海铆,使用布爾表達(dá)式來查詢DataFrame的列迹恐,就是說按照列的規(guī)則進(jìn)行過濾操作。

用法:

pandas.DataFrame.query(self, expr, inplace = False, **kwargs)

參數(shù)作用:

  • expr:要評(píng)估的查詢字符串卧斟;
  • inplace=False:查詢是應(yīng)該修改數(shù)據(jù)還是返回修改后的副本
  • kwargs:dict關(guān)鍵字參數(shù)

首先生成一段df:

values_1 = np.random.randint(10, size=10)
values_2 = np.random.randint(10, size=10)
years = np.arange(2010,2020)
groups = ['A','A','B','A','B','B','C','A','C','C']
df = pd.DataFrame({'group':groups, 'year':years, 'value_1':values_1, 'value_2':values_2})
df

過濾查詢用起來比較簡(jiǎn)單殴边,比如要查列value_1<value_2的行記錄:

df.query('value_1 < value_2')

查詢列year>=2016的行記錄:

df.query('year >= 2016 ')

2. Insert

Insert用于在DataFrame的指定位置中插入新的數(shù)據(jù)列。默認(rèn)情況下新列是添加到末尾的珍语,但可以更改位置參數(shù)锤岸,將新列添加到任何位置。

用法:

Dataframe.insert(loc, column, value, allow_duplicates=False)

參數(shù)作用:

  • loc: int型板乙,表示插入位置在第幾列是偷;若在第一列插入數(shù)據(jù),則 loc=0
  • column: 給插入的列取名募逞,如 column='新的一列'
  • value:新列的值蛋铆,數(shù)字、array放接、series等都可以
  • allow_duplicates: 是否允許列名重復(fù)刺啦,選擇Ture表示允許新的列名與已存在的列名重復(fù)

接著用前面的df:


在第三列的位置插入新列:

#新列的值
new_col = np.random.randn(10)
#在第三列位置插入新列,從0開始計(jì)算
df.insert(2, 'new_col', new_col)
df

3. Cumsum

Cumsum是pandas的累加函數(shù)纠脾,用來求列的累加值玛瘸。
用法:

DataFrame.cumsum(axis=None, skipna=True, args, kwargs)

參數(shù)作用:

  • axis:index或者軸的名字
  • skipna:排除NA/null值

以前面的df為例蜕青,group列有A、B捧韵、C三組市咆,year列有多個(gè)年份。我們只知道當(dāng)年度的值value_1再来、value_2,現(xiàn)在求group分組下的累計(jì)值磷瘤,比如A芒篷、2014之前的累計(jì)值,可以用cumsum函數(shù)來實(shí)現(xiàn)采缚。

當(dāng)然僅用cumsum函數(shù)沒辦法對(duì)groups (A, B, C)進(jìn)行區(qū)分针炉,所以需要結(jié)合分組函數(shù)groupby分別對(duì)(A, B, C)進(jìn)行值的累加。

df['cumsum_2'] = df[['value_2','group']].groupby('group').cumsum()
df

4. Sample

Sample用于從DataFrame中隨機(jī)選取若干個(gè)行或列扳抽。
用法:

DataFrame.sample(n=None, frac=None, replace=False, weights=None, random_state=None, axis=None)

參數(shù)作用:

  • n:要抽取的行數(shù)
  • frac:抽取行的比例
    例如frac=0.8篡帕,就是抽取其中80%
  • replace:是否為有放回抽樣,
    True:有放回抽樣
    False:未放回抽樣
  • weights:字符索引或概率數(shù)組
  • random_state :隨機(jī)數(shù)發(fā)生器種子
  • axis:選擇抽取數(shù)據(jù)的行還是列
    axis=0:抽取行
    axis=1:抽取列

比如要從df中隨機(jī)抽取5行:

sample1 = df.sample(n=5)
sample1

從df隨機(jī)抽取60%的行贸呢,并且設(shè)置隨機(jī)數(shù)種子镰烧,每次能抽取到一樣的樣本:

sample2 = df.sample(frac=0.6,random_state=2)
sample2

5. Where

Where用來根據(jù)條件替換行或列中的值。如果滿足條件楞陷,保持原來的值怔鳖,不滿足條件則替換為其他值。默認(rèn)替換為NaN固蛾,也可以指定特殊值结执。

用法:

DataFrame.where(cond, other=nan, inplace=False, axis=None, level=None, errors='raise', try_cast=False, raise_on_error=None)

參數(shù)作用:

  • cond:布爾條件,如果 cond 為真艾凯,保持原來的值献幔,否則替換為other
  • other:替換的特殊值
  • inplace:inplace為真則在原數(shù)據(jù)上操作,為False則在原數(shù)據(jù)的copy上操作
  • axis:行或列

將df中列value_1里小于5的值替換為0:

df['value_1'].where(df['value_1'] > 5 , 0)

Where是一種掩碼操作趾诗。

掩碼(英語(yǔ):Mask)在計(jì)算機(jī)學(xué)科及數(shù)字邏輯中指的是一串二進(jìn)制數(shù)字蜡感,通過與目標(biāo)數(shù)字的按位操作,達(dá)到屏蔽指定位而實(shí)現(xiàn)需求沧竟。

6. Isin

Isin也是一種過濾方法铸敏,用于查看某列中是否包含某個(gè)字符串,返回值為布爾Series悟泵,來表明每一行的情況杈笔。

用法:

Series.isin(values)
或者
DataFrame.isin(values)

篩選df中year列值在['2010','2014','2017']里的行:

years = ['2010','2014','2017']
df[df.year.isin(years)]

7. Loc and iloc

Loc和iloc通常被用來選擇行和列,它們的功能相似糕非,但用法是有區(qū)別的蒙具。

用法:

DataFrame.loc[]
或者
DataFrame.iloc[]
  • loc:按標(biāo)簽(column和index)選擇行和列
  • iloc:按索引位置選擇行和列

選擇df第1~3行球榆、第1~2列的數(shù)據(jù),使用iloc:

df.iloc[:3,:2]

使用loc:

df.loc[:2,['group','year']]1

提示:使用loc時(shí)禁筏,索引是指index值持钉,包括上邊界。iloc索引是指行的位置篱昔,不包括上邊界每强。

選擇第1、3州刽、5行空执,year和value_1列:

df.loc[[1,3,5],['year','value_1']]

8. Pct_change

Pct_change是一個(gè)統(tǒng)計(jì)函數(shù),用于表示當(dāng)前元素與前面元素的相差百分比穗椅,兩元素的區(qū)間可以調(diào)整辨绊。

比如說給定三個(gè)元素[2,3,6],計(jì)算相差百分比后得到[NaN, 0.5, 1.0]匹表,從第一個(gè)元素到第二個(gè)元素增加50%门坷,從第二個(gè)元素到第三個(gè)元素增加100%。

用法:

DataFrame.pct_change(periods=1, fill_method=‘pad’, limit=None, freq=None, **kwargs)

參數(shù)作用:

  • periods:間隔區(qū)間袍镀,即步長(zhǎng)
  • fill_method:處理空值的方法

對(duì)df的value_1列進(jìn)行增長(zhǎng)率的計(jì)算:

df.value_1.pct_change()

9. Rank

Rank是一個(gè)排名函數(shù)默蚌,按照規(guī)則(從大到小,從小到大)給原序列的值進(jìn)行排名流椒,返回的是排名后的名次敏簿。

比如有一個(gè)序列[1,7,5,3],使用rank從小到大排名后宣虾,返回[1,4,3,2]惯裕,這就是前面那個(gè)序列每個(gè)值的排名位置。

用法:

rank(axis=0, method: str = 'average', numeric_only: Union[bool, NoneType] = None, na_option: str = 'keep', ascending: bool = True, pct: bool = False)

參數(shù)作用:

  • axis:行或者列
  • method:返回名次的方式绣硝,可選{‘a(chǎn)verage’, ‘min’, ‘max’, ‘first’, ‘dense’}

    method=average 默認(rèn)設(shè)置: 相同的值占據(jù)前兩名蜻势,分不出誰(shuí)是1誰(shuí)是2,那么去中值即1.5鹉胖,下面一名為第三名

    method=max: 兩人并列第 2 名握玛,下一個(gè)人是第 3 名

    method=min: 兩人并列第 1 名,下一個(gè)人是第 3 名

    method=dense: 兩人并列第1名甫菠,下一個(gè)人是第 2 名

    method=first: 相同值會(huì)按照其在序列中的相對(duì)位置定值
  • ascending:正序和倒序

對(duì)df中列value_1進(jìn)行排名:

df['rank_1'] = df['value_1'].rank()
df

10. Melt

Melt用于將寬表變成窄表挠铲,是 pivot透視逆轉(zhuǎn)操作函數(shù),將列名轉(zhuǎn)換為列數(shù)據(jù)(columns name → column values)寂诱,重構(gòu)DataFrame拂苹。

簡(jiǎn)單說就是將指定的列放到鋪開放到行上變成兩列,類別是variable(可指定)列痰洒,值是value(可指定)列瓢棒。

用法:

pandas.melt(frame, id_vars=None, value_vars=None, var_name=None, value_name='value', col_level=None)

參數(shù)作用:

  • frame:它是指DataFrame
  • id_vars [元組, 列表或ndarray, 可選]:不需要被轉(zhuǎn)換的列名浴韭,引用用作標(biāo)識(shí)符變量的列
  • value_vars [元組, 列表或ndarray, 可選]:引用要取消透視的列。如果未指定, 請(qǐng)使用未設(shè)置為id_vars的所有列
  • var_name [scalar]:指代用于”變量”列的名稱脯宿。如果為None, 則使用- - frame.columns.name或’variable’
  • value_name [標(biāo)量, 默認(rèn)為’value’]:是指用于” value”列的名稱
  • col_level [int或string, 可選]:如果列為MultiIndex, 它將使用此級(jí)別來融化

例如有一串?dāng)?shù)據(jù)念颈,表示不同城市和每天的人口流動(dòng):

import pandas as pd
df1 = pd.DataFrame({'city': {0: 'a', 1: 'b', 2: 'c'},
                     'day1': {0: 1, 1: 3, 2: 5},
                     'day2': {0: 2, 1: 4, 2: 6}})
df1

現(xiàn)在將day1、day2列變成變量列连霉,再加一個(gè)值列:

pd.melt(df1, id_vars=['city'])
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末榴芳,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子窘面,更是在濱河造成了極大的恐慌翠语,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,183評(píng)論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件财边,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡点骑,警方通過查閱死者的電腦和手機(jī)酣难,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,850評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來黑滴,“玉大人憨募,你說我怎么就攤上這事≡玻” “怎么了菜谣?”我有些...
    開封第一講書人閱讀 168,766評(píng)論 0 361
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)晚缩。 經(jīng)常有香客問我尾膊,道長(zhǎng),這世上最難降的妖魔是什么荞彼? 我笑而不...
    開封第一講書人閱讀 59,854評(píng)論 1 299
  • 正文 為了忘掉前任冈敛,我火速辦了婚禮,結(jié)果婚禮上鸣皂,老公的妹妹穿的比我還像新娘抓谴。我一直安慰自己寞缝,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,871評(píng)論 6 398
  • 文/花漫 我一把揭開白布荆陆。 她就那樣靜靜地躺著,像睡著了一般慎宾。 火紅的嫁衣襯著肌膚如雪丐吓。 梳的紋絲不亂的頭發(fā)上浅悉,一...
    開封第一講書人閱讀 52,457評(píng)論 1 311
  • 那天券犁,我揣著相機(jī)與錄音,去河邊找鬼粘衬。 笑死荞估,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的稚新。 我是一名探鬼主播勘伺,決...
    沈念sama閱讀 40,999評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼褂删,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了屯阀?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,914評(píng)論 0 277
  • 序言:老撾萬榮一對(duì)情侶失蹤钦无,失蹤者是張志新(化名)和其女友劉穎盖袭,沒想到半個(gè)月后失暂,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體鳄虱,經(jīng)...
    沈念sama閱讀 46,465評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,543評(píng)論 3 342
  • 正文 我和宋清朗相戀三年宣肚,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片霉涨。...
    茶點(diǎn)故事閱讀 40,675評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡惭适,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出癞志,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 36,354評(píng)論 5 351
  • 正文 年R本政府宣布秉宿,位于F島的核電站屯碴,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏导而。R本人自食惡果不足惜忱叭,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,029評(píng)論 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望今艺。 院中可真熱鬧韵丑,春花似錦、人聲如沸虚缎。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,514評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至,卻和暖如春值桩,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背奔坟。 一陣腳步聲響...
    開封第一講書人閱讀 33,616評(píng)論 1 274
  • 我被黑心中介騙來泰國(guó)打工咳秉, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人澜建。 一個(gè)月前我還...
    沈念sama閱讀 49,091評(píng)論 3 378
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像炕舵,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子溶推,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,685評(píng)論 2 360