Python - Pandas系列 - 最強(qiáng)pandas.DataFrame.agg解釋

官方網(wǎng)址:https://pandas.pydata.org/docs/reference/api/pandas.DataFrame.aggregate.html

目的

該篇文章主要線路為探索agg的基本用法斩启,以及對(duì)應(yīng)有哪些適用場(chǎng)景,最后做一個(gè)簡(jiǎn)單探索源代碼層酬姆。

1勤庐、介紹agg的參數(shù)及使用demo

2示惊、GroupBy的agg用法案例

3、通過查看底層推演agg的路線原理

1愉镰、介紹agg的參數(shù)及使用demo

aggaggregate的別名

DataFrame.aggregate(func=None, axis=0, args,kwargs)

參數(shù)名 解釋 傳參格式 例如
func 用于匯總數(shù)據(jù)的功能米罚。如果是函數(shù),則必須在傳遞DataFrame或傳遞給DataFrame.apply時(shí)起作用丈探。 函數(shù)录择,str,列表或字典 [np.sum, 'mean']
axis 如果為0或'index':將函數(shù)應(yīng)用于每一列。如果為1或“列”:將函數(shù)應(yīng)用于每一行糊肠。 {0或'index'辨宠,1或'columns'},默認(rèn)0 1

它會(huì)return的數(shù)據(jù)類型一般為:標(biāo)量(值)货裹、Series嗤形、DataFrame三種。

對(duì)應(yīng)可以使用

標(biāo)量:使用單個(gè)函數(shù)調(diào)用Series.agg

Series:使用單個(gè)函數(shù)調(diào)用DataFrame.agg

DaFrame:使用多個(gè)函數(shù)調(diào)用DataFrame.agg

返回例子

標(biāo)量

s_df = pd.Series([1,2,3])
print(s_df)
print(s_df.agg(sum))
---------return----------
0    1
1    2
2    3
dtype: int64

6

Seires

df = pd.DataFrame([[1, 2, 3],
                   [4, 5, 6],
                   [7, 8, 9],
                   [np.nan, np.nan, np.nan]],
                  columns=['A', 'B', 'C'])

print(df)
-----return------
     A    B    C
0  1.0  2.0  3.0
1  4.0  5.0  6.0
2  7.0  8.0  9.0
3  NaN  NaN  NaN

print(df.agg(sum))
----return------
A    12.0
B    15.0
C    18.0
dtype: float64

DataFrame

# 在行上匯總這些功能
print(df.agg(['sum', 'min'])
----return----
      A     B     C
sum  12.0  15.0  18.0
min   1.0   2.0   3.0
      
# 每列不同的聚合
print(df.agg({'A' : ['sum', 'min'], 'B' : ['min', 'max']}))
----return----
        A    B
sum  12.0  NaN
min   1.0  2.0
max   NaN  8.0

# 在列上聚合不同的函數(shù)弧圆,然后重命名結(jié)果DataFrame的索引
print(df.agg(x=('A', max), y=('B', 'min'), z=('C', np.mean)))
----return----
     A    B    C
x  7.0  NaN  NaN
y  NaN  2.0  NaN
z  NaN  NaN  6.0

2赋兵、GroupBy的agg用法案例

數(shù)據(jù)構(gòu)造

import pandas as pd
 
df = pd.DataFrame({'Country':['China','China', 'India', 'India', 'America', 'Japan', 'China', 'India'], 
                   'Income':[10000, 10000, 5000, 5002, 40000, 50000, 8000, 5000],
                    'Age':[5000, 4321, 1234, 4010, 250, 250, 4500, 4321]})

----return----
 Age  Country  Income
0  5000    China   10000
1  4321    China   10000
2  1234    India    5000
3  4010    India    5002
4   250  America   40000
5   250    Japan   50000
6  4500    China    8000
7  4321    India    5000

接下來會(huì)按照城市分組,用print()方法給認(rèn)知groupby的分組邏輯

df.groupby(['Country']).apply(lambda x: print(x,type(x)))

----print----
   Country  Income  Age
4  America   40000  250 <class 'pandas.core.frame.DataFrame'>
  Country  Income   Age
0   China   10000  5000
1   China   10000  4321
6   China    8000  4500 <class 'pandas.core.frame.DataFrame'>
  Country  Income   Age
2   India    5000  1234
3   India    5002  4010
7   India    5000  4321 <class 'pandas.core.frame.DataFrame'>
  Country  Income  Age
5   Japan   50000  250 <class 'pandas.core.frame.DataFrame'>

這兒其實(shí)就很清晰了搔预,分組里面的結(jié)果就是一個(gè)個(gè)分組后的DataFrame霹期。所以針對(duì)Groupby后agg的用法,就是DataFrame.agg的用法拯田,不用額外說什么历造,照樣是 列表、字典 形式傳入船庇。

列表傳參

df_agg = df.groupby('Country').agg(['min', 'mean', 'max'])
print(df_agg)

----print----
        Income                        Age                   
           min          mean    max   min         mean   max
Country                                                     
America  40000  40000.000000  40000   250   250.000000   250
China     8000   9333.333333  10000  4321  4607.000000  5000
India     5000   5000.666667   5002  1234  3188.333333  4321
Japan    50000  50000.000000  50000   250   250.000000   250

字典傳參

print(df.groupby('Country').agg({'Age':['min', 'mean', 'max'], 'Income':['min', 'max']}))

---print---
      Age                    Income       
          min         mean   max    min    max
Country                                       
America   250   250.000000   250  40000  40000
China    4321  4607.000000  5000   8000  10000
India    1234  3188.333333  4321   5000   5002
Japan     250   250.000000   250  50000  50000

==總結(jié):==首先了解agg能傳什么形式的func吭产,再清晰groupby的形式,就知道groupy+agg結(jié)合起來的用法鸭轮。

3臣淤、通過查看底層推演agg的路線原理

為什么要查看這個(gè)底層呢?主要是對(duì)傳func時(shí)候窃爷,遇到的這幾種傳參產(chǎn)生好奇邑蒋,想要知道為什么能這樣子傳,追根朔源按厘。

這幾種傳參指的是:

df = pd.DataFrame([[1, 2, 3],
                   [4, 5, 6],
                   [7, 8, 9],
                   [np.nan, np.nan, np.nan]],
                  columns=['A', 'B', 'C'])

print(df.agg([sum, 'sum', np.sum]))
------print-----
        A     B     C
sum  12.0  15.0  18.0
sum  12.0  15.0  18.0
sum  12.0  15.0  18.0

sum医吊、"sum"np.sum的作用效果一樣刻剥,它們的表達(dá)形式不同遮咖。

開始查閱底層代碼

1、agg = aggregate 造虏, agg是aggregate的別名御吞,因?yàn)橐婚_始底層代碼就有這條賦值語(yǔ)句。

image.png

2漓藕、agg其實(shí)就是調(diào)用apply函數(shù)陶珠,也就是apply函數(shù)能用的它也能用

image.png
  • 做個(gè)測(cè)試看看,返回的結(jié)果是一樣的享钞。

  •   print(df.apply([sum, 'sum', np.sum]))
      ----return----
              A     B     C
      sum  12.0  15.0  18.0
      sum  12.0  15.0  18.0
      sum  12.0  15.0  18.0
    

3揍诽、所以sum诀蓉、‘sum’、np.sum 重點(diǎn)是 func 傳參解析的作用暑脆,而不是函數(shù)本身作用渠啤。

找一下有關(guān)func的注釋

func : function
            Function to apply to each column or row.
# 解釋 函數(shù)能用于行或列而已

 If you are just applying a NumPy reduction function this will
              achieve much better performance.
# 這兒就說如果用numpy的函數(shù),能有更好表現(xiàn)添吗,可以說明np.sum 與 sum 是調(diào)用不同模塊的函數(shù)

找了半天沥曹,雖然猜測(cè)是 ‘sum’轉(zhuǎn)為sum使用了,但是仍沒找到碟联,所以嘗試一下這樣子妓美。

4、_try_aggregate_string_function 找到轉(zhuǎn)化的原因鲤孵!

print(df.apply([sum, 'sum', np.sum,'np.sum']))
----error----
...
  File "D:\r\Anaconda3\lib\site-packages\pandas\core\series.py", line 3688, in aggregate
    result, how = self._aggregate(func, *args, **kwargs)
  File "D:\r\Anaconda3\lib\site-packages\pandas\core\base.py", line 477, in _aggregate
    return self._aggregate_multiple_funcs(arg, _axis=_axis), None
  File "D:\r\Anaconda3\lib\site-packages\pandas\core\base.py", line 507, in _aggregate_multiple_funcs
    new_res = colg.aggregate(a)
  File "D:\r\Anaconda3\lib\site-packages\pandas\core\series.py", line 3688, in aggregate
    result, how = self._aggregate(func, *args, **kwargs)
  File "D:\r\Anaconda3\lib\site-packages\pandas\core\base.py", line 311, in _aggregate
    return self._try_aggregate_string_function(arg, *args, **kwargs), None
  File "D:\r\Anaconda3\lib\site-packages\pandas\core\base.py", line 282, in _try_aggregate_string_function
    f"'{arg}' is not a valid function for '{type(self).__name__}' object"
AttributeError: 'np.sum' is not a valid function for 'Series' object

重點(diǎn)看_try_aggregate_string_function的報(bào)錯(cuò)壶栋。

該函數(shù)如下

    def _try_aggregate_string_function(self, arg: str, *args, **kwargs):
        """
        if arg is a string, then try to operate on it:
        - try to find a function (or attribute) on ourselves
        - try to find a numpy function
        - raise

        """
        assert isinstance(arg, str)

        f = getattr(self, arg, None)        # 再這里轉(zhuǎn)化的
        if f is not None:
            if callable(f):
                return f(*args, **kwargs)

            # people may try to aggregate on a non-callable attribute
            # but don't let them think they can pass args to it
            assert len(args) == 0
            assert len([kwarg for kwarg in kwargs if kwarg not in ["axis"]]) == 0
            return f

        f = getattr(np, arg, None)
        if f is not None:
            if hasattr(self, "__array__"):
                # in particular exclude Window
                return f(self, *args, **kwargs)

        raise AttributeError(
            f"'{arg}' is not a valid function for '{type(self).__name__}' object"
        )

轉(zhuǎn)化的函數(shù)是這個(gè)f = getattr(np, arg, None),它能找到對(duì)應(yīng)是否有函數(shù)普监,注釋也有說贵试,如果arg是string格式,會(huì)去尋找它本身是否有這個(gè)函數(shù)鹰椒,找不到再去尋找numpy模塊的锡移,再找不到就報(bào)錯(cuò)。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末漆际,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子夺饲,更是在濱河造成了極大的恐慌奸汇,老刑警劉巖,帶你破解...
    沈念sama閱讀 207,248評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件往声,死亡現(xiàn)場(chǎng)離奇詭異擂找,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)浩销,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,681評(píng)論 2 381
  • 文/潘曉璐 我一進(jìn)店門贯涎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人慢洋,你說我怎么就攤上這事塘雳。” “怎么了普筹?”我有些...
    開封第一講書人閱讀 153,443評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵败明,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我太防,道長(zhǎng)妻顶,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,475評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮讳嘱,結(jié)果婚禮上幔嗦,老公的妹妹穿的比我還像新娘。我一直安慰自己沥潭,他們只是感情好邀泉,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,458評(píng)論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著叛氨,像睡著了一般呼渣。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上寞埠,一...
    開封第一講書人閱讀 49,185評(píng)論 1 284
  • 那天屁置,我揣著相機(jī)與錄音,去河邊找鬼仁连。 笑死蓝角,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的饭冬。 我是一名探鬼主播使鹅,決...
    沈念sama閱讀 38,451評(píng)論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼昌抠!你這毒婦竟也來了患朱?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,112評(píng)論 0 261
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤炊苫,失蹤者是張志新(化名)和其女友劉穎裁厅,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體侨艾,經(jīng)...
    沈念sama閱讀 43,609評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡执虹,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,083評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了唠梨。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片袋励。...
    茶點(diǎn)故事閱讀 38,163評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖当叭,靈堂內(nèi)的尸體忽然破棺而出茬故,到底是詐尸還是另有隱情,我是刑警寧澤科展,帶...
    沈念sama閱讀 33,803評(píng)論 4 323
  • 正文 年R本政府宣布均牢,位于F島的核電站,受9級(jí)特大地震影響才睹,放射性物質(zhì)發(fā)生泄漏徘跪。R本人自食惡果不足惜甘邀,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,357評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望垮庐。 院中可真熱鬧松邪,春花似錦、人聲如沸哨查。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,357評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)寒亥。三九已至邮府,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間溉奕,已是汗流浹背褂傀。 一陣腳步聲響...
    開封第一講書人閱讀 31,590評(píng)論 1 261
  • 我被黑心中介騙來泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留加勤,地道東北人仙辟。 一個(gè)月前我還...
    沈念sama閱讀 45,636評(píng)論 2 355
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像鳄梅,于是被迫代替她去往敵國(guó)和親叠国。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,925評(píng)論 2 344

推薦閱讀更多精彩內(nèi)容