用Python完成Excel的常用操作

在以前,商業(yè)分析對(duì)應(yīng)的英文單詞是Business Analysis舱殿,大家用的分析工具是Excel影锈,后來數(shù)據(jù)量大了娃磺,Excel應(yīng)付不過來了(Excel最大支持行數(shù)為1048576行),人們開始轉(zhuǎn)向python和R這樣的分析工具了徽职,這時(shí)候商業(yè)分析對(duì)應(yīng)的單詞是Business Analytics象颖。

其實(shí)python和Excel的使用準(zhǔn)則一樣,都是[We don't repeat ourselves]姆钉,都是盡可能用更方便的操作替代機(jī)械操作和純體力勞動(dòng)说订。用python做數(shù)據(jù)分析,離不開著名的pandas包潮瓶,經(jīng)過了很多版本的迭代優(yōu)化陶冷,pandas現(xiàn)在的生態(tài)圈已經(jīng)相當(dāng)完整了,官網(wǎng)還給出了它和其他分析工具的對(duì)比:

本文用的主要也是pandas毯辅,繪圖用的庫是plotly埂伦,實(shí)現(xiàn)的Excel的常用功能有:

  • Python和Excel的交互
  • vlookup函數(shù)
  • 數(shù)據(jù)透視表
  • 繪圖

以后如果發(fā)掘了更多Excel的功能,會(huì)回來繼續(xù)更新和補(bǔ)充思恐。開始之前赤屋,首先按照慣例加載pandas包:

import numpy as np
import pandas as pd
pd.set_option('max_columns', 10)
pd.set_option('max_rows', 20)
pd.set_option('display.float_format', lambda x: '%.2f' % x) # 禁用科學(xué)計(jì)數(shù)法

Python和Excel的交互

pandas里最常用的和Excel I/O有關(guān)的四個(gè)函數(shù)是read_csv/ read_excel/ to_csv/ to_excel,它們都有特定的參數(shù)設(shè)置壁袄,可以定制想要的讀取和導(dǎo)出效果类早。比如說想要讀取這樣一張表的左上部分:

可以用pd.read_excel("test.xlsx", header=1, nrows=17, usecols=3),返回結(jié)果:

df
Out[]: 
       工號(hào)   姓名 性別  部門
0   A0001   張偉  男  工程
1   A0002  王秀英  女  人事
2   A0003   王芳  女  行政
3   A0004   鄭勇  男  市場(chǎng)
4   A0005   張麗  女  研發(fā)
5   A0006   王艷  女  后勤
6   A0007   李勇  男  市場(chǎng)
7   A0008   李娟  女  工程
8   A0009   張靜  女  人事
9   A0010   王磊  男  行政
10  A0011   李娜  女  市場(chǎng)
11  A0012  劉詩雯  女  研發(fā)
12  A0013   王剛  男  后勤
13  A0014   葉倩  女  后勤
14  A0015  金雯雯  女  市場(chǎng)
15  A0016  王超杰  男  工程
16  A0017   李軍  男  人事

輸出函數(shù)也同理嗜逻,使用多少列涩僻,要不要index,標(biāo)題怎么放栈顷,都可以控制逆日。


vlookup函數(shù)

vlookup號(hào)稱是Excel里的神器之一,用途很廣泛萄凤,下面的例子來自豆瓣室抽,VLOOKUP函數(shù)最常用的10種用法,你會(huì)幾種?

案例一

問題:A3:B7單元格區(qū)域?yàn)樽帜傅燃?jí)查詢表靡努,表示60分以下為E級(jí)坪圾、60~69分為D級(jí)晓折、70~79分為C級(jí)、80~89分為B級(jí)兽泄、90分以上為A級(jí)漓概。D:G列為初二年級(jí)1班語文測(cè)驗(yàn)成績(jī)表,如何根據(jù)語文成績(jī)返回其字母等級(jí)病梢?

image.png

方法:在H3:H13單元格區(qū)域中輸入=VLOOKUP(G3, $A$3:$B$7, 2)

python實(shí)現(xiàn):

df = pd.read_excel("test.xlsx", sheet_name=0)
def grade_to_point(x):
    if x >= 90:
        return 'A'
    elif x >= 80:
        return 'B'
    elif x >= 70:
        return 'C'
    elif x >= 60:
        return 'D'
    else:
        return 'E'

df['等級(jí)'] = df['語文'].apply(grade_to_point)
df

Out[]: 
     學(xué)號(hào)   姓名 性別   語文 等級(jí)
0   101  王小麗  女   69  D
1   102  王寶勤  男   85  B
2   103  楊玉萍  女   49  E
3   104  田東會(huì)  女   90  A
4   105  陳雪蛟  女   73  C
5   106  楊建豐  男   42  E
6   107  黎梅佳  女   79  C
7   108   張興   男   91  A
8   109  馬進(jìn)春  女   48  E
9   110  魏改娟  女  100  A
10  111  王冰研  女   64  D

案例二

問題:在Sheet1里面如何查找折舊明細(xì)表中對(duì)應(yīng)編號(hào)下的月折舊額胃珍?(跨表查詢)


方法:在Sheet1里面的C2:C4單元格輸入 =VLOOKUP(A2, 折舊明細(xì)表!A$2:$G$12, 7, 0)

python實(shí)現(xiàn):使用merge將兩個(gè)表按照編號(hào)連接起來就行

df1 = pd.read_excel("test.xlsx", sheet_name='折舊明細(xì)表')
df2 = pd.read_excel("test.xlsx", sheet_name=1) #題目里的sheet1
df2.merge(df1[['編號(hào)', '月折舊額']], how='left', on='編號(hào)')
Out[]: 
      編號(hào)   資產(chǎn)名稱  月折舊額
0  YT001    電動(dòng)門   1399
1  YT005  桑塔納轎車  1147
2  YT008    打印機(jī)    51

案例三

問題:類似于案例二,但此時(shí)需要使用近似查找


方法:在B2:B7區(qū)域中輸入公式=VLOOKUP(A2&"*", 折舊明細(xì)表!$B$2:$G$12, 6, 0)

python實(shí)現(xiàn):這個(gè)比起上一個(gè)要麻煩一些蜓陌,需要用到一些pandas的使用技巧

df1 = pd.read_excel("test.xlsx", sheet_name='折舊明細(xì)表') 
df3 = pd.read_excel("test.xlsx", sheet_name=3) #含有資產(chǎn)名稱簡(jiǎn)寫的表
df3['月折舊額'] = 0
for i in range(len(df3['資產(chǎn)名稱'])):
    df3['月折舊額'][i] = df1[df1['資產(chǎn)名稱'].map(lambda x:df3['資產(chǎn)名稱'][i] in x)]['月折舊額']

df3
Out[]: 
  資產(chǎn)名稱   月折舊額
0   電動(dòng)   1399
1   貨車   2438
2   惠普    132
3   交聯(lián)  10133
4  桑塔納   1147
5   春蘭    230

案例四

問題:在Excel中錄入數(shù)據(jù)信息時(shí)觅彰,為了提高工作效率,用戶希望通過輸入數(shù)據(jù)的關(guān)鍵字后钮热,自動(dòng)顯示該記錄的其余信息填抬,例如,輸入員工工號(hào)自動(dòng)顯示該員工的信命霉旗,輸入物料號(hào)就能自動(dòng)顯示該物料的品名痴奏、單價(jià)等。如圖所示為某單位所有員工基本信息的數(shù)據(jù)源表厌秒,在“2010年3月員工請(qǐng)假統(tǒng)計(jì)表”工作表中读拆,當(dāng)在A列輸入員工工號(hào)時(shí),如何實(shí)現(xiàn)對(duì)應(yīng)員工的姓名鸵闪、身份證號(hào)檐晕、部門、職務(wù)蚌讼、入職日期等信息的自動(dòng)錄入辟灰?

方法:使用VLOOKUP+MATCH函數(shù),在“2010年3月員工請(qǐng)假統(tǒng)計(jì)表”工作表中選擇B3:F8單元格區(qū)域篡石,輸入下列公式=IF($A3="","",VLOOKUP($A3,員工基本信息!$A:$H,MATCH(B$2,員工基本信息!$2:$2,0),0))芥喇,按下【Ctrl+Enter】組合鍵結(jié)束。

python實(shí)現(xiàn):上面的Excel的方法用得很靈活凰萨,但是pandas的想法和操作更簡(jiǎn)單方便些

df4 = pd.read_excel("test.xlsx", sheet_name='員工基本信息表')
df5 = pd.read_excel("test.xlsx", sheet_name='請(qǐng)假統(tǒng)計(jì)表')
df5.merge(df4[['工號(hào)', '姓名', '部門', '職務(wù)', '入職日期']], on='工號(hào)')
Out[]: 
      工號(hào)   姓名  部門   職務(wù)       入職日期
0  A0004  龔夢(mèng)娟  后勤   主管 2006-11-20
1  A0003   趙敏  行政   文員 2007-02-16
2  A0005   黃凌  研發(fā)  工程師 2009-01-14
3  A0007   王維  人事   經(jīng)理 2006-07-24
4  A0016  張君寶  市場(chǎng)  工程師 2007-08-14
5  A0017   秦羽  人事  副經(jīng)理 2008-03-06

案例五

問題:用VLOOKUP函數(shù)實(shí)現(xiàn)批量查找继控,VLOOKUP函數(shù)一般情況下只能查找一個(gè),那么多項(xiàng)應(yīng)該怎么查找呢胖眷?如下圖武通,如何把張一的消費(fèi)額全部列出?


方法:在C9:C11單元格里面輸入公式=VLOOKUP(B$9&ROW(A1),IF({1,0},$B$2:$B$6&COUNTIF(INDIRECT("b2:b"&ROW($2:$6)),B$9),$C$2:$C$6),2,)珊搀,按SHIFT+CTRL+ENTER鍵結(jié)束冶忱。

python實(shí)現(xiàn):vlookup函數(shù)有兩個(gè)不足(或者算是特點(diǎn)吧),一個(gè)是被查找的值一定要在區(qū)域里的第一列境析,另一個(gè)是只能查找一個(gè)值囚枪,剩余的即便能匹配也不去查找了派诬,這兩點(diǎn)都能通過靈活應(yīng)用if和indirect函數(shù)來解決,不過pandas能做得更直白一些

df6 = pd.read_excel("test.xlsx", sheet_name='消費(fèi)額')
df6[df6['姓名'] == '張一'][['姓名', '消費(fèi)額']]
Out[]: 
   姓名   消費(fèi)額
0  張一   100
2  張一   300
4  張一  1000

數(shù)據(jù)透視表

數(shù)據(jù)透視表是Excel的另一個(gè)神器眶拉,本質(zhì)上是一系列的表格重組整合的過程千埃。這里用的案例來自知乎憔儿,Excel數(shù)據(jù)透視表有什么用途忆植?

問題:需要匯總各個(gè)區(qū)域,每個(gè)月的銷售額與成本總計(jì)谒臼,并同時(shí)算出利潤

通過Excel的數(shù)據(jù)透視表的操作最終實(shí)現(xiàn)了下面這樣的效果:

python實(shí)現(xiàn):對(duì)于這樣的分組的任務(wù)朝刊,首先想到的就是pandas的groupby,代碼寫起來也簡(jiǎn)單蜈缤,思路就是把剛才Excel的點(diǎn)鼠標(biāo)的操作反映到代碼命令上:

df = pd.read_excel('test.xlsx', sheet_name='銷售統(tǒng)計(jì)表')
df['訂購月份'] = df['訂購日期'].apply(lambda x:x.month)
df2 = df.groupby(['訂購月份', '所屬區(qū)域'])[['銷售額', '成本']].agg('sum')
df2['利潤'] = df2['銷售額'] - df2['成本']
df2

Out[]: 
                 銷售額         成本        利潤
訂購月份 所屬區(qū)域                                
1    南京    134313.61   94967.84  39345.77
     常熟    177531.47  163220.07  14311.40
     無錫    316418.09  231822.28  84595.81
     昆山    159183.35  145403.32  13780.03
     蘇州    287253.99  238812.03  48441.96
2    南京    187129.13  138530.42  48598.71
     常熟    154442.74  126834.37  27608.37
     無錫    464012.20  376134.98  87877.22
     昆山    102324.46   86244.52  16079.94
     蘇州    105940.34   91419.54  14520.80
             ...        ...       ...
11   南京    286329.88  221687.11  64642.77
     常熟   2118503.54 1840868.53 277635.01
     無錫    633915.41  536866.77  97048.64
     昆山    351023.24  342420.18   8603.06
     蘇州   1269351.39 1144809.83 124541.56
12   南京    894522.06  808959.32  85562.74
     常熟    324454.49  262918.81  61535.68
     無錫   1040127.19  856816.72 183310.48
     昆山   1096212.75  951652.87 144559.87
     蘇州    347939.30  302154.25  45785.05

[60 rows x 3 columns]

也可以使用pandas里的pivot_table函數(shù)來實(shí)現(xiàn):

df3 = pd.pivot_table(df, values=['銷售額', '成本'], index=['訂購月份', '所屬區(qū)域'] , aggfunc='sum')
df3['利潤'] = df3['銷售額'] - df3['成本']
df3 

Out[]: 
                  成本        銷售額        利潤
訂購月份 所屬區(qū)域                                
1    南京     94967.84  134313.61  39345.77
     常熟    163220.07  177531.47  14311.40
     無錫    231822.28  316418.09  84595.81
     昆山    145403.32  159183.35  13780.03
     蘇州    238812.03  287253.99  48441.96
2    南京    138530.42  187129.13  48598.71
     常熟    126834.37  154442.74  27608.37
     無錫    376134.98  464012.20  87877.22
     昆山     86244.52  102324.46  16079.94
     蘇州     91419.54  105940.34  14520.80
             ...        ...       ...
11   南京    221687.11  286329.88  64642.77
     常熟   1840868.53 2118503.54 277635.01
     無錫    536866.77  633915.41  97048.64
     昆山    342420.18  351023.24   8603.06
     蘇州   1144809.83 1269351.39 124541.56
12   南京    808959.32  894522.06  85562.74
     常熟    262918.81  324454.49  61535.68
     無錫    856816.72 1040127.19 183310.48
     昆山    951652.87 1096212.75 144559.87
     蘇州    302154.25  347939.30  45785.05

[60 rows x 3 columns]

pandas的pivot_table的參數(shù)index/ columns/ values和Excel里的參數(shù)是對(duì)應(yīng)上的(當(dāng)然拾氓,我這話說了等于沒說,數(shù)據(jù)透視表里不就是行/列/值嗎還能有啥底哥。咙鞍。)

但是我個(gè)人還是更喜歡用groupby,因?yàn)樗\(yùn)算速度非持夯眨快续滋。我在打kaggle比賽的時(shí)候,有一張表是貸款人的行為信息孵奶,大概有2700萬行疲酌,用groupby算了幾個(gè)聚合函數(shù),幾秒鐘就完成了了袁。

groupby的功能很全面朗恳,內(nèi)置了很多aggregate函數(shù),能夠滿足大部分的基本需求载绿,如果你需要一些其他的函數(shù)粥诫,可以搭配使用apply和lambda。不過pandas的官方文檔說了崭庸,groupby之后用apply速度非常慢怀浆,aggregate內(nèi)部做過優(yōu)化,所以很快冀自,apply是沒有優(yōu)化的揉稚,所以建議有問題先想想別的方法,實(shí)在不行的時(shí)候再用apply熬粗。我打比賽的時(shí)候搀玖,為了生成一個(gè)新變量,用了groupby的apply驻呐,寫了這么一句:ins['weight'] = ins[['SK_ID_PREV', 'DAYS_ENTRY_PAYMENT']].groupby('SK_ID_PREV').apply(lambda x: 1-abs(x)/x.sum().abs()).iloc[:,1]灌诅,1000萬行的數(shù)據(jù)芳来,足足算了十多分鐘,等得我心力交瘁猜拾。即舌。


繪圖

因?yàn)镋xcel畫出來的圖能夠交互,能夠在圖上進(jìn)行一些簡(jiǎn)單操作挎袜,所以這里用的python的可視化庫是plotly顽聂,案例就用我這個(gè)學(xué)期發(fā)展經(jīng)濟(jì)學(xué)課上的作業(yè)吧,當(dāng)時(shí)的圖都是用Excel畫的盯仪,現(xiàn)在用python再畫一遍紊搪。開始之前,首先加載plotly包全景。

import plotly.offline as off
import plotly.graph_objs as go
off.init_notebook_mode()

柱狀圖

當(dāng)時(shí)用Excel畫了很多的柱狀圖耀石,其中的一幅圖是

下面用plotly來畫一下

df = pd.read_excel("plot.xlsx", sheet_name='高等教育入學(xué)率')
trace1 = go.Bar(
        x=df['國家'],
        y=df[1995],
        name='1995',
        opacity=0.6,
        marker=dict(
                color='powderblue'
                )
        )

trace2 = go.Bar(
        x=df['國家'],
        y=df[2005],
        name='2005',
        opacity=0.6,
        marker=dict(
                color='aliceblue',
                )
        )

trace3 = go.Bar(
        x=df['國家'],
        y=df[2014],
        name='2014',
        opacity=0.6,
        marker=dict(
                color='royalblue'
                )
        )

layout = go.Layout(barmode='group')
data = [trace1, trace2, trace3]
fig = go.Figure(data, layout)
off.plot(fig)

雷達(dá)圖

用Excel畫的:

用python畫的:

df = pd.read_excel('plot.xlsx', sheet_name='政治治理')
theta = df.columns.tolist()
theta.append(theta[0])
names = df.index
df[''] = df.iloc[:,0]
df = np.array(df)

trace1 = go.Scatterpolar(
        r=df[0],
        theta=theta,
        name=names[0]
        )

trace2 = go.Scatterpolar(
        r=df[1],
        theta=theta,
        name=names[1]
        )

trace3 = go.Scatterpolar(
        r=df[2],
        theta=theta,
        name=names[2]
        )

trace4 = go.Scatterpolar(
        r=df[3],
        theta=theta,
        name=names[3]
        )

data = [trace1, trace2, trace3, trace4]
layout = go.Layout(
        polar=dict(
                radialaxis=dict(
                        visible=True,
                        range=[0,1]
                        )
                ),
        showlegend=True
        )
fig = go.Figure(data, layout)
off.plot(fig)

畫起來比Excel要麻煩得多“只疲總體而言滞伟,如果畫簡(jiǎn)單基本的圖形,用Excel是最方便的炕贵,如果要畫高級(jí)一些的或者是需要更多定制化的圖形梆奈,使用python更合適。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末鲁驶,一起剝皮案震驚了整個(gè)濱河市鉴裹,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌钥弯,老刑警劉巖径荔,帶你破解...
    沈念sama閱讀 206,311評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異脆霎,居然都是意外死亡总处,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門睛蛛,熙熙樓的掌柜王于貴愁眉苦臉地迎上來鹦马,“玉大人,你說我怎么就攤上這事忆肾≥┢担” “怎么了?”我有些...
    開封第一講書人閱讀 152,671評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵客冈,是天一觀的道長(zhǎng)旭从。 經(jīng)常有香客問我,道長(zhǎng),這世上最難降的妖魔是什么和悦? 我笑而不...
    開封第一講書人閱讀 55,252評(píng)論 1 279
  • 正文 為了忘掉前任退疫,我火速辦了婚禮,結(jié)果婚禮上鸽素,老公的妹妹穿的比我還像新娘褒繁。我一直安慰自己,他們只是感情好馍忽,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,253評(píng)論 5 371
  • 文/花漫 我一把揭開白布棒坏。 她就那樣靜靜地躺著,像睡著了一般舵匾。 火紅的嫁衣襯著肌膚如雪俊抵。 梳的紋絲不亂的頭發(fā)上谁不,一...
    開封第一講書人閱讀 49,031評(píng)論 1 285
  • 那天坐梯,我揣著相機(jī)與錄音,去河邊找鬼刹帕。 笑死吵血,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的偷溺。 我是一名探鬼主播蹋辅,決...
    沈念sama閱讀 38,340評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼挫掏!你這毒婦竟也來了侦另?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 36,973評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤尉共,失蹤者是張志新(化名)和其女友劉穎褒傅,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體袄友,經(jīng)...
    沈念sama閱讀 43,466評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡殿托,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,937評(píng)論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了剧蚣。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片支竹。...
    茶點(diǎn)故事閱讀 38,039評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖鸠按,靈堂內(nèi)的尸體忽然破棺而出礼搁,到底是詐尸還是另有隱情,我是刑警寧澤目尖,帶...
    沈念sama閱讀 33,701評(píng)論 4 323
  • 正文 年R本政府宣布馒吴,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏募书。R本人自食惡果不足惜绪囱,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,254評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望莹捡。 院中可真熱鬧鬼吵,春花似錦、人聲如沸篮赢。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽启泣。三九已至涣脚,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間寥茫,已是汗流浹背遣蚀。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評(píng)論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留纱耻,地道東北人芭梯。 一個(gè)月前我還...
    沈念sama閱讀 45,497評(píng)論 2 354
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像弄喘,于是被迫代替她去往敵國和親玖喘。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,786評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容