Pandas里面常用的一些數(shù)據(jù)分析函數(shù)總結(jié)

Pandas里面常用的一些數(shù)據(jù)分析函數(shù)總結(jié)

import pandas as pd
import numpy as np

pandas 有兩個(gè)主要的數(shù)據(jù)結(jié)構(gòu):Series 和 DataFrame;
Series 是一個(gè)一維數(shù)組對(duì)象 环葵,它包含一組索引和一組數(shù)據(jù)蔑赘,可以把它理解為一組帶索引的數(shù)組。
DataFrame 是一個(gè)表格型的數(shù)據(jù)結(jié)構(gòu)贪绘。它提供有序的列和不同類(lèi)型的列值炎咖。

df:Pandas DataFrame對(duì)象
s: Pandas Series對(duì)象

數(shù)據(jù)導(dǎo)入:

pd.read_csv(filename):從csv文件中導(dǎo)入數(shù)據(jù);
  pd.read_table(filename):從限定分隔符的文本文件導(dǎo)入數(shù)據(jù)绍哎;
  pd.read_excel(filename):從Excel文件導(dǎo)入數(shù)據(jù)来农;
  pd.read_sql(query,connection_object):從SQL表/庫(kù)中導(dǎo)入數(shù)據(jù);
  pd.read_json(json_string):從JSON格式的字符串導(dǎo)入數(shù)據(jù)崇堰;
  pd.read_html(url):解析URLL沃于,字符串或者HTML文件;
  pd.read_clipboard():從粘貼板獲取內(nèi)容海诲;
  pd.DataFrame(dict):從字典對(duì)象導(dǎo)入數(shù)據(jù)繁莹;

數(shù)據(jù)導(dǎo)出:

df.to_csv(filename):導(dǎo)出數(shù)據(jù)到CSV文件;
  df.excel(filename):導(dǎo)出數(shù)據(jù)到EXCEl文件特幔;
  df.to_sql(table_nname,connection_object):導(dǎo)出數(shù)據(jù)到SQL表咨演;
  df.json(filename):以json格式導(dǎo)出數(shù)據(jù)到文本文件;

創(chuàng)建對(duì)象:

pd.DataFrame(np.random.rand(20,5)):創(chuàng)建20行5列的隨即數(shù)組成的DataFrame對(duì)象蚯斯;
  pd.Series(my_list):從可迭代對(duì)象my_list創(chuàng)建一個(gè)Series對(duì)象薄风;
  df.index = pd.date_range('1900/1/30',periods=df.shape[0]):增加一個(gè)日期索引;

index和reindex聯(lián)合使用很有用處拍嵌,index可作為索引并且元素亂排序之后遭赂,所以跟著元素保持不變,因此横辆,當(dāng)重排元素時(shí)撇他,只需要對(duì)index進(jìn)行才重排即可:reindex。

數(shù)據(jù)查看:

df.info():查看索引龄糊、數(shù)據(jù)類(lèi)型和內(nèi)存信息;
  df.tail():查看DataFrame對(duì)象的最后n行逆粹;
  df.shape():查看行數(shù)和列數(shù)募疮;
  df.head():查看DataFrame對(duì)象的前n行炫惩;
  df.describe():查看數(shù)值型列的匯總統(tǒng)計(jì);
  s.value_counts(dropna=False):查看Series對(duì)象的唯一值和計(jì)數(shù);
  df.apply(pd.Seices.value_counts):查看DataFrame對(duì)象中每一列的唯一值和計(jì)數(shù)阿浓;

數(shù)據(jù)選人隆:

df[col]:根據(jù)列名,并以Series的形式返回列;
  df[[col1, col2]]:以DataFrame形式返回多列筋蓖;
  s.iloc[0]:按位置選取數(shù)據(jù)卸耘;
  s.loc['index_one']:按索引選取數(shù)據(jù);
  df.iloc[0,:]:返回第一行粘咖;

數(shù)據(jù)清洗:

df.columns = ['a','b','c']:重命名列名

pd.isnull():檢查DataFrame對(duì)象中的空值蚣抗,并返回一個(gè)Boolean數(shù)組;

pd.notnull():檢查DataFrame對(duì)象中的非空值瓮下,并返回一個(gè)Boolean數(shù)組
  df.dropna():刪除所有包含空值的行翰铡;

df.fillna(x):用x替換DataFrame對(duì)象中所有的空值;

s.astype(float):將Series中的數(shù)據(jù)類(lèi)型更改為float類(lèi)型讽坏;

s.replace(1,'one'):用‘one’代替所有等于1的值
  df.rename(columns=lambda x: x + 1):批量更改列名锭魔;

df.set_index('column_one'):更改索引列;

數(shù)據(jù)處理:

  df[df[col] > 0.5]:選擇col列的值大于0.5的行路呜;
  df.sort_values(col1):按照列col1排序數(shù)據(jù)迷捧,默認(rèn)升序排列;
  df.groupby(col):返回一個(gè)按列col進(jìn)行分組的Groupby對(duì)象胀葱;

df.groupby(col1).agg(np.mean):返回按列col1分組的所有列的均值漠秋;

df.pivot_table(index=col1, values=[col2,col3], aggfunc=max):創(chuàng)建一個(gè)按列col1進(jìn)行分組,并計(jì)算col2和col3的最大值的數(shù)據(jù)透視表抵屿;

data.apply(np.mean):對(duì)DataFrame中的每一列應(yīng)用函數(shù)np.mean

數(shù)據(jù)合并:

df1.append(df2):將df2中的行添加到df1的尾部
  df.concat([df1, df2],axis=1):將df2中的列添加到df1的尾部
  df1.join(df2,on=col1,how='inner'):對(duì)df1的列和df2的列執(zhí)行SQL形式的join

數(shù)據(jù)統(tǒng)計(jì):

df.describe():查看數(shù)據(jù)值列的匯總統(tǒng)計(jì)膛堤;

df.mean():返回所有列的均值

df.corr():返回列與列之間的相關(guān)系數(shù);

df.count():返回每一列中的非空值的個(gè)數(shù)晌该;

df.max():返回每一列的最大值

df.min():返回每一列的最小值肥荔;

df.median():返回每一列的中位數(shù);

df.std():返回每一列的標(biāo)準(zhǔn)

Pandas支持的數(shù)據(jù)類(lèi)型:

int 整型
  float 浮點(diǎn)型
  bool 布爾類(lèi)型
  object 字符串類(lèi)型
  category 種類(lèi)
  datetime 時(shí)間類(lèi)型

其他:

df.astypes: 數(shù)據(jù)格式轉(zhuǎn)換
  df.value_counts:相同數(shù)值的個(gè)數(shù)統(tǒng)計(jì)
  df.hist(): 畫(huà)直方圖
  df.get_dummies: one-hot編碼朝群,將類(lèi)型格式的屬性轉(zhuǎn)換成矩陣型的屬性燕耿。比如:三種顏色RGB,紅色編碼為[1 0 0]姜胖;

后面會(huì)繼續(xù)更新誉帅;

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市右莱,隨后出現(xiàn)的幾起案子蚜锨,更是在濱河造成了極大的恐慌,老刑警劉巖慢蜓,帶你破解...
    沈念sama閱讀 217,185評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件亚再,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡晨抡,警方通過(guò)查閱死者的電腦和手機(jī)氛悬,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門(mén)则剃,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人如捅,你說(shuō)我怎么就攤上這事棍现。” “怎么了镜遣?”我有些...
    開(kāi)封第一講書(shū)人閱讀 163,524評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵己肮,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我悲关,道長(zhǎng)朴肺,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,339評(píng)論 1 293
  • 正文 為了忘掉前任坚洽,我火速辦了婚禮戈稿,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘讶舰。我一直安慰自己鞍盗,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,387評(píng)論 6 391
  • 文/花漫 我一把揭開(kāi)白布跳昼。 她就那樣靜靜地躺著般甲,像睡著了一般。 火紅的嫁衣襯著肌膚如雪鹅颊。 梳的紋絲不亂的頭發(fā)上敷存,一...
    開(kāi)封第一講書(shū)人閱讀 51,287評(píng)論 1 301
  • 那天,我揣著相機(jī)與錄音堪伍,去河邊找鬼锚烦。 笑死,一個(gè)胖子當(dāng)著我的面吹牛帝雇,可吹牛的內(nèi)容都是我干的涮俄。 我是一名探鬼主播,決...
    沈念sama閱讀 40,130評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼尸闸,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼彻亲!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起吮廉,我...
    開(kāi)封第一講書(shū)人閱讀 38,985評(píng)論 0 275
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤苞尝,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后宦芦,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體宙址,經(jīng)...
    沈念sama閱讀 45,420評(píng)論 1 313
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,617評(píng)論 3 334
  • 正文 我和宋清朗相戀三年踪旷,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了曼氛。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,779評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡令野,死狀恐怖舀患,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情气破,我是刑警寧澤聊浅,帶...
    沈念sama閱讀 35,477評(píng)論 5 345
  • 正文 年R本政府宣布,位于F島的核電站现使,受9級(jí)特大地震影響低匙,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜碳锈,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,088評(píng)論 3 328
  • 文/蒙蒙 一顽冶、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧售碳,春花似錦强重、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,716評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至艺智,卻和暖如春倘要,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背十拣。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,857評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工封拧, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人夭问。 一個(gè)月前我還...
    沈念sama閱讀 47,876評(píng)論 2 370
  • 正文 我出身青樓哮缺,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親甲喝。 傳聞我的和親對(duì)象是個(gè)殘疾皇子尝苇,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,700評(píng)論 2 354