《利用python進(jìn)行數(shù)據(jù)分析》讀書(shū)筆記1

讀取json內(nèi)容:

import json

path='路徑\文件名.txt'
records=[json.loads(line) for line in open(path)]
#records為由字典組成的列表。每個(gè)字典為一個(gè)實(shí)例

建立只有‘tz’時(shí)區(qū)字段的列表睬涧。因?yàn)椴皇敲總€(gè)字典實(shí)例都有tz字段募胃,所以要加上if 'tz' in rec。否則會(huì)報(bào)錯(cuò)宙地。

time_zone=[rec['tz'] for rec in records if 'tz' in rec]

統(tǒng)計(jì)每種時(shí)區(qū)的出現(xiàn)次數(shù):
方法一:
先統(tǒng)計(jì)次數(shù)摔认,生成{時(shí)區(qū)1:次數(shù),時(shí)區(qū)2:次數(shù)....}形式的字典宅粥。
再對(duì)字典進(jìn)行排序参袱。

統(tǒng)計(jì)次數(shù)方法(1):

from collections import defaultdict #次數(shù)統(tǒng)計(jì)函數(shù)
def get_counts(sequences)
    counts=defaultdict(int) #初始化次數(shù)統(tǒng)計(jì)字典,將其初始值設(shè)為0
    for x in sequences:
        counts[x]+=1
    return counts

統(tǒng)計(jì)次數(shù)方法(2):

from collections import defaultdict
def get_count2(sequence):
    counts=defaultdict(int)
    for x in sequence:
        counts[x]+=1
    return counts

排序

def top_count(counts,n=10) #字典排序函數(shù)秽梅,兩個(gè)參數(shù)里一個(gè)是計(jì)數(shù)字典抹蚀,一個(gè)是排序取前幾。默認(rèn)為前10企垦。
    value_key_pairs=[(count,tz) for tz, count in counts.items()]
    value_key_pairs.sort()
    return value_key_pairs[-10:]

counts=get_counts(time_zone)
top10=top_count(counts)

其中counts.items()是將字典中的鍵值對(duì)以元組的形式放進(jìn)列表里环壤。
例:counts:
{u'America/Montreal': 9, u'America/Anchorage': 5, u'Asia/Seoul': 5}
counts.items():
[(u'America/Montreal', 9), (u'America/Anchorage', 5), (u'Asia/Seoul', 5)]

而這句:value_key_pairs=[(count,tz) for tz, count in counts.items()]則是對(duì)返回的鍵,值對(duì)元組的位置做了調(diào)換钞诡。
例:[(9, u'America/Montreal'), (5, u'America/Anchorage'), (5, u'Asia/Seoul')]

value_key_pairs.sort()中 list.sort()方法只能用于列表郑现,是對(duì)原列表進(jìn)行排序。默認(rèn)升序荧降。需要降序則value_key_pairs.sort(reverse=False)

關(guān)于排序的知識(shí)詳細(xì)參考:http://www.cnblogs.com/freemao/p/3869994.html

方法二:使用Counter類(lèi)

from collections import Counter
counts=Counter(time_zone)
top10=counts.most_common(10)

Counter類(lèi)的目的是用來(lái)跟蹤值出現(xiàn)的次數(shù)接箫。它是一個(gè)無(wú)序的容器類(lèi)型,以字典的鍵值對(duì)形式存儲(chǔ)朵诫,其中元素作為key辛友,其計(jì)數(shù)作為value。計(jì)數(shù)值可以是任意的Interger(包括0和負(fù)數(shù))剪返。Counter類(lèi)和其他語(yǔ)言的bags或multisets很相似废累。
詳細(xì)參考:http://www.jb51.net/article/85542.htm

方法三:用pandas計(jì)數(shù)

import pandas as pd
import numpy as np
frame=pd.DataFrame(records)
tz_counts=frame['tz'].value_counts() #計(jì)數(shù)并且排序,默認(rèn)降序脱盲。tz_counts如下:
image.png

注意里面有空值

clear_tz=frame['tz'].fillna('Missing') #替換掉frame里缺失tz字段的NA
clear_tz[clear_tz=='']='Unknown #通過(guò)布爾型數(shù)組索引替換空字符串
tz_counts=clear_tz.value_counts()

此時(shí)的tz_counts如下邑滨。注意空字符串變成了unknow。以及增加了missing計(jì)數(shù)钱反。

image.png

使用前十的數(shù)據(jù)驼修,利用plot方法生成一張水平條形圖殿遂。

tz_counts[:10].plot(kind='barh',rot=0)
image.png

總結(jié):
1.往字典里存數(shù)據(jù)需要先初始化字典∫腋鳎可使用defaultdict函數(shù):

from collections import defaultdict 
counts=defaultdict(int) #初始化次數(shù)統(tǒng)計(jì)字典墨礁,將其初始值設(shè)為0

2.清洗數(shù)據(jù),有的數(shù)據(jù)沒(méi)有某個(gè)字段耳峦,一是要替換掉這些缺失值恩静,可用fillna方法替換。二是要注意有沒(méi)有空字符串蹲坷,這種數(shù)據(jù)可通過(guò)布爾型數(shù)組索引來(lái)替換掉驶乾。

3.對(duì)某個(gè)字段的值的出現(xiàn)次數(shù)進(jìn)行統(tǒng)計(jì),可使用三種方法
(1)新建一個(gè)字典循签,用以統(tǒng)計(jì)每個(gè)值的出現(xiàn)次數(shù)级乐。再將該字典轉(zhuǎn)換為列表,對(duì)列表進(jìn)行排序县匠。
(2)使用counter類(lèi)進(jìn)行次數(shù)統(tǒng)計(jì)并排序风科。
(3)先將json轉(zhuǎn)換為DataFrame對(duì)象,再對(duì)其tz字段使用pandas的value_counts()方法進(jìn)行次數(shù)統(tǒng)計(jì)并排序乞旦。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末贼穆,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子兰粉,更是在濱河造成了極大的恐慌故痊,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,039評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件玖姑,死亡現(xiàn)場(chǎng)離奇詭異愕秫,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)焰络,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,426評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)豫领,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人舔琅,你說(shuō)我怎么就攤上這事≈蘖樱” “怎么了备蚓?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,417評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)囱稽。 經(jīng)常有香客問(wèn)我郊尝,道長(zhǎng),這世上最難降的妖魔是什么战惊? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,868評(píng)論 1 295
  • 正文 為了忘掉前任流昏,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘况凉。我一直安慰自己谚鄙,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,892評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布刁绒。 她就那樣靜靜地躺著闷营,像睡著了一般。 火紅的嫁衣襯著肌膚如雪知市。 梳的紋絲不亂的頭發(fā)上傻盟,一...
    開(kāi)封第一講書(shū)人閱讀 51,692評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音嫂丙,去河邊找鬼娘赴。 笑死,一個(gè)胖子當(dāng)著我的面吹牛跟啤,可吹牛的內(nèi)容都是我干的诽表。 我是一名探鬼主播,決...
    沈念sama閱讀 40,416評(píng)論 3 419
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼腥光,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼关顷!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起武福,我...
    開(kāi)封第一講書(shū)人閱讀 39,326評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤议双,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后捉片,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體平痰,經(jīng)...
    沈念sama閱讀 45,782評(píng)論 1 316
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,957評(píng)論 3 337
  • 正文 我和宋清朗相戀三年伍纫,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了宗雇。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,102評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡莹规,死狀恐怖赔蒲,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情良漱,我是刑警寧澤舞虱,帶...
    沈念sama閱讀 35,790評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站母市,受9級(jí)特大地震影響矾兜,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜患久,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,442評(píng)論 3 331
  • 文/蒙蒙 一椅寺、第九天 我趴在偏房一處隱蔽的房頂上張望浑槽。 院中可真熱鬧,春花似錦返帕、人聲如沸桐玻。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,996評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)畸冲。三九已至,卻和暖如春观腊,著一層夾襖步出監(jiān)牢的瞬間邑闲,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,113評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工梧油, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留苫耸,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,332評(píng)論 3 373
  • 正文 我出身青樓儡陨,卻偏偏與公主長(zhǎng)得像褪子,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子骗村,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,044評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容