一. 什么是數(shù)據(jù)分析與挖掘脑溢?
從數(shù)據(jù)中挖掘出隱含的,未知的蔼囊,有潛在價(jià)值的關(guān)系焚志,模式和趨勢(shì),并用這些知識(shí)建立用于決策的模型畏鼓,來(lái)提供預(yù)測(cè)性的方法酱酬,就是數(shù)據(jù)挖掘。簡(jiǎn)單來(lái)說(shuō)云矫,就是從大量數(shù)據(jù)中找到有價(jià)值的信息膳沽。
二. 數(shù)據(jù)挖掘建模過(guò)程
- 定義挖掘目標(biāo):挖掘前必須要清楚自己要獲取什么信息,到底想要干什么让禀。
- 數(shù)據(jù)取樣:從業(yè)務(wù)系統(tǒng)中挑社,抽取數(shù)據(jù)樣本,而不是動(dòng)用全部數(shù)據(jù)巡揍,同時(shí)要保證樣本的可靠性痛阻。
- 數(shù)據(jù)探索:了解數(shù)據(jù)的大概狀態(tài)以及直觀的規(guī)律和趨勢(shì),簡(jiǎn)單的周期性分析和缺失異常值分析腮敌。
- 數(shù)據(jù)預(yù)處理:數(shù)據(jù)篩選阱当,處理異常值,缺失值糜工,數(shù)據(jù)轉(zhuǎn)化等弊添,為接下來(lái)的挖掘做質(zhì)量保證。
- 挖掘建模:根據(jù)問(wèn)題的不同捌木,選用不同的算法建模油坝。
- 模型評(píng)價(jià):找出最好的模型。
三. Python為什么適合做數(shù)據(jù)分析刨裆?
從我個(gè)人的角度來(lái)看澈圈,主要是以下幾點(diǎn)原因:
- Python是動(dòng)態(tài)編程語(yǔ)言,語(yǔ)法簡(jiǎn)單帆啃。
- 科學(xué)計(jì)算庫(kù)很多极舔,很全面,效率也不錯(cuò)链瓦。
- 免費(fèi)拆魏,這才是重點(diǎn)盯桦!
四. Python不適合的場(chǎng)景
Python不是萬(wàn)能的,它是一種腳本語(yǔ)言(簡(jiǎn)陋的小程序)渤刃,雖然可以構(gòu)建龐雜的系統(tǒng)拥峦,但存在他的局限性:
- Python是解釋型語(yǔ)言,運(yùn)行時(shí)間要比編譯型語(yǔ)言慢得多卖子。
- Python有一個(gè)全局解釋器鎖(GIL)略号,不適合做高并發(fā)。
五. Python科學(xué)計(jì)算的常用庫(kù)(學(xué)習(xí)路線(xiàn))
初識(shí)Python的時(shí)候感覺(jué)很迷茫洋闽,完全找不到方向玄柠,這里簡(jiǎn)單討論一下,科研工作者常用的庫(kù)诫舅,給其他小白們一個(gè)微弱的方向羽利,不過(guò)要相信,計(jì)算機(jī)的學(xué)習(xí)之路刊懈,暴雨后還會(huì)有更大的暴雨这弧。那么言歸正傳:
- Numpy
Python不提供數(shù)組功能(列表不是標(biāo)準(zhǔn)數(shù)組,效率很低)虚汛,numpy填補(bǔ)了這個(gè)缺口匾浪,提供了數(shù)組功能以及相關(guān)函數(shù),它是Python科學(xué)計(jì)算的基礎(chǔ)卷哩,許多庫(kù)都是基于Numpy衍生出來(lái)的蛋辈。 - Scipy
在Numpy的基礎(chǔ)上,scipy提供了矩陣運(yùn)算功能将谊,它是更加復(fù)雜且高效的科學(xué)計(jì)算函數(shù)庫(kù)梯浪,支持比如微積分,離散概率瓢娜,線(xiàn)代函數(shù)等等。 - Matplotlib
畫(huà)圖礼预,將處理好的數(shù)據(jù)眠砾,用圖表的形式表現(xiàn)出來(lái),還可以畫(huà)地理圖形托酸,基本可以媲美ArcGis褒颈。 - Pandas
《利用Python進(jìn)行數(shù)據(jù)分析》中是這樣描述pandas的,‘pandas提供了使我們能夠快速便捷地處理結(jié)構(gòu)化數(shù)據(jù)的大量數(shù)據(jù)結(jié)構(gòu)和函數(shù)’励堡。說(shuō)通俗點(diǎn)谷丸,就是讀取結(jié)構(gòu)化的數(shù)據(jù)文件,并且處理數(shù)據(jù)应结。它的核心功能就是數(shù)據(jù)分析和探索刨疼。Pandas能讀取和處理的數(shù)據(jù)量很大很大泉唁。 - StatsModels:pandas應(yīng)用于數(shù)據(jù)讀取,處理與探索揩慕;而statsModels更注重統(tǒng)計(jì)建模亭畜,而且支持與pandas交互,是挖掘的重要工具迎卤。
- Scikit-learn 機(jī)器學(xué)習(xí)相關(guān)庫(kù)拴鸵,不包含神經(jīng)網(wǎng)絡(luò)。
- Keras:神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)庫(kù)蜗搔。
六. 新手搞不清楚的名詞
Python與IPython
- Python是一門(mén)語(yǔ)言劲藐。
- IPython與Python shell相對(duì)應(yīng),是Python語(yǔ)言的一個(gè)交互式的開(kāi)發(fā)環(huán)境樟凄,相對(duì)于標(biāo)準(zhǔn)的Python Shell聘芜,IPyhton提供了更加友好的開(kāi)發(fā)輔助功能,如自動(dòng)補(bǔ)全等不同。