數(shù)據(jù)分析常用方法

轉(zhuǎn)自:https://blog.csdn.net/anxixiaomu/article/details/69075286

一、描述統(tǒng)計

描述性統(tǒng)計是指運用制表和分類,圖形以及計筠概括性數(shù)據(jù)來描述數(shù)據(jù)的集中趨勢勋乾、離散趨勢蛛淋、偏度、峰度造挽。

1碱璃、缺失值填充:常用方法:剔除法、均值法饭入、最小鄰居法嵌器、比率回歸法、決策樹法谐丢。

2爽航、正態(tài)性檢驗:很多統(tǒng)計方法都要求數(shù)值服從或近似服從正態(tài)分布,所以之前需要進(jìn)行正態(tài)性檢驗乾忱。常用方法:非參數(shù)檢驗的K-量檢驗讥珍、P-P圖、Q-Q圖窄瘟、W檢驗衷佃、動差法。

二蹄葱、假設(shè)檢驗

1氏义、參數(shù)檢驗

參數(shù)檢驗是在已知總體分布的條件下(一股要求總體服從正態(tài)分布)對一些主要的參數(shù)(如均值、百分?jǐn)?shù)图云、方差惯悠、相關(guān)系數(shù)等)進(jìn)行的檢驗 。

1)U驗 使用條件:當(dāng)樣本含量n較大時竣况,樣本值符合正態(tài)分布

2)T檢驗 使用條件:當(dāng)樣本含量n較小時克婶,樣本值符合正態(tài)分布

A 單樣本t檢驗:推斷該樣本來自的總體均數(shù)μ與已知的某一總體均數(shù)μ0 (常為理論值或標(biāo)準(zhǔn)值)有無差別;

B 配對樣本t檢驗:當(dāng)總體均數(shù)未知時,且兩個樣本可以配對鸠补,同對中的兩者在可能會影響處理效果的各種條件方面扱為相似萝风;

C 兩獨立樣本t檢驗:無法找到在各方面極為相似的兩樣本作配對比較時使用。

2紫岩、非參數(shù)檢驗

非參數(shù)檢驗則不考慮總體分布是否已知规惰,常常也不是針對總體參數(shù),而是針對總體的某些一股性假設(shè)(如總體分布的位罝是否相同泉蝌,總體分布是否正態(tài))進(jìn)行檢驗歇万。

適用情況:順序類型的數(shù)據(jù)資料,這類數(shù)據(jù)的分布形態(tài)一般是未知的勋陪。

A 雖然是連續(xù)數(shù)據(jù)贪磺,但總體分布形態(tài)未知或者非正態(tài);

B 體分布雖然正態(tài)诅愚,數(shù)據(jù)也是連續(xù)類型寒锚,但樣本容量極小,如10以下违孝;

主要方法包括:卡方檢驗刹前、秩和檢驗、二項檢驗雌桑、游程檢驗喇喉、K-量檢驗等。

三校坑、信度分析

檢査測量的可信度拣技,例如調(diào)查問卷的真實性。

分類:

1耍目、外在信度:不同時間測量時量表的一致性程度膏斤,常用方法重測信度

2、內(nèi)在信度邪驮;每個量表是否測量到單一的概念莫辨,同時組成兩表的內(nèi)在體項一致性如何,常用方法分半信度耕捞。

四衔掸、列聯(lián)表分析

用于分析離散變量或定型變量之間是否存在相關(guān)烫幕。

對于二維表俺抽,可進(jìn)行卡方檢驗,對于三維表较曼,可作Mentel-Hanszel分層分析磷斧。

列聯(lián)表分析還包括配對計數(shù)資料的卡方檢驗、行列均為順序變量的相關(guān)檢驗。

五弛饭、相關(guān)分析

研究現(xiàn)象之間是否存在某種依存關(guān)系冕末,對具體有依存關(guān)系的現(xiàn)象探討相關(guān)方向及相關(guān)程度。

1侣颂、單相關(guān): 兩個因素之間的相關(guān)關(guān)系叫單相關(guān)档桃,即研究時只涉及一個自變量和一個因變量;

2憔晒、復(fù)相關(guān) :三個或三個以上因素的相關(guān)關(guān)系叫復(fù)相關(guān)藻肄,即研究時涉及兩個或兩個以上的自變量和因變量相關(guān);

3拒担、偏相關(guān):在某一現(xiàn)象與多種現(xiàn)象相關(guān)的場合嘹屯,當(dāng)假定其他變量不變時,其中兩個變量之間的相關(guān)關(guān)系稱為偏相關(guān)从撼。

六州弟、方差分析

使用條件:各樣本須是相互獨立的隨機(jī)樣本;各樣本來自正態(tài)分布總體低零;各總體方差相等婆翔。

分類

1、單因素方差分析:一項試驗只有一個影響因素毁兆,或者存在多個影響因素時浙滤,只分析一個因素與響應(yīng)變量的關(guān)系

2、多因素有交互方差分析:一頊實驗有多個影響因素气堕,分析多個影響因素與響應(yīng)變量的關(guān)系纺腊,同時考慮多個影響因素之間的關(guān)系

3、多因素?zé)o交互方差分析:分析多個影響因素與響應(yīng)變量的關(guān)系茎芭,但是影響因素之間沒有影響關(guān)系或忽略影響關(guān)系

4揖膜、協(xié)方差分祈:傳統(tǒng)的方差分析存在明顯的弊端,無法控制分析中存在的某些隨機(jī)因素梅桩,使之影響了分祈結(jié)果的準(zhǔn)確度壹粟。協(xié)方差分析主要是在排除了協(xié)變量的影響后再對修正后的主效應(yīng)進(jìn)行方差分析,是將線性回歸與方差分析結(jié)合起來的一種分析方法宿百,

七趁仙、回歸分析

分類:

1、一元線性回歸分析:只有一個自變量X與因變量Y有關(guān)垦页,X與Y都必須是連續(xù)型變量雀费,因變量y或其殘差必須服從正態(tài)分布。

2痊焊、多元線性回歸分析

使用條件:分析多個自變量與因變量Y的關(guān)系盏袄,X與Y都必須是連續(xù)型變量忿峻,因變量y或其殘差必須服從正態(tài)分布 。

1)變呈篩選方式:選擇最優(yōu)回歸方程的變里篩選法包括全橫型法(CP法)辕羽、逐步回歸法逛尚,向前引入法和向后剔除法

2)橫型診斷方法:

A 殘差檢驗: 觀測值與估計值的差值要艱從正態(tài)分布

B 強(qiáng)影響點判斷:尋找方式一般分為標(biāo)準(zhǔn)誤差法、Mahalanobis距離法

C 共線性診斷:

  • 診斷方式:容忍度刁愿、方差擴(kuò)大因子法(又稱膨脹系數(shù)VIF)绰寞、特征根判定法、條件指針CI铣口、方差比例
  • 處理方法:增加樣本容量或選取另外的回歸如主成分回歸克握、嶺回歸等

3、Logistic回歸分析

線性回歸模型要求因變量是連續(xù)的正態(tài)分布變里枷踏,且自變量和因變量呈線性關(guān)系菩暗,而Logistic回歸模型對因變量的分布沒有要求,一般用于因變量是離散時的情況

分類:

Logistic回歸模型有條件與非條件之分旭蠕,條件Logistic回歸模型和非條件Logistic回歸模型的區(qū)別在于參數(shù)的估計是否用到了條件概率停团。

4、其他回歸方法 非線性回歸掏熬、有序回歸佑稠、Probit回歸、加權(quán)回歸等

八旗芬、聚類分析

樣本個體或指標(biāo)變量按其具有的特性進(jìn)行分類舌胶,尋找合理的度量事物相似性的統(tǒng)計量。

1疮丛、性質(zhì)分類:

Q型聚類分析:對樣本進(jìn)行分類處理幔嫂,又稱樣本聚類分祈 使用距離系數(shù)作為統(tǒng)計量衡量相似度,如歐式距離誊薄、極端距離履恩、絕對距離等

R型聚類分析:對指標(biāo)進(jìn)行分類處理,又稱指標(biāo)聚類分析 使用相似系數(shù)作為統(tǒng)計量衡量相似度呢蔫,相關(guān)系數(shù)切心、列聯(lián)系數(shù)等

2、方法分類:

1)系統(tǒng)聚類法: 適用于小樣本的樣本聚類或指標(biāo)聚類片吊,一般用系統(tǒng)聚類法來聚類指標(biāo)绽昏,又稱分層聚類

2)逐步聚類法 :適用于大樣本的樣本聚類

3)其他聚類法 :兩步聚類、K均值聚類等

九俏脊、判別分析

1全谤、判別分析:根據(jù)已掌握的一批分類明確的樣品建立判別函數(shù),使產(chǎn)生錯判的事例最少联予,進(jìn)而對給定的一個新樣品啼县,判斷它來自哪個總體

2、與聚類分析區(qū)別

1)聚類分析可以對樣本逬行分類沸久,也可以對指標(biāo)進(jìn)行分類季眷;而判別分析只能對樣本

2)聚類分析事先不知道事物的類別,也不知道分幾類卷胯;而判別分析必須事先知道事物的類別子刮,也知道分幾類

3)聚類分析不需要分類的歷史資料,而直接對樣本進(jìn)行分類窑睁;而判別分析需要分類歷史資料去建立判別函數(shù)挺峡,然后才能對樣本進(jìn)行分類

3、進(jìn)行分類 :

1)Fisher判別分析法 :

以距離為判別準(zhǔn)則來分類担钮,即樣本與哪個類的距離最短就分到哪一類橱赠, 適用于兩類判別;

以概率為判別準(zhǔn)則來分類箫津,即樣本屬于哪一類的概率最大就分到哪一類狭姨,適用于

適用于多類判別撑碴。

2)BAYES判別分析法 :

BAYES判別分析法比FISHER判別分析法更加完善和先進(jìn)家制,它不僅能解決多類判別分析,而且分析時考慮了數(shù)據(jù)的分布狀態(tài)向楼,所以一般較多使用田炭;

十师抄、主成分分析

將彼此梠關(guān)的一組指標(biāo)變適轉(zhuǎn)化為彼此獨立的一組新的指標(biāo)變量,并用其中較少的幾個新指標(biāo)變量就能綜合反應(yīng)原多個指標(biāo)變量中所包含的主要信息 教硫。

十一叨吮、因子分析

一種旨在尋找隱藏在多變量數(shù)據(jù)中、無法直接觀察到卻影響或支配可測變量的潛在因子瞬矩、并估計潛在因子對可測變量的影響程度以及潛在因子之間的相關(guān)性的一種多元統(tǒng)計分析方法

與主成分分析比較:

相同:都能夠起到済理多個原始變量內(nèi)在結(jié)構(gòu)關(guān)系的作用

不同:主成分分析重在綜合原始變適的信息.而因子分析重在解釋原始變量間的關(guān)系挤安,是比主成分分析更深入的一種多元統(tǒng)計方法

用途:

1)減少分析變量個數(shù)

2)通過對變量間相關(guān)關(guān)系探測,將原始變量進(jìn)行分類

十二丧鸯、時間序列分析

動態(tài)數(shù)據(jù)處理的統(tǒng)計方法蛤铜,研究隨機(jī)數(shù)據(jù)序列所遵從的統(tǒng)計規(guī)律,以用于解決實際問題丛肢;時間序列通常由4種要素組成:趨勢围肥、季節(jié)變動、循環(huán)波動和不規(guī)則波動蜂怎。

主要方法:移動平均濾波與指數(shù)平滑法穆刻、ARIMA橫型、量ARIMA橫型杠步、ARIMAX模型氢伟、向呈自回歸橫型榜轿、ARCH族模型

十三、生存分析

用來研究生存時間的分布規(guī)律以及生存時間和相關(guān)因索之間關(guān)系的一種統(tǒng)計分析方法

1朵锣、包含內(nèi)容:

1)描述生存過程谬盐,即研究生存時間的分布規(guī)律

2)比較生存過程,即研究兩組或多組生存時間的分布規(guī)律诚些,并進(jìn)行比較

3)分析危險因素飞傀,即研究危險因素對生存過程的影響

4)建立數(shù)學(xué)模型,即將生存時間與相關(guān)危險因素的依存關(guān)系用一個數(shù)學(xué)式子表示出來诬烹。

2砸烦、方法:

1)統(tǒng)計描述:包括求生存時間的分位數(shù)、中數(shù)生存期绞吁、平均數(shù)幢痘、生存函數(shù)的估計、判斷生存時間的圖示法家破,不對所分析的數(shù)據(jù)作出任何統(tǒng)計推斷結(jié)論

2)非參數(shù)檢驗:檢驗分組變量各水平所對應(yīng)的生存曲線是否一致雪隧,對生存時間的分布沒有要求,并且檢驗危險因素對生存時間的影響员舵。

A 乘積極限法(PL法)

B 壽命表法(LT法)

3)半?yún)?shù)橫型回歸分析:在特定的假設(shè)之下脑沿,建立生存時間隨多個危險因素變化的回歸方程,這種方法的代表是Cox比例風(fēng)險回歸分析法

4)參數(shù)模型回歸分析:已知生存時間服從特定的參數(shù)橫型時马僻,擬合相應(yīng)的參數(shù)模型庄拇,更準(zhǔn)確地分析確定變量之間的變化規(guī)律

十四、典型相關(guān)分析

相關(guān)分析一般分析兩個變里之間的關(guān)系韭邓,而典型相關(guān)分析是分析兩組變里(如3個學(xué)術(shù)能力指標(biāo)與5個在校成績表現(xiàn)指標(biāo))之間相關(guān)性的一種統(tǒng)計分析方法措近。

典型相關(guān)分析的基本思想和主成分分析的基本思想相似,它將一組變量與另一組變量之間單變量的多重線性相關(guān)性研究轉(zhuǎn)化為對少數(shù)幾對綜合變量之間的簡單線性相關(guān)性的研究女淑,并且這少數(shù)幾對變量所包含的線性相關(guān)性的信息幾乎覆蓋了原變量組所包含的全部相應(yīng)信息瞭郑。

十五、R0C分析

R0C曲線是根據(jù)一系列不同的二分類方式(分界值或決定閾).以真陽性率(靈敏度)為縱坐標(biāo)鸭你,假陽性率(1-特異度)為橫坐標(biāo)繪制的曲線

用途:

1屈张、R0C曲線能很容易地査出任意界限值時的對疾病的識別能力

用途 ;

2袱巨、選擇最佳的診斷界限值阁谆。R0C曲線越靠近左上角,試驗的準(zhǔn)確性就越高愉老;

3场绿、兩種或兩種以上不同診斷試驗對疾病識別能力的比較,一股用R0C曲線下面積反映診斷系統(tǒng)的準(zhǔn)確性嫉入。

十六焰盗、其他分析方法

多重響應(yīng)分析璧尸、距離分祈、項目分祈熬拒、對應(yīng)分祈爷光、決策樹分析、神經(jīng)網(wǎng)絡(luò)梦湘、系統(tǒng)方程、蒙特卡洛模擬等件甥。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末捌议,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子引有,更是在濱河造成了極大的恐慌瓣颅,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,723評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件譬正,死亡現(xiàn)場離奇詭異宫补,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)曾我,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,485評論 2 382
  • 文/潘曉璐 我一進(jìn)店門粉怕,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人抒巢,你說我怎么就攤上這事贫贝。” “怎么了蛉谜?”我有些...
    開封第一講書人閱讀 152,998評論 0 344
  • 文/不壞的土叔 我叫張陵稚晚,是天一觀的道長。 經(jīng)常有香客問我型诚,道長客燕,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,323評論 1 279
  • 正文 為了忘掉前任狰贯,我火速辦了婚禮也搓,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘涵紊。我一直安慰自己还绘,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 64,355評論 5 374
  • 文/花漫 我一把揭開白布栖袋。 她就那樣靜靜地躺著拍顷,像睡著了一般。 火紅的嫁衣襯著肌膚如雪塘幅。 梳的紋絲不亂的頭發(fā)上昔案,一...
    開封第一講書人閱讀 49,079評論 1 285
  • 那天尿贫,我揣著相機(jī)與錄音,去河邊找鬼踏揣。 笑死庆亡,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的捞稿。 我是一名探鬼主播又谋,決...
    沈念sama閱讀 38,389評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼娱局!你這毒婦竟也來了彰亥?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,019評論 0 259
  • 序言:老撾萬榮一對情侶失蹤衰齐,失蹤者是張志新(化名)和其女友劉穎任斋,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體耻涛,經(jīng)...
    沈念sama閱讀 43,519評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡废酷,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,971評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了抹缕。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片澈蟆。...
    茶點故事閱讀 38,100評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖卓研,靈堂內(nèi)的尸體忽然破棺而出丰介,到底是詐尸還是另有隱情,我是刑警寧澤鉴分,帶...
    沈念sama閱讀 33,738評論 4 324
  • 正文 年R本政府宣布哮幢,位于F島的核電站,受9級特大地震影響志珍,放射性物質(zhì)發(fā)生泄漏橙垢。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,293評論 3 307
  • 文/蒙蒙 一伦糯、第九天 我趴在偏房一處隱蔽的房頂上張望柜某。 院中可真熱鬧,春花似錦敛纲、人聲如沸喂击。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,289評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽翰绊。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間监嗜,已是汗流浹背谐檀。 一陣腳步聲響...
    開封第一講書人閱讀 31,517評論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留裁奇,地道東北人桐猬。 一個月前我還...
    沈念sama閱讀 45,547評論 2 354
  • 正文 我出身青樓,卻偏偏與公主長得像刽肠,于是被迫代替她去往敵國和親溃肪。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,834評論 2 345

推薦閱讀更多精彩內(nèi)容