16種常用的數(shù)據(jù)分析方法匯總
今天給大家整理了十六種常用的數(shù)據(jù)分析方法,供大家參考學(xué)習(xí)迁筛。
一犁跪、描述統(tǒng)計
描述性統(tǒng)計是指運(yùn)用制表和分類杨帽,圖形以及計筠概括性數(shù)據(jù)來描述數(shù)據(jù)的集中趨勢摄乒、離散趨勢、偏度、峰度馍佑。
1斋否、缺失值填充:常用方法:剔除法、均值法拭荤、最小鄰居法茵臭、比率回歸法、決策樹法舅世。
2旦委、正態(tài)性檢驗:很多統(tǒng)計方法都要求數(shù)值服從或近似服從正態(tài)分布,所以之前需要進(jìn)行正態(tài)性檢驗雏亚。常用方法:非參數(shù)檢驗的K-量檢驗缨硝、P-P圖、Q-Q圖罢低、W檢驗查辩、動差法。
二网持、假設(shè)檢驗
1宜岛、參數(shù)檢驗
參數(shù)檢驗是在已知總體分布的條件下(一股要求總體服從正態(tài)分布)對一些主要的參數(shù)(如均值、百分?jǐn)?shù)功舀、方差萍倡、相關(guān)系數(shù)等)進(jìn)行的檢驗 。
1)U驗? 使用條件:當(dāng)樣本含量n較大時辟汰,樣本值符合正態(tài)分布
2)T檢驗 使用條件:當(dāng)樣本含量n較小時列敲,樣本值符合正態(tài)分布
A? 單樣本t檢驗:推斷該樣本來自的總體均數(shù)μ與已知的某一總體均數(shù)μ0 (常為理論值或標(biāo)準(zhǔn)值)有無差別;
B? 配對樣本t檢驗:當(dāng)總體均數(shù)未知時莉擒,且兩個樣本可以配對酿炸,同對中的兩者在可能會影響處理效果的各種條件方面扱為相似;
C 兩獨立樣本t檢驗:無法找到在各方面極為相似的兩樣本作配對比較時使用涨冀。
2填硕、非參數(shù)檢驗
非參數(shù)檢驗則不考慮總體分布是否已知,常常也不是針對總體參數(shù)鹿鳖,而是針對總體的某些一股性假設(shè)(如總體分布的位罝是否相同扁眯,總體分布是否正態(tài))進(jìn)行檢驗。
適用情況:順序類型的數(shù)據(jù)資料翅帜,這類數(shù)據(jù)的分布形態(tài)一般是未知的姻檀。
A 雖然是連續(xù)數(shù)據(jù),但總體分布形態(tài)未知或者非正態(tài)涝滴;
B 體分布雖然正態(tài)绣版,數(shù)據(jù)也是連續(xù)類型胶台,但樣本容量極小,如10以下杂抽;
主要方法包括:卡方檢驗诈唬、秩和檢驗、二項檢驗缩麸、游程檢驗铸磅、K-量檢驗等。
三杭朱、信度分析
檢査測量的可信度阅仔,例如調(diào)查問卷的真實性。
分類:
1弧械、外在信度:不同時間測量時量表的一致性程度八酒,常用方法重測信度
2、內(nèi)在信度梦谜;每個量表是否測量到單一的概念丘跌,同時組成兩表的內(nèi)在體項一致性如何,常用方法分半信度唁桩。
四闭树、列聯(lián)表分析
用于分析離散變量或定型變量之間是否存在相關(guān)。
對于二維表荒澡,可進(jìn)行卡方檢驗报辱,對于三維表,可作Mentel-Hanszel分層分析单山。
列聯(lián)表分析還包括配對計數(shù)資料的卡方檢驗碍现、行列均為順序變量的相關(guān)檢驗。
五米奸、相關(guān)分析
研究現(xiàn)象之間是否存在某種依存關(guān)系昼接,對具體有依存關(guān)系的現(xiàn)象探討相關(guān)方向及相關(guān)程度。
1悴晰、單相關(guān): 兩個因素之間的相關(guān)關(guān)系叫單相關(guān)慢睡,即研究時只涉及一個自變量和一個因變量;
2铡溪、復(fù)相關(guān) :三個或三個以上因素的相關(guān)關(guān)系叫復(fù)相關(guān)漂辐,即研究時涉及兩個或兩個以上的自變量和因變量相關(guān);
3棕硫、偏相關(guān):在某一現(xiàn)象與多種現(xiàn)象相關(guān)的場合髓涯,當(dāng)假定其他變量不變時,其中兩個變量之間的相關(guān)關(guān)系稱為偏相關(guān)哈扮。
六纬纪、方差分析
使用條件:各樣本須是相互獨立的隨機(jī)樣本蚓再;各樣本來自正態(tài)分布總體;各總體方差相等包各。
分類
1对途、單因素方差分析:一項試驗只有一個影響因素,或者存在多個影響因素時髓棋,只分析一個因素與響應(yīng)變量的關(guān)系
2、多因素有交互方差分析:一頊實驗有多個影響因素惶洲,分析多個影響因素與響應(yīng)變量的關(guān)系按声,同時考慮多個影響因素之間的關(guān)系
3、多因素?zé)o交互方差分析:分析多個影響因素與響應(yīng)變量的關(guān)系恬吕,但是影響因素之間沒有影響關(guān)系或忽略影響關(guān)系
4签则、協(xié)方差分祈:傳統(tǒng)的方差分析存在明顯的弊端,無法控制分析中存在的某些隨機(jī)因素铐料,使之影響了分祈結(jié)果的準(zhǔn)確度渐裂。協(xié)方差分析主要是在排除了協(xié)變量的影響后再對修正后的主效應(yīng)進(jìn)行方差分析,是將線性回歸與方差分析結(jié)合起來的一種分析方法钠惩,
七柒凉、回歸分析
分類:
1、一元線性回歸分析:只有一個自變量X與因變量Y有關(guān)篓跛,X與Y都必須是連續(xù)型變量膝捞,因變量y或其殘差必須服從正態(tài)分布。
2愧沟、多元線性回歸分析
使用條件:分析多個自變量與因變量Y的關(guān)系蔬咬,X與Y都必須是連續(xù)型變量,因變量y或其殘差必須服從正態(tài)分布 沐寺。
1)變呈篩選方式:選擇最優(yōu)回歸方程的變里篩選法包括全橫型法(CP法)林艘、逐步回歸法,向前引入法和向后剔除法
2)橫型診斷方法:
A 殘差檢驗: 觀測值與估計值的差值要艱從正態(tài)分布
B 強(qiáng)影響點判斷:尋找方式一般分為標(biāo)準(zhǔn)誤差法混坞、Mahalanobis距離法
C 共線性診斷:
診斷方式:容忍度狐援、方差擴(kuò)大因子法(又稱膨脹系數(shù)VIF)、特征根判定法拔第、條件指針CI咕村、方差比例
處理方法:增加樣本容量或選取另外的回歸如主成分回歸、嶺回歸等
3蚊俺、Logistic回歸分析
線性回歸模型要求因變量是連續(xù)的正態(tài)分布變里懈涛,且自變量和因變量呈線性關(guān)系,而Logistic回歸模型對因變量的分布沒有要求泳猬,一般用于因變量是離散時的情況
分類:
Logistic回歸模型有條件與非條件之分批钠,條件Logistic回歸模型和非條件Logistic回歸模型的區(qū)別在于參數(shù)的估計是否用到了條件概率宇植。
4、其他回歸方法 非線性回歸埋心、有序回歸指郁、Probit回歸、加權(quán)回歸等
八拷呆、聚類分析
樣本個體或指標(biāo)變量按其具有的特性進(jìn)行分類闲坎,尋找合理的度量事物相似性的統(tǒng)計量。
1茬斧、性質(zhì)分類:
Q型聚類分析:對樣本進(jìn)行分類處理腰懂,又稱樣本聚類分祈 使用距離系數(shù)作為統(tǒng)計量衡量相似度,如歐式距離项秉、極端距離绣溜、絕對距離等
R型聚類分析:對指標(biāo)進(jìn)行分類處理,又稱指標(biāo)聚類分析 使用相似系數(shù)作為統(tǒng)計量衡量相似度娄蔼,相關(guān)系數(shù)怖喻、列聯(lián)系數(shù)等
2、方法分類:
1)系統(tǒng)聚類法: 適用于小樣本的樣本聚類或指標(biāo)聚類岁诉,一般用系統(tǒng)聚類法來聚類指標(biāo)锚沸,又稱分層聚類
2)逐步聚類法 :適用于大樣本的樣本聚類
3)其他聚類法 :兩步聚類、K均值聚類等
九涕癣、判別分析
1咒吐、判別分析:根據(jù)已掌握的一批分類明確的樣品建立判別函數(shù),使產(chǎn)生錯判的事例最少属划,進(jìn)而對給定的一個新樣品恬叹,判斷它來自哪個總體
2、與聚類分析區(qū)別
1)聚類分析可以對樣本逬行分類同眯,也可以對指標(biāo)進(jìn)行分類绽昼;而判別分析只能對樣本
2)聚類分析事先不知道事物的類別,也不知道分幾類须蜗;而判別分析必須事先知道事物的類別硅确,也知道分幾類
3)聚類分析不需要分類的歷史資料,而直接對樣本進(jìn)行分類明肮;而判別分析需要分類歷史資料去建立判別函數(shù)菱农,然后才能對樣本進(jìn)行分類
3、進(jìn)行分類 :
1)Fisher判別分析法 :
以距離為判別準(zhǔn)則來分類柿估,即樣本與哪個類的距離最短就分到哪一類循未, 適用于兩類判別;
以概率為判別準(zhǔn)則來分類秫舌,即樣本屬于哪一類的概率最大就分到哪一類的妖,適用于
適用于多類判別绣檬。
2)BAYES判別分析法 :
BAYES判別分析法比FISHER判別分析法更加完善和先進(jìn),它不僅能解決多類判別分析嫂粟,而且分析時考慮了數(shù)據(jù)的分布狀態(tài)娇未,所以一般較多使用;
十星虹、主成分分析
將彼此梠關(guān)的一組指標(biāo)變適轉(zhuǎn)化為彼此獨立的一組新的指標(biāo)變量零抬,并用其中較少的幾個新指標(biāo)變量就能綜合反應(yīng)原多個指標(biāo)變量中所包含的主要信息 。
十一宽涌、因子分析
一種旨在尋找隱藏在多變量數(shù)據(jù)中媚值、無法直接觀察到卻影響或支配可測變量的潛在因子、并估計潛在因子對可測變量的影響程度以及潛在因子之間的相關(guān)性的一種多元統(tǒng)計分析方法
與主成分分析比較:
相同:都能夠起到済理多個原始變量內(nèi)在結(jié)構(gòu)關(guān)系的作用
不同:主成分分析重在綜合原始變適的信息.而因子分析重在解釋原始變量間的關(guān)系护糖,是比主成分分析更深入的一種多元統(tǒng)計方法
用途:
1)減少分析變量個數(shù)
2)通過對變量間相關(guān)關(guān)系探測,將原始變量進(jìn)行分類
十二嚼松、時間序列分析
動態(tài)數(shù)據(jù)處理的統(tǒng)計方法嫡良,研究隨機(jī)數(shù)據(jù)序列所遵從的統(tǒng)計規(guī)律驹针,以用于解決實際問題鳖轰;時間序列通常由4種要素組成:趨勢、季節(jié)變動乌助、循環(huán)波動和不規(guī)則波動罕偎。
主要方法:移動平均濾波與指數(shù)平滑法很澄、ARIMA橫型、量ARIMA橫型颜及、ARIMAX模型甩苛、向呈自回歸橫型、ARCH族模型
十三俏站、生存分析
用來研究生存時間的分布規(guī)律以及生存時間和相關(guān)因索之間關(guān)系的一種統(tǒng)計分析方法
1讯蒲、包含內(nèi)容:
1)描述生存過程,即研究生存時間的分布規(guī)律
2)比較生存過程肄扎,即研究兩組或多組生存時間的分布規(guī)律墨林,并進(jìn)行比較
3)分析危險因素,即研究危險因素對生存過程的影響
4)建立數(shù)學(xué)模型犯祠,即將生存時間與相關(guān)危險因素的依存關(guān)系用一個數(shù)學(xué)式子表示出來旭等。
2、方法:
1)統(tǒng)計描述:包括求生存時間的分位數(shù)衡载、中數(shù)生存期搔耕、平均數(shù)、生存函數(shù)的估計痰娱、判斷生存時間的圖示法度迂,不對所分析的數(shù)據(jù)作出任何統(tǒng)計推斷結(jié)論
2)非參數(shù)檢驗:檢驗分組變量各水平所對應(yīng)的生存曲線是否一致藤乙,對生存時間的分布沒有要求,并且檢驗危險因素對生存時間的影響惭墓。
A 乘積極限法(PL法)
B 壽命表法(LT法)
3)半?yún)?shù)橫型回歸分析:在特定的假設(shè)之下坛梁,建立生存時間隨多個危險因素變化的回歸方程,這種方法的代表是Cox比例風(fēng)險回歸分析法
4)參數(shù)模型回歸分析:已知生存時間服從特定的參數(shù)橫型時腊凶,擬合相應(yīng)的參數(shù)模型划咐,更準(zhǔn)確地分析確定變量之間的變化規(guī)律
十四、典型相關(guān)分析
相關(guān)分析一般分析兩個變里之間的關(guān)系钧萍,而典型相關(guān)分析是分析兩組變里(如3個學(xué)術(shù)能力指標(biāo)與5個在校成績表現(xiàn)指標(biāo))之間相關(guān)性的一種統(tǒng)計分析方法褐缠。
典型相關(guān)分析的基本思想和主成分分析的基本思想相似,它將一組變量與另一組變量之間單變量的多重線性相關(guān)性研究轉(zhuǎn)化為對少數(shù)幾對綜合變量之間的簡單線性相關(guān)性的研究风瘦,并且這少數(shù)幾對變量所包含的線性相關(guān)性的信息幾乎覆蓋了原變量組所包含的全部相應(yīng)信息队魏。
十五、R0C分析
R0C曲線是根據(jù)一系列不同的二分類方式(分界值或決定閾).以真陽性率(靈敏度)為縱坐標(biāo)万搔,假陽性率(1-特異度)為橫坐標(biāo)繪制的曲線
用途:
1胡桨、R0C曲線能很容易地査出任意界限值時的對疾病的識別能力
用途 ;
2瞬雹、選擇最佳的診斷界限值昧谊。R0C曲線越靠近左上角,試驗的準(zhǔn)確性就越高酗捌;
3呢诬、兩種或兩種以上不同診斷試驗對疾病識別能力的比較,一股用R0C曲線下面積反映診斷系統(tǒng)的準(zhǔn)確性胖缤。
十六尚镰、其他分析方法
多重響應(yīng)分析、距離分祈哪廓、項目分祈钓猬、對應(yīng)分祈、決策樹分析撩独、神經(jīng)網(wǎng)絡(luò)敞曹、系統(tǒng)方程、蒙特卡洛模擬等综膀。