05模型建立與評(píng)價(jià)

1.認(rèn)識(shí)監(jiān)督學(xué)習(xí)與非監(jiān)督學(xué)習(xí)

有監(jiān)督學(xué)習(xí):的任務(wù)是學(xué)習(xí)一個(gè)模型寝并,使模型能夠?qū)θ我饨o定的輸入申尼,對(duì)其相應(yīng)的輸出做出一個(gè)好的預(yù)測(cè)胶惰。即:利用訓(xùn)練數(shù)據(jù)集學(xué)習(xí)一個(gè)模型,再用模型對(duì)測(cè)試樣本集進(jìn)行預(yù)測(cè)挑格。線性回歸算法咙冗、BP神經(jīng)網(wǎng)絡(luò)算法、決策樹漂彤、支持向量機(jī)雾消、KNN等

無監(jiān)督學(xué)習(xí):自動(dòng)對(duì)輸入的資料進(jìn)行分類或分群,以尋找數(shù)據(jù)的模型和規(guī)律挫望。 (KMeans,DL)

2.模型搭建

2.1切割訓(xùn)練集和測(cè)試集

方法有:留出法立润,交叉驗(yàn)證法,自助法

sklearn中切割數(shù)據(jù)集的方法為train_test_split

X_train,X_test, y_train, y_test =sklearn.model_selection.train_test_split(train_data,train_target,test_size=0.4, random_state=0,stratify=y_train)

?train_data:所要?jiǎng)澐值臉颖咎卣骷?/i>

train_target:所要?jiǎng)澐值臉颖窘Y(jié)果

test_size:樣本占比媳板,如果是整數(shù)的話就是樣本的數(shù)量

random_state:是隨機(jī)數(shù)的種子桑腮。其實(shí)就是該組隨機(jī)數(shù)的編號(hào),在需要重復(fù)試驗(yàn)的時(shí)候蛉幸,保證得到一組一樣的隨機(jī)數(shù)破讨。比如你每次都填1,其他參數(shù)一樣的情況下你得到的隨機(jī)數(shù)組是一樣的奕纫。但填0或不填提陶,每次都會(huì)不一樣。

stratify:是為了保持split前類的分布匹层。用了stratify參數(shù)隙笆,training集和testing集的類的比例是 A:B= 4:1,等同于split前的比例升筏。通常在這種類分布不平衡的情況下會(huì)用到stratify撑柔。

將stratify=X就是按照X中的比例分配 ,將stratify=y就是按照y中的比例分配?

2.2模型創(chuàng)建

2.2.1邏輯回歸:LogisticRegression您访,分類模型

邏輯回歸模型默認(rèn)參數(shù):

(1)調(diào)用邏輯回歸模型

(2)計(jì)算訓(xùn)練集和測(cè)試集的得分

(3)調(diào)參

2.2.2隨機(jī)森林:RandomForestClassifier乏冀,是決策樹集成為了降低決策樹過擬合的情況

隨機(jī)森林模型默認(rèn)參數(shù):

(1)調(diào)用隨機(jī)森林模型

(2)計(jì)算訓(xùn)練集和測(cè)試集的得分

(3)調(diào)參

2.3輸出預(yù)測(cè)結(jié)果

一般監(jiān)督模型在sklearn里面有個(gè)predict能輸出預(yù)測(cè)標(biāo)簽,predict_proba則可以輸出標(biāo)簽概率

2.4模型評(píng)估

回歸模型的評(píng)估:平均絕對(duì)誤差(Mean Absolute Error洋只,MAE)、均方誤差(Mean Squared Error昼捍,MSE)识虚、R-square(決定系數(shù))、Adjusted R-Square (校正決定系數(shù))妒茬、交叉驗(yàn)證(Cross-Validation)

分類模型的評(píng)估:準(zhǔn)確率担锤、精確率、召回率乍钻、f1_score肛循,混淆矩陣铭腕,ks,ks曲線多糠,ROC曲線累舷,psi等


(1)交叉驗(yàn)證是 k 折交叉驗(yàn)證(k-fold cross-validation),其中 k 是由用戶指定的數(shù)字夹孔,通常取 5 或 10被盈。

(2)混淆矩陣

準(zhǔn)確率(precision)度量的是被預(yù)測(cè)為正例的樣本中有多少是真正的正例

召回率(recall)度量的是正類樣本中有多少被預(yù)測(cè)為正類

(3)ROC曲線

ROC曲線能很容易的查出任意閾值對(duì)學(xué)習(xí)器的泛化性能影響,有助于選擇最佳的閾值搭伤。ROC曲線越靠近左上角只怎,模型的查全率就越高。最靠近左上角的ROC曲線上的點(diǎn)是分類錯(cuò)誤最少的最好閾值怜俐,其假正例和假反例總數(shù)最少身堡。ROC曲線下面所包圍的面積越大越好

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市拍鲤,隨后出現(xiàn)的幾起案子贴谎,更是在濱河造成了極大的恐慌,老刑警劉巖殿漠,帶你破解...
    沈念sama閱讀 221,198評(píng)論 6 514
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件赴精,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡绞幌,警方通過查閱死者的電腦和手機(jī)蕾哟,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,334評(píng)論 3 398
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來莲蜘,“玉大人谭确,你說我怎么就攤上這事∑鼻” “怎么了逐哈?”我有些...
    開封第一講書人閱讀 167,643評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)问顷。 經(jīng)常有香客問我昂秃,道長(zhǎng),這世上最難降的妖魔是什么杜窄? 我笑而不...
    開封第一講書人閱讀 59,495評(píng)論 1 296
  • 正文 為了忘掉前任肠骆,我火速辦了婚禮,結(jié)果婚禮上塞耕,老公的妹妹穿的比我還像新娘蚀腿。我一直安慰自己,他們只是感情好扫外,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,502評(píng)論 6 397
  • 文/花漫 我一把揭開白布莉钙。 她就那樣靜靜地躺著廓脆,像睡著了一般。 火紅的嫁衣襯著肌膚如雪磁玉。 梳的紋絲不亂的頭發(fā)上停忿,一...
    開封第一講書人閱讀 52,156評(píng)論 1 308
  • 那天,我揣著相機(jī)與錄音蜀涨,去河邊找鬼瞎嬉。 笑死,一個(gè)胖子當(dāng)著我的面吹牛厚柳,可吹牛的內(nèi)容都是我干的氧枣。 我是一名探鬼主播,決...
    沈念sama閱讀 40,743評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼别垮,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼便监!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起碳想,我...
    開封第一講書人閱讀 39,659評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤烧董,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后胧奔,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體逊移,經(jīng)...
    沈念sama閱讀 46,200評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,282評(píng)論 3 340
  • 正文 我和宋清朗相戀三年龙填,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了胳泉。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,424評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡岩遗,死狀恐怖扇商,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情宿礁,我是刑警寧澤案铺,帶...
    沈念sama閱讀 36,107評(píng)論 5 349
  • 正文 年R本政府宣布,位于F島的核電站梆靖,受9級(jí)特大地震影響控汉,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜返吻,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,789評(píng)論 3 333
  • 文/蒙蒙 一暇番、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧思喊,春花似錦、人聲如沸次酌。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,264評(píng)論 0 23
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至剂公,卻和暖如春希俩,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背纲辽。 一陣腳步聲響...
    開封第一講書人閱讀 33,390評(píng)論 1 271
  • 我被黑心中介騙來泰國(guó)打工颜武, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人拖吼。 一個(gè)月前我還...
    沈念sama閱讀 48,798評(píng)論 3 376
  • 正文 我出身青樓鳞上,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親吊档。 傳聞我的和親對(duì)象是個(gè)殘疾皇子篙议,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,435評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容

  • 庫(kù)的作用的了解 numpy:多用于科學(xué)計(jì)算中存儲(chǔ)和處理大型矩陣,是數(shù)據(jù)科學(xué)實(shí)踐中最常用的模塊 pandas:數(shù)據(jù)處...
    忘詞x閱讀 116評(píng)論 0 0
  • 經(jīng)過前面的兩章的知識(shí)點(diǎn)的學(xué)習(xí)怠硼,我可以對(duì)數(shù)數(shù)據(jù)的本身進(jìn)行處理鬼贱,比如數(shù)據(jù)本身的增刪查補(bǔ),還可以做必要的清洗工作香璃。那么下...
    趁著年輕去旅游閱讀 368評(píng)論 0 0
  • 第三章 模型搭建和評(píng)估–建模 經(jīng)過前面的兩章的知識(shí)點(diǎn)的學(xué)習(xí)这难,我可以對(duì)數(shù)數(shù)據(jù)的本身進(jìn)行處理,比如數(shù)據(jù)本身的增刪查補(bǔ)葡秒,...
    loveiu閱讀 374評(píng)論 0 0
  • 第五章 模型評(píng)價(jià)方法 5.1 模型的評(píng)價(jià)方法介紹 5.1.1~5 accuracy姻乓,precision,recal...
    茶盡閱讀 15,040評(píng)論 3 9
  • 數(shù)據(jù)建模及模型評(píng)估 1.導(dǎo)入使用的包和數(shù)據(jù) 導(dǎo)包 import pandas as pdimport numpy ...
    cherry_7閱讀 519評(píng)論 0 0