ML:DT

決策樹的一個(gè)小例子:

# -*- coding:utf-8 -*-

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.tree import DecisionTreeClassifier
from sklearn import tree
from sklearn import metrics
from sklearn.ensemble import ExtraTreesClassifier

def iris_type(s):
    it = {'Iris-setosa': 0, 'Iris-versicolor': 1, 'Iris-virginica': 2}
    return it[s]

if __name__ == "__main__":
    # 讀取數(shù)據(jù)
    path = u"4.iris.data"
    data = np.loadtxt(path, dtype=float, delimiter=',', converters={4: iris_type})
    X = data[:,:2]
    y = data[:,4]

    # 數(shù)算法通過計(jì)算特征的信息量,查看重要性
    import_test_data = data[:,:4]
    model = ExtraTreesClassifier()
    model.fit(import_test_data, y)
    print model.feature_importances_

    # 訓(xùn)練分類器
    clf = DecisionTreeClassifier(criterion='entropy', max_depth=20)
    dt_clf = clf.fit(X,y)

    # 保存
    f = open("iris_tree.dot", 'w')
    tree.export_graphviz(dt_clf, out_file=f)

    # 數(shù)據(jù)可視化
    M, N = 500, 500
    x1_min, x1_max = np.min(X[:,0]), np.max(X[:,0])
    x2_min, x2_max = np.min(X[:,1]), np.max(X[:,1])
    t1 = np.linspace(x1_min, x1_max, M)
    t2 = np.linspace(x2_min, x2_max, N)
    x1, x2 = np.meshgrid(t1, t2)  #生成網(wǎng)格采樣點(diǎn)
    x_test = np.stack((x1.ravel(),x2.flat),axis=1)
    y_hat = clf.predict(x_test)
    y_hat = y_hat.reshape(x1.shape)
    plt.pcolormesh(x1, x2, y_hat, cmap=plt.cm.summer, alpha=0.3)    # 預(yù)測(cè)值的顯示Paired/Spectral/coolwarm/summer/spring/OrRd/Oranges
    plt.scatter(X[:,0], X[:,1], c=y, s=50, edgecolors='k', cmap=plt.cm.prism)    # 樣本的顯示
    plt.xlim(x1_min, x1_max)
    plt.ylim(x2_min, x2_max)
    plt.grid()
    plt.show()


    # 預(yù)測(cè)評(píng)估
    predict = clf.predict(X)
    accuracy = metrics.accuracy_score(y, predict)
    print "Accuracy: %.2f%%" %(100 * accuracy)


    report = metrics.classification_report(y, predict)
    print report

    result = (predict == y)  # True則預(yù)測(cè)正確,F(xiàn)alse則預(yù)測(cè)錯(cuò)誤
    print result
    c = np.count_nonzero(result)  # 統(tǒng)計(jì)預(yù)測(cè)正確的個(gè)數(shù)
    print c
    print 'Accuracy: %.2f%%' % (100 * float(c) / float(len(result)))

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子催束,更是在濱河造成了極大的恐慌集峦,老刑警劉巖塔淤,帶你破解...
    沈念sama閱讀 217,084評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異高蜂,居然都是意外死亡聪黎,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,623評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門备恤,熙熙樓的掌柜王于貴愁眉苦臉地迎上來稿饰,“玉大人,你說我怎么就攤上這事露泊『砹” “怎么了?”我有些...
    開封第一講書人閱讀 163,450評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵惭笑,是天一觀的道長(zhǎng)侣姆。 經(jīng)常有香客問我,道長(zhǎng)沉噩,這世上最難降的妖魔是什么捺宗? 我笑而不...
    開封第一講書人閱讀 58,322評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮川蒙,結(jié)果婚禮上偿凭,老公的妹妹穿的比我還像新娘。我一直安慰自己派歌,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,370評(píng)論 6 390
  • 文/花漫 我一把揭開白布痰哨。 她就那樣靜靜地躺著胶果,像睡著了一般。 火紅的嫁衣襯著肌膚如雪斤斧。 梳的紋絲不亂的頭發(fā)上早抠,一...
    開封第一講書人閱讀 51,274評(píng)論 1 300
  • 那天,我揣著相機(jī)與錄音撬讽,去河邊找鬼蕊连。 笑死,一個(gè)胖子當(dāng)著我的面吹牛游昼,可吹牛的內(nèi)容都是我干的甘苍。 我是一名探鬼主播,決...
    沈念sama閱讀 40,126評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼烘豌,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼载庭!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,980評(píng)論 0 275
  • 序言:老撾萬榮一對(duì)情侶失蹤囚聚,失蹤者是張志新(化名)和其女友劉穎靖榕,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體顽铸,經(jīng)...
    沈念sama閱讀 45,414評(píng)論 1 313
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡茁计,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,599評(píng)論 3 334
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了谓松。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片星压。...
    茶點(diǎn)故事閱讀 39,773評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖毒返,靈堂內(nèi)的尸體忽然破棺而出租幕,到底是詐尸還是另有隱情,我是刑警寧澤拧簸,帶...
    沈念sama閱讀 35,470評(píng)論 5 344
  • 正文 年R本政府宣布劲绪,位于F島的核電站,受9級(jí)特大地震影響盆赤,放射性物質(zhì)發(fā)生泄漏贾富。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,080評(píng)論 3 327
  • 文/蒙蒙 一牺六、第九天 我趴在偏房一處隱蔽的房頂上張望颤枪。 院中可真熱鬧,春花似錦淑际、人聲如沸畏纲。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,713評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽盗胀。三九已至,卻和暖如春锄贼,著一層夾襖步出監(jiān)牢的瞬間票灰,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,852評(píng)論 1 269
  • 我被黑心中介騙來泰國(guó)打工宅荤, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留屑迂,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,865評(píng)論 2 370
  • 正文 我出身青樓冯键,卻偏偏與公主長(zhǎng)得像惹盼,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子琼了,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,689評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容

  • 翻譯自analyticsvidhya 基于樹的學(xué)習(xí)算法被認(rèn)為是最好的和最常用的監(jiān)督學(xué)習(xí)(supervised le...
    珞珈村下山閱讀 5,999評(píng)論 1 19
  • 萊利:球員來了又走逻锐,球隊(duì)繼續(xù)前進(jìn) 摘要:萊利在休賽期應(yīng)魔術(shù)師邀請(qǐng)去歐洲度假夫晌。 虎撲體育9月8日訊 萊利最近接受采訪...
    prudenceli閱讀 250評(píng)論 0 0
  • 中距離賽跑 1940年1月3日,未名谷昧诱,龍山晓淀,中國(guó)河南 “我們往這荒山里走了有多遠(yuǎn)了?”永忠問道盏档。 “很難說凶掰,我...
    作家亞山閱讀 353評(píng)論 0 0
  • 這篇文章本應(yīng)該寫在去年,我工作滿十周年的日子蜈亩。但是越在乎越寫不出來懦窘,所以寧愿一直寫到自己合意。 在時(shí)間長(zhǎng)河中稚配,區(qū)區(qū)...
    模模的世界閱讀 484評(píng)論 4 0
  • 當(dāng)絢麗的天空中浮云飄動(dòng)時(shí) 我在想 是涼意颼颼的風(fēng)兒吹散了云朵 還是一往情深的云朵追隨著風(fēng)兒 抑或只是 亙古不變的自...
    曇宓閱讀 420評(píng)論 0 0