Scikit-learn中的特征生成處理

概要

在scipy或者scikit-learn中已經(jīng)具備某些功能的情況下,我們沒(méi)有注意到而又獨(dú)立去實(shí)現(xiàn)的事攀芯,時(shí)有發(fā)生屯断。這種就是坊間所說(shuō)的重新發(fā)明輪子,這種時(shí)間和精力浪費(fèi)敲才,其實(shí)應(yīng)該盡力避免裹纳。下面就匯總一下數(shù)據(jù)在前處理完成后和被送到分類器之前的階段中,能夠使用紧武,帶來(lái)便利的各種輪子剃氧。

LabelEncoder

在將字符串轉(zhuǎn)換成ID的時(shí)候可以使用。

from sklearn.preprocessing import LabelEncoder
le = LabelEncoder()
le.fit(['beijing', 'shanghai', 'guangzhou', 'hangzhou', 'nanjing', 'wuhan'])

le.classes_
  #=> array(['beijing', 'guangzhou', 'hangzhou', 'nanjing', 'shanghai', 'wuhan'], dtype='<U9')

le.transform(['hangzhou', 'guangzhou', 'beijing', 'hangzhou', 'nanjing', 'guangzhou'])
  #=> array([2, 1, 0, 2, 3, 1], dtype=int64)

le.inverse_transform([2, 1, 0, 2, 3, 1])
  #=> array(['hangzhou', 'guangzhou', 'beijing', 'hangzhou', 'nanjing', 'guangzhou'], dtype='<U9')

生成的LabelEncoder暫時(shí)保存起來(lái)阻星,其他地方也想使用的話朋鞍,StackOverFlow上有一部分保存的解決方法:
訓(xùn)練代碼:

encoder = LabelEncoder()
encoder.fit(X)
numpy.save('classes.npy', encoder.classes_)

測(cè)試代碼:

encoder = LabelEncoder()
encoder.classes_ = numpy.load('classes.npy')
# Now you should be able to use encoder
# as you would do after `fit`

也可以用下面的方式簡(jiǎn)單的用pickle讀寫:

import pickle
with open('foo.p', 'wb') as f:
  pickle.dump(le, f)
with open('foo.p', 'rb') as f:
  le2 = pickle.load(f)

le2.inverse_transform([2, 1, 0, 2, 3, 1])
#=> array(['hangzhou', 'guangzhou', 'beijing', 'hangzhou', 'nanjing', 'guangzhou'], dtype='<U9')

LabelBinarizer

LabelEncoder只是將字符串換成了數(shù)值。這些數(shù)值可能不能作為一個(gè)要素妥箕,而是要作為多個(gè)要素來(lái)處理滥酥。
例如輸入是[beijing, shanghai, guangzhou]這3個(gè)值的話,不要[1,2,3]而是想要[[1, 0, 0], [0, 1, 0]. [0, 0, 1]]畦幢。
模式如下:

# 目標(biāo)不是變成這樣
pd.DataFrame([{'prefecture': 1}, {'prefecture': 2}, {'prefecture': 3}])
 
# 而是要one-hot結(jié)果
 pd.DataFrame([
  {'beijing': 1, 'shanghai': 0, 'guangzhou': 0},
  {'beijing': 0, 'shanghai': 1, 'guangzhou': 0},
  {'beijing': 0, 'shanghai': 0, 'guangzhou': 1}])
image.png

這種情況下可以使用LabelBinarizer來(lái)完成坎吻。

from sklearn.preprocessing import LabelBinarizer
lb = LabelBinarizer()

lb.fit(['beijing', 'guangzhou', 'shanghai'])
lb.transform(['beijing', 'guangzhou', 'shanghai'])
#=> array([[1, 0, 0],
  #=>        [0, 1, 0],
  #=>        [0, 0, 1]])

對(duì)Pandas的DataFrame的列進(jìn)行運(yùn)算,運(yùn)算結(jié)果想要放入相同的DataFrame的時(shí)候:

df = pd.DataFrame([{'prefecture': 'beijing'}, {'prefecture': 'guangzhou'}, {'prefecture': 'shanghai'}, {'prefecture': 'beijing'}])
lb.fit(df.prefecture)
pd.concat([df, pd.DataFrame(lb.transform(df.prefecture), columns=lb.classes_)], axis=1)
image.png

上述只有三個(gè)列的情況下宇葱,用稠密的DataFrame其實(shí)也沒(méi)有問(wèn)題瘦真。如果值增加的話,就不得不使用稀疏方式了黍瞧。
如果在LabelBinarizer初始化時(shí)設(shè)定參數(shù)sparse_output诸尽,輸出結(jié)果就變成稀疏結(jié)果。

from sklearn.preprocessing import LabelBinarizer
lb = LabelBinarizer(sparse_output=True)

lb.fit(['beijing', 'guangzhou', 'shanghai'])
lb.transform(['beijing', 'guangzhou', 'shanghai'])
  #=> <3x3 sparse matrix of type '' with 3 stored elements in Compressed Sparse Row format>

MultiLabelBinarizer

LabelBinarizer只適用于一列一列處理的情況印颤。
比如您机,處理電影的種類的時(shí)候,[action, horror]和[romance, commedy]這樣有多個(gè)種類關(guān)聯(lián)的場(chǎng)景年局。這時(shí)际看,將種類數(shù)組傳遞給MultiLabelBinarizer,可以很好的完成變換矢否。

from sklearn.preprocessing import MultiLabelBinarizer
mlb = MultiLabelBinarizer()
mlb.fit_transform([['action', 'adventure'], ['action'], ['action', 'war', 'commedy'], []])
  #=> array([[1, 1, 0, 0],
  #=>        [1, 0, 0, 0],
  #=>        [1, 0, 1, 1],
  #=>        [0, 0, 0, 0]])
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末仿村,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子兴喂,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,383評(píng)論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件衣迷,死亡現(xiàn)場(chǎng)離奇詭異畏鼓,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)壶谒,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,522評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門云矫,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人汗菜,你說(shuō)我怎么就攤上這事让禀。” “怎么了陨界?”我有些...
    開封第一講書人閱讀 157,852評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵巡揍,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我菌瘪,道長(zhǎng)腮敌,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,621評(píng)論 1 284
  • 正文 為了忘掉前任俏扩,我火速辦了婚禮糜工,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘录淡。我一直安慰自己捌木,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,741評(píng)論 6 386
  • 文/花漫 我一把揭開白布嫉戚。 她就那樣靜靜地躺著刨裆,像睡著了一般。 火紅的嫁衣襯著肌膚如雪彼水。 梳的紋絲不亂的頭發(fā)上崔拥,一...
    開封第一講書人閱讀 49,929評(píng)論 1 290
  • 那天,我揣著相機(jī)與錄音凤覆,去河邊找鬼链瓦。 笑死,一個(gè)胖子當(dāng)著我的面吹牛盯桦,可吹牛的內(nèi)容都是我干的慈俯。 我是一名探鬼主播,決...
    沈念sama閱讀 39,076評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼拥峦,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼贴膘!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起略号,我...
    開封第一講書人閱讀 37,803評(píng)論 0 268
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤刑峡,失蹤者是張志新(化名)和其女友劉穎洋闽,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體突梦,經(jīng)...
    沈念sama閱讀 44,265評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡诫舅,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,582評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了宫患。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片刊懈。...
    茶點(diǎn)故事閱讀 38,716評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖娃闲,靈堂內(nèi)的尸體忽然破棺而出虚汛,到底是詐尸還是另有隱情,我是刑警寧澤皇帮,帶...
    沈念sama閱讀 34,395評(píng)論 4 333
  • 正文 年R本政府宣布卷哩,位于F島的核電站,受9級(jí)特大地震影響玲献,放射性物質(zhì)發(fā)生泄漏殉疼。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,039評(píng)論 3 316
  • 文/蒙蒙 一捌年、第九天 我趴在偏房一處隱蔽的房頂上張望瓢娜。 院中可真熱鬧,春花似錦礼预、人聲如沸眠砾。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,798評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)褒颈。三九已至,卻和暖如春励堡,著一層夾襖步出監(jiān)牢的瞬間谷丸,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,027評(píng)論 1 266
  • 我被黑心中介騙來(lái)泰國(guó)打工应结, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留刨疼,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,488評(píng)論 2 361
  • 正文 我出身青樓鹅龄,卻偏偏與公主長(zhǎng)得像揩慕,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子扮休,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,612評(píng)論 2 350

推薦閱讀更多精彩內(nèi)容