AI基礎(chǔ)知識 | 機(jī)器學(xué)習(xí)流程拆解

一個(gè)典型的機(jī)器學(xué)習(xí)流程如下:


機(jī)器學(xué)習(xí)處理過程流程圖

來解讀一下這個(gè)圖搀菩。

(1)原始數(shù)據(jù)采集

原始數(shù)據(jù)是機(jī)器學(xué)習(xí)過程的第一步缕题,它從各個(gè)渠道被采集而來摄狱。在監(jiān)督學(xué)習(xí)的場景中還需要對數(shù)據(jù)進(jìn)行標(biāo)記绕辖。例如摇肌,情感分析模型需要用標(biāo)簽標(biāo)記,來幫助算法理解人類使用的俚語或諷刺挖苦的表達(dá)方式仪际。有時(shí)數(shù)據(jù)標(biāo)記的工作往往非常耗時(shí)耗力围小,在某些場景中,這類工作不僅對人的專業(yè)背景要求高树碱,而且完成標(biāo)記所需的周期長肯适。

(2)數(shù)據(jù)預(yù)處理

原始數(shù)據(jù)往往比較粗糙或者噪音較多,需要將這些數(shù)據(jù)進(jìn)行預(yù)處理成榜,得到有效的訓(xùn)練數(shù)據(jù)框舔,與普通的數(shù)據(jù)挖掘不同,深度學(xué)習(xí)的數(shù)據(jù)預(yù)處理過程主要包含數(shù)據(jù)歸一化(包括樣本尺度歸一化、逐樣本的均值相減刘绣、標(biāo)準(zhǔn)化)和數(shù)據(jù)白化樱溉。另外,在預(yù)處理階段额港,我們還需要將數(shù)據(jù)分為三種數(shù)據(jù)集饺窿,包括用來訓(xùn)練模型的訓(xùn)練集、開發(fā)過程中用戶調(diào)參的驗(yàn)證集以及測試時(shí)所使用的測試集移斩。

(3)訓(xùn)練模型

在正式開始模型訓(xùn)練之前肚医,需要針對我們的訓(xùn)練目標(biāo)進(jìn)行分類。理解目標(biāo)的本質(zhì)對選擇訓(xùn)練的方式至關(guān)重要向瓷。機(jī)器學(xué)習(xí)可以實(shí)現(xiàn)的目標(biāo)被分為:分類肠套、回歸、聚類猖任、異常檢測等你稚。前期算法工程師需要通過測試集和訓(xùn)練集,在集中可能的算法中做一些Demo測試朱躺,再根據(jù)測試的結(jié)果選擇具體的算法刁赖,這樣可以規(guī)避大范圍的訓(xùn)練模型改動(dòng)帶來的損失。

(4)模型評估

我們利用在數(shù)據(jù)預(yù)處理中準(zhǔn)備好的測試集對模型進(jìn)行測試长搀。由于測試集對模型來說宇弛,時(shí)完全新的數(shù)據(jù),因此可以客觀地度量模型在現(xiàn)實(shí)世界中的表現(xiàn)情況源请。模型的效果通常以“擬合程度”來形容枪芒。例如某個(gè)圖像識別在模型訓(xùn)練后的誤差和人類的平均誤差率只相差1%,然而測試集誤差比訓(xùn)練集誤差高10%谁尸,這就意味者該模型在全新的數(shù)據(jù)上表現(xiàn)不好舅踪,過度擬合了。

(5)調(diào)參

對模型評估結(jié)束后良蛮,可以通過調(diào)參對訓(xùn)練過程進(jìn)行優(yōu)化抽碌。參數(shù)可以分為兩類,一類是超參數(shù)背镇,即需要在訓(xùn)練前手動(dòng)設(shè)置的參數(shù)咬展,另一種是不需要手動(dòng)設(shè)置、在訓(xùn)練過程中可以自動(dòng)被調(diào)整的參數(shù)瞒斩。調(diào)參的過程是一種基于數(shù)據(jù)集、模型涮总、和訓(xùn)練過程細(xì)節(jié)的實(shí)證過程胸囱。

調(diào)參是個(gè)優(yōu)雅的過程。它通常需要以來經(jīng)驗(yàn)和靈感探尋其最優(yōu)值瀑梗,本質(zhì)上更接近藝術(shù)而非科學(xué)烹笔。

(6)推斷

這就是機(jī)器學(xué)習(xí)的目的啦~

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末裳扯,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子谤职,更是在濱河造成了極大的恐慌饰豺,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,692評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件允蜈,死亡現(xiàn)場離奇詭異冤吨,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)饶套,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,482評論 3 392
  • 文/潘曉璐 我一進(jìn)店門漩蟆,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人妓蛮,你說我怎么就攤上這事怠李。” “怎么了蛤克?”我有些...
    開封第一講書人閱讀 162,995評論 0 353
  • 文/不壞的土叔 我叫張陵捺癞,是天一觀的道長。 經(jīng)常有香客問我构挤,道長髓介,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,223評論 1 292
  • 正文 為了忘掉前任儿倒,我火速辦了婚禮版保,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘夫否。我一直安慰自己彻犁,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,245評論 6 388
  • 文/花漫 我一把揭開白布凰慈。 她就那樣靜靜地躺著汞幢,像睡著了一般。 火紅的嫁衣襯著肌膚如雪微谓。 梳的紋絲不亂的頭發(fā)上森篷,一...
    開封第一講書人閱讀 51,208評論 1 299
  • 那天,我揣著相機(jī)與錄音豺型,去河邊找鬼仲智。 笑死,一個(gè)胖子當(dāng)著我的面吹牛姻氨,可吹牛的內(nèi)容都是我干的钓辆。 我是一名探鬼主播,決...
    沈念sama閱讀 40,091評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼前联!你這毒婦竟也來了功戚?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,929評論 0 274
  • 序言:老撾萬榮一對情侶失蹤似嗤,失蹤者是張志新(化名)和其女友劉穎啸臀,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體烁落,經(jīng)...
    沈念sama閱讀 45,346評論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡乘粒,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,570評論 2 333
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了顽馋。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片谓厘。...
    茶點(diǎn)故事閱讀 39,739評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖寸谜,靈堂內(nèi)的尸體忽然破棺而出竟稳,到底是詐尸還是另有隱情,我是刑警寧澤熊痴,帶...
    沈念sama閱讀 35,437評論 5 344
  • 正文 年R本政府宣布他爸,位于F島的核電站,受9級特大地震影響果善,放射性物質(zhì)發(fā)生泄漏诊笤。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,037評論 3 326
  • 文/蒙蒙 一巾陕、第九天 我趴在偏房一處隱蔽的房頂上張望讨跟。 院中可真熱鬧,春花似錦鄙煤、人聲如沸晾匠。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,677評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽凉馆。三九已至,卻和暖如春亡资,著一層夾襖步出監(jiān)牢的瞬間澜共,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,833評論 1 269
  • 我被黑心中介騙來泰國打工锥腻, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留嗦董,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,760評論 2 369
  • 正文 我出身青樓瘦黑,卻偏偏與公主長得像展懈,于是被迫代替她去往敵國和親销睁。 傳聞我的和親對象是個(gè)殘疾皇子供璧,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,647評論 2 354

推薦閱讀更多精彩內(nèi)容

  • 葉公好龍大概就是這個(gè)意思吧存崖。整天叫囂著夯尽,號哭著多么多么想念過去把兔,過去真真切切的擺在我面前時(shí)我卻嚇得說不出話省容。 她像...
    李四狗閱讀 148評論 0 1
  • 《小佳人》(一) 我的白菜花 每天 含著淚珠兒死讹,笑 給世界看 既不高貴孝凌,又 不出眾 出身卑微 纖瘦不起眼 黃燦燦 ...
    紀(jì)心dd閱讀 1,174評論 38 37
  • 說起甲醛的危害止后,我們都略有耳聞钠至,目前市場上的很多家具中都存在甲醛超標(biāo)的現(xiàn)象葛虐,新裝修好的房子,甲醛超標(biāo)的原因很多棉钧,我...
    素百凈室內(nèi)空氣凈化閱讀 1,643評論 0 0
  • 曾經(jīng)的裊裊炊煙屿脐,現(xiàn)在在農(nóng)村已經(jīng)完全消失了,只剩下幾個(gè)孤零零的煙囪屹立在那里宪卿,訴說著這個(gè)村莊的往事的诵。 生在農(nóng)村,特別...
    夢里水飄閱讀 342評論 0 0