深度學(xué)習(xí)隨筆2

前言

Hello！小編又跟大家見面了派敷，今天小編來繼續(xù)跟大家聊聊深度學(xué)習(xí)中關(guān)于感知器和線性單元的相關(guān)學(xué)習(xí)蛹批，以及小編自己的思想整理撰洗！

機(jī)器學(xué)習(xí)

一、概念

機(jī)器學(xué)習(xí)是一門多領(lǐng)域交叉學(xué)科腐芍，專門研究計算機(jī)怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為差导，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)使之不斷改善自身的性能猪勇，它是人工智能的核心设褐，機(jī)器學(xué)習(xí)是對能通過經(jīng)驗自動改進(jìn)的計算機(jī)算法的研究，機(jī)器學(xué)習(xí)是用數(shù)據(jù)或以往的經(jīng)驗,以此優(yōu)化計算機(jī)程序的性能標(biāo)準(zhǔn)泣刹，是使計算機(jī)具有智能的根本途徑助析。

二、分類

1椅您、神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)：是模擬腦和神經(jīng)科學(xué)原理為基礎(chǔ)外冀，以人工神經(jīng)網(wǎng)絡(luò)為函數(shù)結(jié)構(gòu)模型，以數(shù)值數(shù)據(jù)為輸人掀泳，以數(shù)值運算為方法雪隧，用迭代過程在系數(shù)向量中搜索，學(xué)習(xí)的目標(biāo)為函數(shù)员舵。典型的連接學(xué)習(xí)有權(quán)值修正學(xué)習(xí)脑沿、拓?fù)浣Y(jié)構(gòu)學(xué)習(xí)。

2固灵、統(tǒng)計機(jī)器學(xué)習(xí)：是基于對數(shù)據(jù)的初步認(rèn)識以及學(xué)習(xí)目的的分析捅伤，選擇合適的數(shù)學(xué)模型，擬定超參數(shù)巫玻，并輸入樣本數(shù)據(jù)丛忆，依據(jù)一定的策略，運用合適的學(xué)習(xí)算法對模型進(jìn)行訓(xùn)練仍秤，最后運用訓(xùn)練好的模型對數(shù)據(jù)進(jìn)行分析預(yù)測熄诡。

3、監(jiān)督學(xué)習(xí)：是輸入數(shù)據(jù)中有信號诗力，以概率函數(shù)凰浮、代數(shù)函數(shù)或人工神經(jīng)網(wǎng)絡(luò)為基函數(shù)模型，采用迭代的計算方法苇本。

4袜茧、無監(jiān)督學(xué)習(xí)：則是輸入數(shù)據(jù)中無信號，采用聚類方法瓣窄，學(xué)習(xí)結(jié)果為類別笛厦。

三、應(yīng)用領(lǐng)域

1俺夕、數(shù)據(jù)分析與挖掘：“數(shù)據(jù)挖掘”和"數(shù)據(jù)分析”通常被相提并論裳凸，并在許多場合被認(rèn)為是可以相互替代的術(shù)語贱鄙。數(shù)據(jù)分析與挖掘技術(shù)是機(jī)器學(xué)習(xí)算法和數(shù)據(jù)存取技術(shù)的結(jié)合，利用機(jī)器學(xué)習(xí)提供的統(tǒng)計分析姨谷、知識發(fā)現(xiàn)等手段分析海量數(shù)據(jù)逗宁，同時利用數(shù)據(jù)存取機(jī)制實現(xiàn)數(shù)據(jù)的高效讀寫。

2梦湘、模式識別：它起源于工程領(lǐng)域瞎颗，而機(jī)器學(xué)習(xí)起源于計算機(jī)科學(xué)，這兩個不同學(xué)科的結(jié)合帶來了模式識別領(lǐng)域的調(diào)整和發(fā)展践叠，模式識別的應(yīng)用領(lǐng)域廣泛言缤。例如— 研究生物體等！

深度學(xué)習(xí)

一禁灼、概念

深度學(xué)習(xí)是機(jī)器學(xué)習(xí)領(lǐng)域中一個新的研究方向管挟，它被引入機(jī)器學(xué)習(xí)使其更接近于最初的目標(biāo)——人工智能。深度學(xué)習(xí)是一個復(fù)雜的機(jī)器學(xué)習(xí)算法弄捕，在語音和圖像識別方面取得的效果僻孝，遠(yuǎn)遠(yuǎn)超過先前相關(guān)技術(shù)，它的最終目標(biāo)是讓機(jī)器能夠像人一樣具有分析學(xué)習(xí)能力守谓，能夠識別文字穿铆、圖像和聲音等數(shù)據(jù)。它使機(jī)器模仿視聽和思考等人類的活動斋荞，解決了很多復(fù)雜的模式識別難題荞雏，使得人工智能相關(guān)技術(shù)取得了很大進(jìn)步。

二平酿、特點

1凤优、強(qiáng)調(diào)了模型結(jié)構(gòu)的深度，通常有5層蜈彼、6層筑辨，甚至10多層的隱層節(jié)點。

2幸逆、明確了特征學(xué)習(xí)的重要性棍辕。也就是說，通過逐層特征變換还绘，將樣本在原空間的特征表示變換到一個新特征空間楚昭，從而使分類或預(yù)測更容易。與人工規(guī)則構(gòu)造特征的方法相比拍顷，利用大數(shù)據(jù)來學(xué)習(xí)特征抚太，更能夠刻畫數(shù)據(jù)豐富的內(nèi)在信息。

感知器

一菇怀、概念

感知器是神經(jīng)網(wǎng)絡(luò)中的一種典型結(jié)構(gòu)凭舶，它的主要的特點是結(jié)構(gòu)簡單，對所能解決的問題存在著收斂算法爱沟，并能從數(shù)學(xué)上嚴(yán)格證明帅霜，從而對神經(jīng)網(wǎng)絡(luò)研究起了重要的推動作用，可以被視為一種最簡單形式的前饋式人工神經(jīng)網(wǎng)絡(luò)呼伸，是一種二元線性分類器身冀。

二、數(shù)學(xué)描述及公式

$v_i$ ? $=$ ? $f$ ( $\sum_{i-0}^n$ $w_ix_i$ $-$ $\theta$ )

$\eta$ ? $=$ $\frac{1}{2}$ ( $\sum_{i=1}^2$ $w_i$ ( $t$ ) $x_i(t)$ $-\theta (t)$ $+\alpha$ )

$y =$ $sigm$ ( $\vec{w}\bullet \vec{x}$ $+b$ )

$L（\vec{w},b ）$ $=$ ? $-$ $\sum_{\vec{x_i}\in M }$ $y_i$ ( $\vec{w} \bullet \vec{x_i} +b$ )

線性單元

一括享、概念

當(dāng)感知器存在一個問題搂根，就是遇到線性不可分的數(shù)據(jù)時，就可能無法收斂铃辖，所以要使用一個可導(dǎo)的線性函數(shù)來替代階躍函數(shù)剩愧，又其激活函數(shù)是線性的，所以一般被稱為線性單元娇斩。它被證實能夠使得使得神經(jīng)元的平均激活均值趨近為 0,同時對噪聲更具有魯棒性由于需要計算指數(shù),計算量較大仁卷。

二、數(shù)學(xué)描述及公式

$y=h(x)=w*x+b$

$y=h(x)=W^TX$

$y = f(w^Tx)$ ? $f(z)=z$

$w\leftarrow w+\eta (y-\bar{y} )x$

總結(jié)

以上就是目前小編所學(xué)范圍之內(nèi)犬第，自己對于知識的理解锦积，本篇幅較短就告一段落了，小編謝謝大家的支持歉嗓，回見丰介！