? ? ? ?科學(xué)家們很早就在研究如何讓計算機智能化,起初是將計算機所需要的知識例舉為形式化的語言編程輸入給計算機讨衣,這樣的過程不僅繁瑣且計算機能達(dá)到的智能程度是非常有限的。所以,AI系統(tǒng)需要具備自己獲取知識的能力输钩, 即從原始數(shù)據(jù)中提取模式的能力。這種能力被稱為機器學(xué)習(xí) (machine learning)仲智。引入機器學(xué)習(xí)使計算機能夠解決涉及現(xiàn)實世界知識的問題买乃,并能作出看似主觀的決策。但需要注意的是這些簡單的機器學(xué)習(xí)算法的性能在很大程度上依賴于給定數(shù)據(jù)的表示(如圖1)钓辆。
? ? ? ?許多人工智能的任務(wù)都可以先提取一個合適的特征集剪验,然后將這些特征提供給簡單的機器學(xué)習(xí)算法來解決。然而前联,對于許多任務(wù)來說功戚,很難知道應(yīng)該提取哪些特征。?解決這個問題一個途徑的是使用機器學(xué)習(xí)來發(fā)現(xiàn)表示本身似嗤,而不僅僅把表示映射到輸出啸臀。這種方法被稱為表示學(xué)習(xí) (representation learning)。學(xué)習(xí)到的表示往往比手動設(shè)計的表示表現(xiàn)得更好烁落。表示學(xué)習(xí)算法的典型例子是自動編碼器乘粒。當(dāng)設(shè)計特征或?qū)W習(xí)特征的算法時,我們的目標(biāo)通常是分離出能解釋觀察數(shù)據(jù)的變化因素 (factors of variation)伤塌。?這些因素通常是不能被直接觀察到的量灯萍。相反,它們可能是現(xiàn)實世界中觀察不到的物體或者不可觀測的力每聪,但會影響能觀測到的量旦棉。 例如,當(dāng)分析語音記錄時药薯,變化的因素包括說話者的年齡他爸、性別、他們的口音和他們正在說的詞語果善。?在現(xiàn)實世界诊笤,許多人工智能應(yīng)用困難的一個重要原因是很多變化因素影響著我們能夠觀察到的每一個數(shù)據(jù)。大多數(shù)應(yīng)用需要我們理清變化因素并丟棄我們不關(guān)心的因素巾陕。 然而許多這樣的變化因素讨跟,諸如說話者的口音纪他,只能對數(shù)據(jù)進行復(fù)雜的、接近人類水平的理解來確定晾匠。這幾乎與獲得原來問題的表示一樣困難茶袒。深度學(xué)習(xí) (deep learning) 通過其它較簡單的表示來表達(dá)復(fù)雜表示,解決了表示學(xué)習(xí)中的核心問題凉馆。?深度學(xué)習(xí)系統(tǒng)通過組合較簡單的概念從而構(gòu)建復(fù)雜的概念(如圖2)薪寓。
以上總結(jié)如下圖:
? ? ? ? 深度學(xué)習(xí)是一種特定類型的機器學(xué)習(xí),具有強大的能力和靈活性澜共,它將大千世界表示為嵌套的層次概念體系(由較簡單概念間的聯(lián)系定義復(fù)雜概念向叉、從一般抽象概括到高級抽象表示)。
參考:
1.http://www.deeplearningbook.org/
2.《Machine Learning》中文版