1 什么是人工智能
1-1 人工智能定義
人工智能之父 麥卡錫 給出的定義
- 構(gòu)建智能機器， 特別是智能計算機程序的科學和工程
- 人工智能是一種讓計算機程序能夠
智能思考的方式- 思考的模式
類似于人類 （注意是類似银酗，不可能像人類一樣去思考）
1-2 什么是智能
- 智能的英語是Intelligence
- 包含 推理饭玲、知識、規(guī)劃、學習屑迂、交流次询、感知奏司、移動和操作物體等等
智能 不等于 智力(IQ: 智商伸刃，比較類似計算機的計算能力)
1-3 如何算有智能
- 可以根據(jù)環(huán)境變化而做出相應(yīng)變化的能力
- 具有
存活這項基本的動因- 自主能力谎砾，自我意識等等
例如從寶寶手里奪取他的西瓜，他會有護住西瓜的自主意識捧颅，目前的機器還沒有這種意識景图，或者生存的動因
image.png
1-4 圖靈測試（Turing Test）
- 艾倫·麥席森·圖靈（Alan Mathison Turing，1912年6月23日－1954年6月7日）碉哑，英國數(shù)學家挚币、邏輯學家，被稱為計算機科學之父谭梗，人工智能之父
- 圖靈測試如下圖忘晤，測試者與接受測試者(一個人和一臺機器)隔開的情況下，通過一些裝置(如鍵盤)向被測者隨意提問
- 進行多次測試后激捏，如果有超過30%的測試者不能確定出被測試者是人還是機器设塔，那么這臺機器就通過了測試，并被認為具有人類智能
- 目前還沒有機器通過圖靈測試
image.png
1-5 智能的分類
- 自然智能：人和動物 (
Natural Intelligence)- 人工智能：人造出來的智能 (
Artificial Intelligence)
image.png
2 人工智能前景
2-1 人工智能的需求
- 提高我們的生活品質(zhì)
- 增加工作科研等的效率
- 解決世紀難題远舅，如癌癥的診斷
image.png
2-2 人工智能的前景好在哪里
- 企業(yè)支持：谷歌闰蛔、微軟、蘋果图柏、百度序六、阿里、騰訊等大廠都投入了大量的資金和人力
- 科技支持：大數(shù)據(jù)蚤吹、cpu例诀，gpu的高性能，使得人工智能的訓(xùn)練變得容易裁着，目前人工智能爆發(fā)的主要原因
- 國家支持：國家發(fā)展戰(zhàn)略層面
image.png
2-3 人工智能相關(guān)動向
- 2017年7月20日 中國國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》
- Excel等將用Python替代VBA
- Python加入高考
3 人工智能需要的基本數(shù)學知識
- 本實戰(zhàn)課程繁涂，需要了解以下數(shù)學知識
- 若要深入學習人工智能，則要有一定的數(shù)學功底
image.png
4 人工智能簡史
> 1 人工神經(jīng)網(wǎng)絡(luò)被提出 (AI緣起)
- Artificial Neural Network (簡稱 Neural Network)
- 沃輪·麥卡洛克 和 沃爾特·皮茨 在
1943年創(chuàng)造了神經(jīng)網(wǎng)絡(luò)的計算模型- 為以后的深度學習等領(lǐng)域打下了基礎(chǔ)
> 2 達特茅斯會議 (定義AI)
- 達特茅斯學院 (Dartmouth College) 是一所美國大學
- 約翰·麥卡錫等人于
1956年8月31日發(fā)起- 標志著AI(人工智能)的
正式定義（誕生）
> 3 感知器（Preceptron）
- 一種最簡單的人工神經(jīng)網(wǎng)絡(luò)二驰，是生物神經(jīng)網(wǎng)絡(luò)機制的簡單抽象
- 由 羅森布拉特 于
1957年發(fā)明- 將人工智能的研究推向
第一個高峰
人的神經(jīng)元
人的神經(jīng)網(wǎng)絡(luò)
感知器抽象的神經(jīng)網(wǎng)絡(luò)扔罪，圓圈模擬人的神經(jīng)元
> 4 人工智能的第一個寒冬
1970年開始的十幾年- 傳統(tǒng)的感知器耗費的計算量和神經(jīng)元數(shù)目
平方成正比- 當時的電腦沒有能力完成神經(jīng)網(wǎng)絡(luò)模型所需要的超大計算量
> 5 霍普菲爾德神經(jīng)網(wǎng)絡(luò)
- 一種遞歸神經(jīng)網(wǎng)絡(luò) (Recurrent Neural Network)
- 由
約翰·霍普菲爾德于1982年發(fā)明- 具有反饋（feed back）機制
image.png
> 6 反向傳播（Back Propagation）算法
1974年哈佛大學的 保羅·沃伯斯 發(fā)明，當時處于寒冬期桶雀，沒有受到重視1986年大衛(wèi)魯姆哈特等學者出版的書中完整的提出了BP的算法- 使大規(guī)模神經(jīng)網(wǎng)絡(luò)訓(xùn)練成為可能矿酵，將人工智能推向
第二個高峰
> 7 人工智能第二個寒冬
1990年開始- 人工智能計算機Darpa沒能實現(xiàn)（美國政府花巨資支持的項目）
- 政府投入縮減，人工智能隨之進入寒冬
> 8 深度學習（Deep Learning）
- 基于深度（指“多層”）神經(jīng)網(wǎng)絡(luò)
2006年杰弗里·辛頓（Geoffrey Hiton）提出- 人工智能性能獲得突破性進展
- 目前（2018年寫此博客）我們的人工智能案例大多基于此
> 9 進入感知智能時代
- 深度學習在語音是視覺識別上分別達到99%和95%的識別率
- 2013年開始我們把人工智能分為三個時代
- 運算智能：IBM深藍計算機打敗俄羅斯象棋選手矗积，（通過暴力運算全肮，得出所有可能的下棋步驟）
感知智能： 圖像語音識別等類似于人類的觸覺的智能時代，目前處于此階段- 認知智能：像人一樣的認知能力棘捣，離此目標還很遙遠
> 10 AlphaGo 擊敗眾多人類選手
- Google 買下了DeepMind公司的AlphaGo（基于TensorFlow）
2016年接連擊敗圍棋界頂尖棋手- 之后深度學習被廣泛關(guān)注辜腺，掀起學習
人工智能熱潮
> 11 未來由我們創(chuàng)造
- 雖然我們不能過分樂觀，未來也許還會有低潮
- 但人工智能是大勢所趨，哪自，學了絕對不吃虧
5 AI、機器學習和深度學習的關(guān)聯(lián)
相關(guān)聯(lián)的學科
- 1 他們都不是獨立的學科禁熏，互相都有交集
- 2 機器學習屬于人工智能的范疇
- 3 深度學習屬于機器學習的一個子領(lǐng)域
- 4 神經(jīng)網(wǎng)絡(luò)貫穿其中
- 5 深度學習基于神經(jīng)網(wǎng)絡(luò)
- 6 有關(guān)聯(lián)的學科不僅限于下圖
image.png
AI壤巷、ML、DL的關(guān)系
- 機器學習是實現(xiàn)人工智能的一種方法
- 深度學習是機器學習的一個分支
- 人工智能王者歸來瞧毙，深度學習功不可沒
- 深度學習是引領(lǐng)人工智能熱潮的 "火箭"
image.png
6 什么是機器學習
6-1什么是學習
- 學習是一個
過程：一個系統(tǒng)胧华，能夠通過執(zhí)行某個過程，改善了性能- 說得更深入一些宙彪，學習的目的是
減熵- 熱力學第二定律：一個孤立系統(tǒng)傾向于增加
熵（混亂程度）- 生命活著就是在減熵矩动，對抗環(huán)境的增熵趨勢
6-2 機器學習的必要性
- 1 很多軟件無法靠人工編程：如自動駕駛，計算機視覺释漆，自然語言處理悲没，這類問題難以定性和描述，智能通過機器學習來處理
如識別鳶尾花男图，通過軟件編程無法描述它的特性以及和其它花的區(qū)別
image.png
- 2 人類常會犯錯（疲勞示姿，緊張，餓了等）逊笆，機器不容易犯錯
- 3 機器的計算能力越來越強栈戳，提高我們生活品質(zhì)、加快科技發(fā)展
6-3 機器學習的定義
晦澀的定義
- 對某類 任務(wù) T(Task) 和 性能度量 P(Performance）
- 通過經(jīng)驗 E(Experience) 改進后
- 在任務(wù) T 上由性能度量 P 衡量的性能有所提升
簡單的機器學習定義
- 機器學習：讓
機器學習到東西
image.png
人類思考 VS 機器學習
image.png
- 學生學習：用
做訓(xùn)練題來提高考試的成績- 做題 對應(yīng)
訓(xùn)練- 考試 對應(yīng)
推測
- 機器學習：用
數(shù)據(jù)來解答問題- 數(shù)據(jù) 對應(yīng)
訓(xùn)練- 解答問題 對應(yīng)
推測
機器學習案例：AlphaGo學下圍棋
- 圍棋博弈： 用
和自己下棋來提高下棋的勝率- 和自己下棋 對應(yīng)
訓(xùn)練- 與人類下棋 對應(yīng)
推測
6-4 傳統(tǒng)編程 VS 機器學習
- 機器學習大致等同于找一個好的函數(shù)（function）/ 模型
image.png
6-5 機器學習的分類
image.png
- 監(jiān)督學習 (Supervised Learning): 有標簽, 近義詞：分類 （Classification）
對于訓(xùn)練集的每個數(shù)據(jù)給他一個標簽难裆。如下識別系統(tǒng)子檀，給訓(xùn)練的每張圖片打個標簽（是鴨子還是不是鴨子），通過監(jiān)督學習乃戈，訓(xùn)練出一個預(yù)測模型
監(jiān)督學習
當有新的數(shù)據(jù)來時褂痰，用這個預(yù)測模型去識別是否為鴨子
預(yù)測
- 非監(jiān)督學習 (Unsupervised Learning): 沒有標簽，近義詞：聚類（Cluster）
不會給數(shù)據(jù)打標簽偏化，讓機器自己學著找他們的共通點脐恩，然后把相同或相似的一些數(shù)據(jù)分為一類
image.png
當有新的數(shù)據(jù)過來的時候，系統(tǒng)就會把歸到之前聚好的類里面
image.png
- 半監(jiān)督學習 (Semi-Supervised Learning): 有少部分標簽侦讨，最類似人的生活
--我們的一生都在進行著半監(jiān)督學習
--實際生活中大量的數(shù)據(jù)是沒有標簽的驶冒，人工打標簽成本較大
如下A和C有標簽，都是精英韵卤，現(xiàn)在C無標簽骗污，怎么判斷他是否為精英呢，比如ABC經(jīng)常出入同樣的場所沈条，一起喝咖啡需忿，是朋友等，可以基本推測C也是精英，這也是我們說的物以類聚屋厘，人以群分
image.png
- 強化學習 (Reinforcement Learning): 基于環(huán)境而行動涕烧，已取得最大化預(yù)期利益
比如AI 玩超級瑪麗，掛掉一次減一分汗洒，過關(guān)一次加一分议纯，n輪下來看總得分，得分越高越好溢谤。AI程序就會自動想要獲得更高的分數(shù)瞻凤，相當于給他的一個獎勵，去刺激他獲得更高的分數(shù)世杀，這樣就會訓(xùn)練處一代比一代強的AI程序
image.png
image.png
6-6 機器學習算法選擇
- scikit-learn官網(wǎng) http://scikit-learn.org/stable/index.html
image.png
為什么回歸叫regression（回歸）
- 回歸用于預(yù)測（比如股票）阀参，它的輸出是連續(xù)的，與離散的分類不同
- 回歸是英國生物學家兼統(tǒng)計學家高爾頓在研究人類遺傳問題提出的
- 子代的身高有向父輩身高回歸的趨勢
- 后來預(yù)測性問題都叫做回歸
機器學習的 “六部走”
1221536936944_.pic.jpg
機器學習的 “關(guān)鍵三部”
- 找一系列函數(shù)來實現(xiàn)預(yù)期的功能：
建模問題- 找一組合理的評價標準瞻坝，來評估函數(shù)的好壞：
評價問題- 快速找到性能最佳的函數(shù)：
優(yōu)化問題（比如梯度下降就是個目的）
7 AI 會不會對人類產(chǎn)生威脅
威脅論：霍金（劍橋大學物理學家）蛛壳、馬斯克（特斯拉CEO）、（筆者傾向威脅論）有用論：扎克博格（Facebook CEO）湿镀、皮查伊（谷歌CEO）
image.png
8 什么是 過擬合（overfitting）
8-1 擬合的三種狀態(tài)
- Underfitting: 欠擬合炕吸。樣本不夠或算法不精，測試樣本特性沒有學到
- Fitting right: 擬合完美勉痴。恰當?shù)財M合測試叔叔赫模，泛化能力強
- OverFitting: 過擬合。"一絲不茍"擬合測試數(shù)據(jù)蒸矛，泛化能力弱
1311536938512_.pic.jpg
回歸（Regression）問題中的三種擬合狀態(tài)
- 1 欠擬合瀑罗，訓(xùn)練出的模型是一條直線，不能很好的表示測試數(shù)據(jù)的點的分布趨勢雏掠，
- 2 好的擬合斩祭，能過比較好的表現(xiàn)測試數(shù)據(jù)的分布，比較好的預(yù)測新數(shù)據(jù)特性
- 3 過擬合乡话，和測試數(shù)據(jù)完全擬合摧玫，擬合的過于好，但是無法預(yù)測新數(shù)據(jù)的特性
筆者認為绑青，過擬合就是學成書呆子了诬像，不能活學活用，無法適應(yīng)新的環(huán)境
1331536938858_.pic.jpg
- 分類（Classification）問題中三種擬合狀態(tài)*
1351536939314_.pic.jpg
8-2 解決過擬合的一些方法
- 降低數(shù)據(jù)量
- 正則化
- Dropout
Dropout: 丟棄闸婴、退出
- 下左全連接神經(jīng)網(wǎng)坏挠，下右放棄一些點和連接，用部分連接去構(gòu)建神經(jīng)網(wǎng)絡(luò)邪乍，這樣就不會過分貼合訓(xùn)練數(shù)據(jù)降狠，導(dǎo)致泛化能力差
1371536939785_.pic_hd.jpg
9 什么是深度學習
- 基于
深度神經(jīng)網(wǎng)絡(luò) 的學習研究稱之為深度學習- 隱藏層大于兩個
1391536940676_.pic_hd.jpg
9-1 深度學習為什么興起
- 大數(shù)據(jù)： 全球每天產(chǎn)生海量數(shù)據(jù)对竣，大公司更是”大權(quán)在握“
- 強計算力：云計算、GPU榜配、越來越強的CPU
- 復(fù)雜模型：一般來說隱藏層越多否纬，效果越好
- 理論算法的豐富
1411536941096_.pic.jpg
深度學習的形象比喻：戀愛
- 第一階段 初戀期：相當于神經(jīng)網(wǎng)絡(luò)的
輸入層。不同的參數(shù)設(shè)置- 第二階段 磨合期：相當于神經(jīng)網(wǎng)絡(luò)的
隱藏層蛋褥。調(diào)整參數(shù)權(quán)重1 女友喜歡逛街烦味，調(diào)高逛街的權(quán)重（重要性）
2 女友喜歡榴蓮味的蛋糕，此蛋糕權(quán)重調(diào)高
3 經(jīng)過一段時間的調(diào)節(jié)壁拉，女友說你變好了不少，開心
- 在神經(jīng)網(wǎng)絡(luò)里正向傳播參數(shù)信號柏靶，經(jīng)過隱藏層處理弃理，輸出結(jié)果
- 計算和預(yù)期的差距（誤差），通過
BP算法反向傳播誤差屎蜓，調(diào)整(Tuning)網(wǎng)絡(luò)參數(shù)權(quán)重(Weight)- 不斷地進行： 正向傳播 --> 計算誤差 --> 反向傳播 --> 調(diào)整權(quán)重
- 第三階段 穩(wěn)定期：相當于神經(jīng)網(wǎng)絡(luò)的
輸出層痘昌。輸出結(jié)果與預(yù)期比較- 最終結(jié)果：
- 磨合的好：結(jié)婚（神經(jīng)網(wǎng)絡(luò)模型合格）
- 磨合不好：分開（神經(jīng)網(wǎng)絡(luò)模型不合格）
- 其實不僅有調(diào)參，還涉及到模型的調(diào)整
1431536941462_.pic.jpg
