多分類問題的引入：識(shí)別手寫數(shù)字。首先將數(shù)字圖片轉(zhuǎn)換為灰度圖像睛竣，將20＊20分辨率的圖像生成400維的向量，標(biāo)簽則為0～9求摇，考慮兼容性可將0映射為10射沟。然后可以采用邏輯回歸殊者，神經(jīng)網(wǎng)絡(luò)等監(jiān)督學(xué)習(xí)算法。
計(jì)算參數(shù)向量可以采用梯度下降算法或fminunc函數(shù)验夯，都需要計(jì)算代價(jià)函數(shù)和梯度的表達(dá)式猖吴。防止過擬合需要加上正則化表達(dá)式。theta0為截距不需要正則化挥转，所以寫帶正則化的代價(jià)函數(shù)和梯度時(shí)要注意海蔽。向量化替代循環(huán)，可用線性代數(shù)維度檢查绑谣。
多分類邏輯回歸的處理方式：采用一對(duì)多的方式党窜，訓(xùn)練出多個(gè)回歸模型，最終選取輸出最大值的模型作為其分類模型借宵。采用針對(duì)大樣本更加高效的fmincg函數(shù)求出最小值參數(shù)向量幌衣。
設(shè)計(jì)求隨機(jī)序列中第k小數(shù)字的算法：針對(duì)每個(gè)數(shù)字遍歷序列進(jìn)行比較；采用歸并排序的方法排列序列然后取索引值壤玫。
感知器豁护，神經(jīng)網(wǎng)絡(luò)算法的表達(dá)式，采用sigmoid激勵(lì)函數(shù)則為多層邏輯單元欲间，向量化操作楚里，權(quán)重矩陣，前向傳播算法預(yù)測(cè)分類問題括改，注意多分類時(shí)標(biāo)簽y的向量表述腻豌。
棧線性結(jié)構(gòu)，后進(jìn)先出嘱能，特性為反轉(zhuǎn)序列，反轉(zhuǎn)字符串可采用棧實(shí)現(xiàn)：首先遍歷字符串的每一個(gè)字符虱疏，壓棧惹骂，而后當(dāng)棧不為空時(shí)不斷出棧，賦值給變量連接做瞪。
神經(jīng)網(wǎng)絡(luò)算法流程对粪，反向傳播算法求偏導(dǎo)數(shù)，代價(jià)函數(shù)装蓬，嘗試向量化計(jì)算代價(jià)函數(shù)著拭。
神經(jīng)網(wǎng)絡(luò)算法代價(jià)函數(shù)的向量化表示，配合正則化的向量化表示牍帚。
數(shù)據(jù)結(jié)構(gòu)隊(duì)列儡遮，特性先進(jìn)先出。
進(jìn)一步思考了神經(jīng)網(wǎng)絡(luò)算法的代價(jià)函數(shù)暗赶，加深了理解鄙币。
理解后向傳播算法肃叶，誤差的反向傳遞，為鏈?zhǔn)椒▌t的運(yùn)用十嘿。通過每個(gè)樣本的誤差計(jì)算其梯度矩陣因惭，累積梯度矩陣取均值作為神經(jīng)網(wǎng)絡(luò)的梯度矩陣。
22吳恩達(dá)機(jī)器學(xué)習(xí)小記
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
- 文/潘曉璐 我一進(jìn)店門宪肖，熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)表制，“玉大人，你說(shuō)我怎么就攤上這事控乾∶唇椋” “怎么了？”我有些...
- 文/不壞的土叔 我叫張陵蜕衡，是天一觀的道長(zhǎng)壤短。 經(jīng)常有香客問我，道長(zhǎng)慨仿，這世上最難降的妖魔是什么久脯？ 我笑而不...
- 正文 為了忘掉前任，我火速辦了婚禮镰吆，結(jié)果婚禮上帘撰，老公的妹妹穿的比我還像新娘。我一直安慰自己万皿，他們只是感情好摧找，可當(dāng)我...
- 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著牢硅，像睡著了一般蹬耘。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上减余，一...
- 那天综苔，我揣著相機(jī)與錄音，去河邊找鬼。 笑死休里，一個(gè)胖子當(dāng)著我的面吹牛蛆挫，可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播妙黍，決...
- 文/蒼蘭香墨 我猛地睜開眼悴侵，長(zhǎng)吁一口氣：“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼！你這毒婦竟也來(lái)了拭嫁？” 一聲冷哼從身側(cè)響起可免，我...
- 序言：老撾萬(wàn)榮一對(duì)情侶失蹤，失蹤者是張志新（化名）和其女友劉穎做粤，沒想到半個(gè)月后浇借，有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體，經(jīng)...
- 正文 獨(dú)居荒郊野嶺守林人離奇死亡怕品，尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
- 正文 我和宋清朗相戀三年妇垢，在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片肉康。...
- 正文 年R本政府宣布炫乓，位于F島的核電站刚夺，受9級(jí)特大地震影響，放射性物質(zhì)發(fā)生泄漏末捣。R本人自食惡果不足惜侠姑，卻給世界環(huán)境...
- 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望塔粒。 院中可真熱鬧结借，春花似錦、人聲如沸卒茬。這莊子的主人今日做“春日...
- 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)圃酵。三九已至，卻和暖如春馍管，著一層夾襖步出監(jiān)牢的瞬間郭赐，已是汗流浹背。 一陣腳步聲響...
- 正文 我出身青樓，卻偏偏與公主長(zhǎng)得像观谦，于是被迫代替她去往敵國(guó)和親拉盾。 傳聞我的和親對(duì)象是個(gè)殘疾皇子，可洞房花燭夜當(dāng)晚...
推薦閱讀更多精彩內(nèi)容
- 101.深度學(xué)習(xí)（CNN RNN Attention）解決大規(guī)模文本分類問題豁状。 用深度學(xué)習(xí)（CNN RNN Att...
- 第二個(gè)Topic講深度學(xué)習(xí)捉偏，承接前面的《淺談機(jī)器學(xué)習(xí)基礎(chǔ)》。 深度學(xué)習(xí)簡(jiǎn)介 前面也提到過泻红，機(jī)器學(xué)習(xí)的本質(zhì)就是尋找最...
- 今天下午剛看完夭禽，看的時(shí)候就一直再想，西游記都演了這么多年了谊路，這幾年基本每年都會(huì)出一部新的作品吧讹躯！那這一次導(dǎo)演們又會(huì)...
- 玉雕是中國(guó)最古老的雕刻品種之一沃饶。商周時(shí)期，制玉成為一種專業(yè)轻黑，玉器成了禮儀用具和裝飾佩件糊肤。 玉雕的品種很多，主要有人...
