1 貝葉斯方法 長久以來氢惋,人們對(duì)一件事情發(fā)生或不發(fā)生的概率吞瞪,僅僅有固定的0和1偷拔,即要么發(fā)生廓块,要么不發(fā)生。假設(shè)問那時(shí)的人們一個(gè)問題:“有一個(gè)袋子买决,里面裝著若干個(gè)白球和黑球沛婴,請(qǐng)問...
![240](https://cdn2.jianshu.io/assets/default_avatar/5-33d2da32c552b8be9a0548c7a4576607.jpg?imageMogr2/auto-orient/strip|imageView2/1/w/240/h/240)
1 貝葉斯方法 長久以來氢惋,人們對(duì)一件事情發(fā)生或不發(fā)生的概率吞瞪,僅僅有固定的0和1偷拔,即要么發(fā)生廓块,要么不發(fā)生。假設(shè)問那時(shí)的人們一個(gè)問題:“有一個(gè)袋子买决,里面裝著若干個(gè)白球和黑球沛婴,請(qǐng)問...
0 解析幾何知識(shí), 點(diǎn)到平面的距離 參考材料 如圖, 假設(shè)一個(gè)平面 , 平面外一點(diǎn) , 在平面上的投影為, 求點(diǎn)到平面的距離即求 我們可以知道平面的法向量為, 則這個(gè)法向量...
序 SVM是面試中常問的模型之一,本次記錄一下應(yīng)對(duì)面試時(shí)SVM如何進(jìn)行較為清晰和簡潔的推導(dǎo) SVM面試級(jí)推導(dǎo)(自寫) 以上是基礎(chǔ)的推導(dǎo)總結(jié)督赤,后續(xù)博客記錄一下零碎的問題以及分析...
之前面試的時(shí)候被問到論文里的算法嘁灯,SVM和LS的優(yōu)化,都沒答出來躲舌,面試自然是涼涼旁仿。和平時(shí)實(shí)驗(yàn)室組會(huì)的關(guān)注點(diǎn)不一定,組會(huì)看程序結(jié)果孽糖,使用的時(shí)候直接調(diào)包枯冈,或者按照論文里的偽代碼...
前言最近發(fā)現(xiàn)自己的基礎(chǔ)知識(shí)不夠扎實(shí),面對(duì)別人的問題總是“知其然不知其所以然”办悟。出現(xiàn)這個(gè)問題的朋友周圍有很多尘奏,大多數(shù)人都是“拿來主義”,想著“有了開源庫病蛉,有了函數(shù)包炫加,只要會(huì)用就...
01 SVM - 概述 自變量無約束的求極值方法 - 梯度下降法 10 回歸算法 - 梯度下降在線性回歸中的應(yīng)用11 回歸算法 - BGD、SGD铺然、MBGD梯度下降12 回歸...
SVM(Support Vector Machine俗孝,支持向量機(jī))是最經(jīng)典的分類算法,本文主要整理(為了應(yīng)付考試)SVM的推導(dǎo)方式魄健,不包含SMO算法求解最后的約束赋铝。 借鑒博客...
之前整理過一篇關(guān)于邏輯回歸的帖子,但是只是簡單介紹了一下了LR的基本思想沽瘦,面試的時(shí)候基本用不上革骨,那么這篇帖子就深入理解一下LR的一些知識(shí),希望能夠?qū)γ嬖囉幸欢ǖ膸椭?1析恋、邏...
1 單刀直入,先回答有必要嗎助隧? 最近和許多朋友交流筑凫,發(fā)現(xiàn)當(dāng)前機(jī)器學(xué)習(xí)應(yīng)聘時(shí),手推SVM這道題已經(jīng)越來越像快速排序一樣,成為必點(diǎn)菜了巍实。 那么滓技,手推SVM是不是必要的呢?正反雙方...
之前介紹過梯度下降法與牛頓法蔫浆,GBDT與XGBoost就與這兩種方法有關(guān)。 boosting(包括GBDT姐叁、XGBoost)是一個(gè)加法模型瓦盛,有以下優(yōu)缺點(diǎn): 優(yōu)點(diǎn):? 可解釋性...
概述 GBDT(Gradient Boosting Decision Tree) 又叫 MART(Multiple Additive Regression Tree),是一種...
作者:Poll的筆記博客:http://www.cnblogs.com/maybe2030/p/4585705.html 1外潜、什么是隨機(jī)森林 作為新興起的原环、高度靈活的一種機(jī)器...
邏輯回歸 邏輯回歸到底是分類還是回歸?它是經(jīng)典的二分類算法 機(jī)器學(xué)習(xí)算法選擇:先邏輯回歸再用復(fù)雜的处窥,能簡單的還是用簡單的嘱吗。 邏輯回歸的決策邊界:可以是非線性的。 激活函數(shù):s...
內(nèi)容 一滔驾、Adaboost簡介 二谒麦、Adaboost算法過程 三、Adaboost算法的訓(xùn)練誤差分析 四哆致、Adaboost算法的解釋 五绕德、提升樹 六、詳細(xì)理解“梯度提升算法”...
我們最終是想要求出最大間隔超平面摊阀, 所以需要計(jì)算出約束條件下的 w和b 這兩個(gè)參數(shù)耻蛇,進(jìn)而得到最大間隔超平面的表達(dá)式 求解方法是將原問題轉(zhuǎn)化為其對(duì)偶問題進(jìn)行求解, 這個(gè)過程分為...