超平面的數(shù)學(xué)基礎(chǔ)知識

  • 超平面的相關(guān)知識是學(xué)習SVM算法的數(shù)學(xué)基礎(chǔ)饱亿。當初為了弄清楚超平面的全面知識,在網(wǎng)絡(luò)上搜尋良久都沒找到詳細的講解怨绣,最終是一篇英文講義救了急整胃。
  • 我做了中文筆記分享出來颗圣,希望能幫助到大家(英文講義鏈接就不分享啦,怕文章被封禁><)屁使。
  • ps: 學(xué)習超平面相關(guān)知識需要了解向量的基礎(chǔ)知識在岂,包括但不限于向量的點積、向量的夾角等蛮寂。

1. 定義

  1. 超平面是指在n維空間中蔽午,余維度為1的子空間,即超平面是n維空間中的n-1維的子空間酬蹋。
  2. 特別的有及老,2維空間的超平面就是一條線;3維空間的超平面則是一個平面范抓。

2. 公式

  1. 假設(shè)存在n維空間骄恶,則位于其超平面的數(shù)據(jù)點(x \in \mathbb{R^n})滿足該條件:\theta_0 + \theta_1 x_1+ \theta_2 x_2 + \theta_3 x_3...+ \theta_n x_n=0
    1. \theta_0是某個常數(shù),當\theta_0 = 0時尉咕,超平面經(jīng)過原點叠蝇。
    2. 當兩個超平面除了\theta_0之外璃岳,其余參數(shù)均相等年缎,則兩個超平面相互平行。

3. 法向量

  1. 法向量(normal vector)垂直于超平面铃慷,決定了超平面的方向单芜。
    \vec{\theta}= \{\theta_1,\theta_2,\theta_3,...\theta_n\}
    1. 任何與法向量點積為0的向量亦平行于該超平面。
    2. 法向量等于兩個不同方向的平行向量的叉積犁柜,即\vec{\theta} = \vec{a} * \vec洲鸠
      image.png

4. 點到超平面的距離s:

  1. 點到超平面的垂直距離s可以認為是點x_0與超平面上任意一點x_1構(gòu)成的向量\vec{h}與標準化法向量\frac{\vec{\theta}}{||\vec{\theta}||}的點積馋缅,即該向量在標準化法向量上的映射扒腕。
  2. s為正,則該點位于超平面的正面萤悴;s為負瘾腰,則位于另一面。
    s = \vec{h} \cdot \frac{\vec{\theta}}{||\vec{\theta}||} =\frac{(\vec{\theta} \cdot x_0 + \theta_0)}{||\vec{\theta}||}
    image.png

5. 點到超平面的映射

  1. x_0到超平面的映射(Orthogonal Projection)即為點q覆履,等于點x_0與超平面上任意一點x_1構(gòu)成的向量\vec{h}減去點到超平面的距離向量s \cdot \frac{\vec{\theta}}{||\vec{\theta}||}蹋盆,化簡之后可以得到:
    x_0^{projection} = \vec{h}- s \cdot \frac{\vec{\theta}}{||\vec{\theta}||}=x_0 - \frac{\theta \cdot (\theta \cdot x_0+\theta_0)}{||\vec{\theta}||^2}
    image.png

6. 超平面之間的夾角

  1. 超平面的夾角等于法向量的夾角费薄。
    \alpha = cos^{-1}(\frac{\vec{\theta_1} \cdot \vec{\theta_2}}{||\vec{\theta_1}|| \cdot ||\vec{\theta_2}||})
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市栖雾,隨后出現(xiàn)的幾起案子楞抡,更是在濱河造成了極大的恐慌,老刑警劉巖析藕,帶你破解...
    沈念sama閱讀 218,682評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件召廷,死亡現(xiàn)場離奇詭異,居然都是意外死亡账胧,警方通過查閱死者的電腦和手機柱恤,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,277評論 3 395
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來找爱,“玉大人梗顺,你說我怎么就攤上這事〕瞪悖” “怎么了寺谤?”我有些...
    開封第一講書人閱讀 165,083評論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長吮播。 經(jīng)常有香客問我变屁,道長,這世上最難降的妖魔是什么意狠? 我笑而不...
    開封第一講書人閱讀 58,763評論 1 295
  • 正文 為了忘掉前任粟关,我火速辦了婚禮,結(jié)果婚禮上环戈,老公的妹妹穿的比我還像新娘闷板。我一直安慰自己,他們只是感情好院塞,可當我...
    茶點故事閱讀 67,785評論 6 392
  • 文/花漫 我一把揭開白布遮晚。 她就那樣靜靜地躺著,像睡著了一般拦止。 火紅的嫁衣襯著肌膚如雪县遣。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,624評論 1 305
  • 那天汹族,我揣著相機與錄音萧求,去河邊找鬼。 笑死顶瞒,一個胖子當著我的面吹牛夸政,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播搁拙,決...
    沈念sama閱讀 40,358評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼秒梳,長吁一口氣:“原來是場噩夢啊……” “哼法绵!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起酪碘,我...
    開封第一講書人閱讀 39,261評論 0 276
  • 序言:老撾萬榮一對情侶失蹤朋譬,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后兴垦,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體徙赢,經(jīng)...
    沈念sama閱讀 45,722評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,900評論 3 336
  • 正文 我和宋清朗相戀三年探越,在試婚紗的時候發(fā)現(xiàn)自己被綠了狡赐。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,030評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡钦幔,死狀恐怖枕屉,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情鲤氢,我是刑警寧澤搀擂,帶...
    沈念sama閱讀 35,737評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站卷玉,受9級特大地震影響哨颂,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜相种,卻給世界環(huán)境...
    茶點故事閱讀 41,360評論 3 330
  • 文/蒙蒙 一威恼、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧寝并,春花似錦箫措、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,941評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至别渔,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間惧互,已是汗流浹背哎媚。 一陣腳步聲響...
    開封第一講書人閱讀 33,057評論 1 270
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留喊儡,地道東北人拨与。 一個月前我還...
    沈念sama閱讀 48,237評論 3 371
  • 正文 我出身青樓,卻偏偏與公主長得像艾猜,于是被迫代替她去往敵國和親买喧。 傳聞我的和親對象是個殘疾皇子捻悯,可洞房花燭夜當晚...
    茶點故事閱讀 44,976評論 2 355