閱讀李航博士的《統(tǒng)計學(xué)習(xí)方法》，非線性支持向量機中關(guān)于核技巧的知識中說：
核技巧應(yīng)用到支持向量機蝙砌，其基本想法就是通過一個非線性變換將輸入空間(歐式空間R^{n}或離散集合)對應(yīng)于一個特征空間(希爾伯特空間\mathcal{H}氯材，使得在輸入空間R^{n}中的超曲面模型對應(yīng)于特征空間\mathcal{H}的超平面模型(支持向量機)。這樣，分類問題的學(xué)習(xí)任務(wù)通過在特征空間中求解線性支持向量機就可以完成。
其中降瞳，提及希爾伯特空間，查閱相關(guān)論壇力崇，看到知乎上有一個比較精辟的解釋斗塘，摘錄如下：
什么是賦范線性空間、內(nèi)積空間馍盟，度量空間，希爾伯特空間 茧吊？ 現(xiàn)代數(shù)學(xué)的一個特點就是以集合為研究對象，這樣的好處就是可以將很多不同問題的本質(zhì)抽象出來搓侄，變成同一個問題瞄桨，當(dāng)然這樣的壞處就是描述起來比較抽象讶踪，很多人就難以理解了芯侥。
既然是研究集合，每個人感興趣的角度不同柱查，研究的方向也就不同。為了能有效地研究集合云石，必須給集合賦予一些“結(jié)構(gòu)”（從一些具體問題抽象出來的結(jié)構(gòu)）。
從數(shù)學(xué)的本質(zhì)來看汹忠，最基本的集合有兩類：線性空間（有線性結(jié)構(gòu)的集合）淋硝、度量空間（有度量結(jié)構(gòu)的集合）宽菜。
對線性空間而言谣膳，主要研究集合的描述铅乡，直觀地說就是如何清楚地告訴地別人這個集合是什么樣子继谚。為了描述清楚，就引入了基（相當(dāng)于三維空間中的坐標(biāo)系）的概念犬庇，所以對于一個線性空間來說僧界，只要知道其基即可侨嘀，集合中的元素只要知道其在給定基下的坐標(biāo)即可捂襟。
但線性空間中的元素沒有“長度”（相當(dāng)于三維空間中線段的長度）咬腕，為了量化線性空間中的元素，所以又在線性空間引入特殊的“長度”葬荷，即范數(shù)涨共。賦予了范數(shù)的線性空間即稱為賦犯線性空間纽帖。
但賦范線性空間中兩個元素之間沒有角度的概念举反，為了解決該問題懊直，所以在線性空間中又引入了內(nèi)積的概念火鼻。
因為有度量室囊，所以可以在度量空間、賦范線性空間以及內(nèi)積空間中引入極限融撞，但抽象空間中的極限與實數(shù)上的極限有一個很大的不同就是，極限點可能不在原來給定的集合中粗蔚，所以又引入了完備的概念，完備的內(nèi)積空間就稱為Hilbert空間鹏控。
這幾個空間之間的關(guān)系是：
線性空間與度量空間是兩個不同的概念致扯，沒有交集牧挣。
賦范線性空間就是賦予了范數(shù)的線性空間急前，也是度量空間（具有線性結(jié)構(gòu)的度量空間）瀑构；
內(nèi)積空間是賦范線性空間加上角度的概念裆针；
希爾伯特空間就是完備的內(nèi)積空間。
轉(zhuǎn)自：如何理解希爾伯特空間世吨？ - 知乎
