一沿盅、統(tǒng)計學的基本概念
統(tǒng)計學里最基本的概念就是樣本的均值、方差单旁、標準差。首先饥伊，我們給定一個含有n個樣本的集合象浑，下面給出這些概念的公式描述：
均值：
標準差：
方差：
均值描述的是樣本集合的中間點，它告訴我們的信息是有限的琅豆，而標準差給我們描述的是樣本集合的各個樣本點到均值的距離之平均愉豺。
以這兩個集合為例，[0, 8, 12, 20]和[8, 9, 11, 12]茫因，兩個集合的均值都是10蚪拦，但顯然兩個集合的差別是很大的，計算兩者的標準差冻押，前者是8.3后者是1.8驰贷，顯然后者較為集中，故其標準差小一些洛巢，標準差描述的就是這種“散布度”括袒。之所以除以n-1而不是n，是因為這樣能使我們以較小的樣本集更好地逼近總體的標準差稿茉，即統(tǒng)計上所謂的“無偏估計”锹锰。而方差則僅僅是標準差的平方。
二漓库、為什么需要協(xié)方差
標準差和方差一般是用來描述一維數(shù)據(jù)的恃慧，但現(xiàn)實生活中我們常常會遇到含有多維數(shù)據(jù)的數(shù)據(jù)集，最簡單的是大家上學時免不了要統(tǒng)計多個學科的考試成績米苹。面對這樣的數(shù)據(jù)集糕伐，我們當然可以按照每一維獨立的計算其方差，但是通常我們還想了解更多蘸嘶，比如良瞧，一個男孩子的猥瑣程度跟他受女孩子的歡迎程度是否存在一些聯(lián)系陪汽。協(xié)方差就是這樣一種用來度量兩個隨機變量關(guān)系的統(tǒng)計量，我們可以仿照方差的定義：
來度量各個維度偏離其均值的程度褥蚯，協(xié)方差可以這樣來定義：
協(xié)方差的結(jié)果有什么意義呢挚冤？如果結(jié)果為正值，則說明兩者是正相關(guān)的（從協(xié)方差可以引出“相關(guān)系數(shù)”的定義）赞庶，也就是說一個人越猥瑣越受女孩歡迎训挡。如果結(jié)果為負值， 就說明兩者是負相關(guān)歧强，越猥瑣女孩子越討厭澜薄。如果為0，則兩者之間沒有關(guān)系摊册，猥瑣不猥瑣和女孩子喜不喜歡之間沒有關(guān)聯(lián)肤京，就是統(tǒng)計上說的“相互獨立”。
從協(xié)方差的定義上我們也可以看出一些顯而易見的性質(zhì)茅特，如：
三忘分、協(xié)方差矩陣
前面提到的猥瑣和受歡迎的問題是典型的二維問題，而協(xié)方差也只能處理二維問題白修，那維數(shù)多了自然就需要計算多個協(xié)方差妒峦，比如n維的數(shù)據(jù)集就需要計算個協(xié)方差，那自然而然我們會想到使用矩陣來組織這些數(shù)據(jù)兵睛。給出協(xié)方差矩陣的定義：
這個定義還是很容易理解的肯骇，我們可以舉一個三維的例子，假設(shè)數(shù)據(jù)集有三個維度卤恳，則協(xié)方差矩陣為：
可見累盗，協(xié)方差矩陣是一個對稱的矩陣，而且對角線是各個維度的方差突琳。
四若债、Matlab協(xié)方差實戰(zhàn)
必須要明確一點，協(xié)方差矩陣計算的是不同維度之間的協(xié)方差拆融，而不是不同樣本之間的蠢琳。以下的演示將使用Matlab，為了說明計算原理镜豹，不直接調(diào)用Matlab的cov函數(shù)：
首先傲须，隨機生成一個10*3維的整數(shù)矩陣作為樣本集，10為樣本的個數(shù)趟脂，3為樣本的維數(shù)泰讽。
圖 1 使用Matlab生成樣本集
根據(jù)公式，計算協(xié)方差需要計算均值，前面特別強調(diào)了已卸，協(xié)方差矩陣是計算不同維度之間的協(xié)方差佛玄，要時刻牢記這一點。樣本矩陣的每行是一個樣本累澡，每列是一個維度梦抢，因此我們要按列計算均值。為了描述方便愧哟，我們先將三個維度的數(shù)據(jù)分別賦值：
圖 2 將三個維度的數(shù)據(jù)分別賦值
計算dim1與dim2奥吩，dim1與dim3，dim2與dim3的協(xié)方差：
圖 3 計算三個協(xié)方差
協(xié)方差矩陣的對角線上的元素就是各個維度的方差蕊梧，下面我們依次計算這些方差：
圖 4 計算對角線上的方差
這樣霞赫，我們就得到了計算協(xié)方差矩陣所需要的所有數(shù)據(jù)，可以調(diào)用Matlab的cov函數(shù)直接得到協(xié)方差矩陣：
圖 5 使用Matlab的cov函數(shù)直接計算樣本的協(xié)方差矩陣
計算的結(jié)果肥矢，和之前的數(shù)據(jù)填入矩陣后的結(jié)果完全相同绩脆。
五、總結(jié)
理解協(xié)方差矩陣的關(guān)鍵就在于牢記它的計算是不同維度之間的協(xié)方差橄抹，而不是不同樣本之間。拿到一個樣本矩陣惕味，最先要明確的就是一行是一個樣本還是一個維度楼誓，心中明確整個計算過程就會順流而下，這么一來就不會迷茫了名挥。
