一哼勇、概念梳理
1.1數(shù)學(xué)概念
? ? 標(biāo)量：一個(gè)單獨(dú)的數(shù)
? ? 向量：一列數(shù)
? ? 矩陣：二維數(shù)組
? ? 張量：超過(guò)兩維的數(shù)組
1.2 矩陣操作及性質(zhì)
? ? 轉(zhuǎn)置：以主對(duì)角線為軸的鏡像A
? ? ? ? ? ? ? ? 標(biāo)量轉(zhuǎn)置等于它本身
????廣播：將一個(gè)行向量和矩陣的每一行相加（或?qū)⒁粋€(gè)列向量和矩陣的每一列相加）
????矩陣乘積：普通矩陣乘法（矩陣乘法符合分配律、結(jié)合律，向量點(diǎn)積滿足交換律）
????矩陣Hadamard乘積（元素對(duì)應(yīng)乘積）：兩個(gè)矩陣中對(duì)應(yīng)元素的乘積
1.3矩陣逆的相關(guān)定義及操作
? ? 單位矩陣：主對(duì)角線元素為1，其余元素為0，任何矩陣和單位矩陣相乘都不會(huì)改變
? ??矩陣的逆：用以實(shí)現(xiàn)矩陣除法功能的一種工具（所有列向量線性無(wú)關(guān)的方陣）
? ? 奇異矩陣：列向量線性相關(guān)的方陣
1.4 矩陣的范數(shù)：
當(dāng)機(jī)器學(xué)習(xí)中0和非0（例如非零但是很小的元素）元素之間的差異非常重要時(shí)，通常使用L^1范數(shù)
F范數(shù)常用來(lái)衡量矩陣的大小。
1.5 一些特殊的矩陣：
? ? 對(duì)角矩陣：對(duì)角矩陣的乘法計(jì)算很高效弓千；計(jì)算對(duì)角方陣的逆也很高效。
? ? 對(duì)陣矩陣：轉(zhuǎn)置和自己本身相等的矩陣卓缰。例如距離度量矩陣计呈，因?yàn)榫嚯x函數(shù)是對(duì)稱(chēng)的。
? ? 正交矩陣：行向量和列向量分別是標(biāo)準(zhǔn)正交的方陣征唬。求逆計(jì)算代價(jià)小捌显。
1.6 特征分解：將矩陣分解為一組特征向量和特征值
1.7奇異值分解（1、2）：非方陣沒(méi)有特征值分解总寒，而所有實(shí)數(shù)矩陣都有一個(gè)奇異值分解
1.8 跡運(yùn)算：矩陣對(duì)角元素的和
二扶歪、概念應(yīng)用
2.1? 主成分分析：以上原理的推導(dǎo)和應(yīng)用（待續(xù)）
參考：
https://zhuanlan.zhihu.com/p/38665458
https://zhuanlan.zhihu.com/p/35076333
