1. 線性代數(shù) (Linear Algebra):
Introduction to Linear Algebra by Gilbert Strang.
http://math.mit.edu/~gs/linearalgebra/
這本書是MIT的線性代數(shù)課使用的教材绕娘,也是被很多其它大學(xué)選用的經(jīng)典教材役电。它的難度適中惰聂,講解清晰蜘腌,重要的是對(duì)許多核心的概念討論得比較透徹。我個(gè)人覺得宗兼,學(xué)習(xí)線性代數(shù)氯檐,最重要的不是去熟練矩陣運(yùn)算和解方程的方法——這些在實(shí)際工作中MATLAB可以代勞,關(guān)鍵的是要深入理解幾個(gè)基礎(chǔ)而又重要的概念:子空間(Subspace)寂玲,正交(Orthogonality)塔插,特征值和特征向量(Eigenvalues and eigenvectors),和線性變換(Linear transform)拓哟。從我的角度看來想许,一本線代教科書的質(zhì)量,就在于它能否給這些根本概念以足夠的重視断序,能否把它們的聯(lián)系講清楚流纹。Strang的這本書在這方面是做得很好的。
而且违诗,這本書有個(gè)得天獨(dú)厚的優(yōu)勢(shì)漱凝。書的作者長(zhǎng)期在MIT講授線性代數(shù)課(18.06),課程的video在MIT的Open courseware網(wǎng)站上有提供诸迟。有時(shí)間的朋友可以一邊看著名師授課的錄像茸炒,一邊對(duì)照課本學(xué)習(xí)或者復(fù)習(xí)。
http://ocw.mit.edu/OcwWeb/Mathematics/18-06Spring-2005/CourseHome/index.htm
網(wǎng)易公開課上也有
http://open.163.com/special/opencourse/daishu.html
2. 概率和統(tǒng)計(jì) (Probability and Statistics):
概率論和統(tǒng)計(jì)的入門教科書很多阵苇,我目前也沒有特別的推薦壁公。我在這里想介紹的是一本關(guān)于多元統(tǒng)計(jì)的基礎(chǔ)教科書:
Applied Multivariate Statistical Analysis (5th Ed.) by Richard A. Johnson and Dean W. Wichern
https://item.jd.com/10079649.html
這本書是我在剛接觸向量統(tǒng)計(jì)的時(shí)候用于學(xué)習(xí)的,這本書沒有特別追求數(shù)學(xué)上的深度绅项,而是以通俗易懂的方式講述主要的基本概念紊册,讀起來很舒服,內(nèi)容也很實(shí)用快耿。對(duì)于Linear regression, factor analysis, principal component analysis (PCA), and canonical component analysis (CCA)這些Learning中的基本方法也展開了初步的論述囊陡。之后就可以進(jìn)一步深入學(xué)習(xí)貝葉斯統(tǒng)計(jì)和Graphical models。一本理想的書是
Introduction to Graphical Models (draft version). by M. Jordan and C. Bishop.
我不知道這本書是不是已經(jīng)出版了(不要和Learning in Graphical Models混淆润努,那是個(gè)論文集关斜,不適合初學(xué))。這本書從基本的貝葉斯統(tǒng)計(jì)模型出發(fā)一直深入到復(fù)雜的統(tǒng)計(jì)網(wǎng)絡(luò)的估計(jì)和推斷铺浇,深入淺出痢畜,statistical learning的許多重要方面都在此書有清楚論述和詳細(xì)講解。MIT內(nèi)部可以access,至于外面丁稀,好像也是有電子版的吼拥。
3. 分析 (Analysis):
我想大家基本都在大學(xué)就學(xué)過微積分或者數(shù)學(xué)分析,深度和廣度則隨各個(gè)學(xué)校而異了线衫。這個(gè)領(lǐng)域是很多學(xué)科的基礎(chǔ)凿可,值得推薦的教科書莫過于
Principles of Mathematical Analysis, by Walter Rudin
https://item.jd.com/12509009.html
有點(diǎn)老,但是絕對(duì)經(jīng)典授账,深入透徹枯跑。缺點(diǎn)就是比較艱深——這是Rudin的書的一貫風(fēng)格,適合于有一定基礎(chǔ)后回頭去看白热。
在分析這個(gè)方向敛助,接下來就是泛函分析(Functional Analysis)。
Introductory Functional Analysis with Applications, by Erwin Kreyszig.
適合作為泛函的基礎(chǔ)教材屋确,容易切入而不失全面纳击。我特別喜歡它對(duì)于譜論和算子理論的特別關(guān)注,這對(duì)于做learning的研究是特別重要的攻臀。Rudin也有一本關(guān)于functional analysis的書焕数,那本書在數(shù)學(xué)上可能更為深刻,但是不易于上手刨啸,所講內(nèi)容和learning的切合度不如此書堡赔。
在分析這個(gè)方向,還有一個(gè)重要的學(xué)科是測(cè)度理論(Measure theory)呜投,但是我看過的書里面目前還沒有感覺有特別值得介紹的
4. 拓?fù)?(Topology):
在我讀過的基本拓?fù)鋾饔刑厣有伲蔷C合而言,我最推崇:
Topology (2nd Ed.) by James Munkres
https://item.jd.com/10057710.html
這本書是Munkres教授長(zhǎng)期執(zhí)教MIT拓?fù)湔n的心血所凝仑荐。對(duì)于一般拓?fù)鋵W(xué)(General topology)有全面介紹雕拼,而對(duì)于代數(shù)拓?fù)?Algebraic topology)也有適度的探討。此書不需要特別的數(shù)學(xué)知識(shí)就可以開始學(xué)習(xí)粘招,由淺入深啥寇,從最基本的集合論概念(很多書不屑講這個(gè))到Nagata-Smirnov Theorem和Tychonoff theorem等較深的定理(很多書避開了這個(gè))都覆蓋了。講述方式思想性很強(qiáng)洒扎,對(duì)于很多定理辑甜,除了給出證明過程和引導(dǎo)你思考其背后的原理脈絡(luò),很多令人贊嘆的亮點(diǎn)——我常讀得忘卻饑餓袍冷,不愿釋手磷醋。很多習(xí)題很有水平。
5. 流形理論 (Manifold theory):
對(duì)于拓?fù)浜头治鲇幸欢ò盐諘r(shí)胡诗,方可開始學(xué)習(xí)流形理論邓线,否則所學(xué)只能流于浮淺淌友。我所使用的書是
Introduction to Smooth Manifolds. by John M. Lee
雖然書名有introduction這個(gè)單詞,但是實(shí)際上此書涉入很深骇陈,除了講授了基本的manifold, tangent space, bundle, sub-manifold等震庭,還探討了諸如綱理論(Category theory),德拉姆上同調(diào)(De Rham cohomology)和積分流形等一些比較高級(jí)的專題你雌。對(duì)于李群和李代數(shù)也有相當(dāng)多的討論器联。行文通俗而又不失嚴(yán)謹(jǐn),不過對(duì)某些記號(hào)方式需要熟悉一下婿崭。
雖然李群論是建基于平滑流形的概念之上拨拓,不過,也可能從矩陣出發(fā)直接學(xué)習(xí)李群和李代數(shù)——這種方法對(duì)于急需使用李群論解決問題的朋友可能更加實(shí)用氓栈。而且千元,對(duì)于一個(gè)問題從不同角度看待也利于加深理解。下面一本書就是這個(gè)方向的典范:
Lie Groups, Lie Algebras, and Representations: An Elementary Introduction. by Brian C. Hall
此書從開始即從矩陣切入颤绕,從代數(shù)而非幾何角度引入矩陣?yán)钊旱母拍睢2⑼ㄟ^定義運(yùn)算的方式建立exponential mapping祟身,并就此引入李代數(shù)奥务。這種方式比起傳統(tǒng)的通過“左不變向量場(chǎng)(Left-invariant vector field)“的方式定義李代數(shù)更容易為人所接受氯葬,也更容易揭示李代數(shù)的意義。最后,也有專門的論述把這種新的定義方式和傳統(tǒng)方式聯(lián)系起來。