? ? ? ?早期概率史上三部里程碑性質(zhì)的著作為赚导，伯努利的《推測術(shù)》茬缩，棣莫弗的《機遇論》，以及拉普拉斯的《概率分析理論》吼旧。最近為了碼數(shù)理統(tǒng)計大作業(yè)凰锡，略讀一二，今天來講講伯努利的《推測術(shù)》圈暗。

? ? ? ?伯努利家族在數(shù)學(xué)史上的貢獻大家是有目共睹掂为，至少有12人對數(shù)學(xué)的各方面做出不同的貢獻，其中5人在概率方面员串，最為杰出的可能就是以名字命名大數(shù)定律的伯努利勇哗。

Bernoulli's law of large numbers

? ? ? ?早期的概率論的著作，多是討論具體的賭博取勝的概率寸齐，而伯努利在《推測術(shù)》的前三部分中更為系統(tǒng)地研究了古典概率欲诺，更注重計算的一般規(guī)律和數(shù)學(xué)證明抄谐。將賭局中投擲骰子事件重復(fù)獨立性明確的進行了指出，如今符合這種條件的也被稱為伯努利概型扰法。而我們?nèi)缃裨谂帕薪M合中運用頻繁的“排列”也是伯努利在書中首次提出蛹含。

? ? ? ?當(dāng)然，這種乏味無趣的數(shù)學(xué)證明并不是我今天要講的重點塞颁，今天的重點主要是書中伯努利對于概率這個捉摸不透的東西如何看待的浦箱，以及眾所周知的大數(shù)定律是如何解釋著世界的，也就是《推測術(shù)》這本書最為精彩的第4部分祠锣。

概率

? ? ? ?和大多數(shù)數(shù)學(xué)家一樣酷窥，伯努利一開始也是把概率分為主觀概率和客觀概率。

? ? ? ?所謂主觀概率伴网，就是人主觀地對事件發(fā)生可能性的估計竖幔，比如看著陰雨密布，我說“十有八九要下雨”是偷，這里“十有八九”中的"0.8~0.9"并不是一個客觀的數(shù)字拳氢，更多的是基于我的主觀判斷得出的結(jié)論。

? ? ? ?而對于客觀概率蛋铆，則更多的與概率論以及數(shù)理統(tǒng)計的內(nèi)容掛鉤馋评。伯努利把客觀概率分為兩類，一是“可以先驗地計算的概率”刺啦，二是“后驗地計算的概率”留特。（注：這里的先驗和后驗和Bayes統(tǒng)計中的先驗和后驗不同，注意區(qū)分）玛瘸。

? ? ? ?前者用現(xiàn)在的術(shù)語也就是古典概率蜕青，其計算的根據(jù)建立在由事物的對稱性而得到的先驗的事實，這種事實保證了等可能性糊渊，如投擲一個均勻的骰子右核，每個點數(shù)朝上的可能性為。

? ? ? ?后者用現(xiàn)在的術(shù)語也就是統(tǒng)計概率渺绒，通俗地來講也就是常說的“用頻率去估計概率”贺喝， 要通過大量觀察結(jié)果計算，也就是數(shù)理統(tǒng)計中大樣本統(tǒng)計的問題宗兼。

機械決定論

? ? ? ?伯努利對于所有事物的發(fā)生都采取了一種機械決定論的觀點：世界上的一切事物都受到嚴格的因果律的支配躏鱼。比如，以投擲骰子為例，伯努利認為：如果一切有關(guān)條件，包括骰子的形狀大小拓哟、質(zhì)量分布浙滤、投擲的初始位置茶行、投擲的方向與力度贸呢、以及投擲時刻的所有的環(huán)境條件全給定弄準了，那么投擲結(jié)果就確定了拢军，因此并沒有隨機性可言楞陷。（大名鼎鼎的拉普拉斯也采取這個觀點）。他們對于隨機性的解釋為茉唉，投擲的結(jié)果對于有關(guān)的條件極其敏感固蛾，條件的極其微小的改變就足以影響結(jié)果，所以才造成的隨機性度陆。

? ? ? ?其實艾凯，結(jié)合物理學(xué)中海森堡的不確定性原理（Uncertainty principle），我們也可以顯然地得出懂傀，由于我們無法把位置和速度同時測準趾诗，所以投擲骰子這件事情的條件永遠不能確定，因此仍然具有的隨機性蹬蚁。但是在17世紀的當(dāng)時恃泪，伯努利的這個看法也是受很多哲學(xué)家對世界當(dāng)時的認知的影響。雖然這個觀點是過時的犀斋，但是仍在當(dāng)初有著重大的意義贝乎。

道德確定性

? ? ?《推測術(shù)》一書對概率統(tǒng)計影響深遠的另一原因，就是伯努利引進了所謂“道德確定性”的概念（Moral certainty）叽粹。

? ? ? ? 若一個事件览效，我們無法確定其能一定能發(fā)生，但是它能被認定以極大的可能性不會不發(fā)生虫几，則稱它有道德確定性锤灿，簡言之，即概率接近1的事件辆脸。但是往往但校，我們無法判斷一件事情多確定會發(fā)生，即概率接近1到什么程度每强，所以伯努利研究其反面始腾，即概率很接近0的事件，我們可以稱是“道德否定”的空执。

? ? ? ?這個概念對后世數(shù)理統(tǒng)計學(xué)有著重大的影響。在進行統(tǒng)計推斷中穗椅，我們不可能100%不出錯辨绊，所以我們指定一個很小的數(shù)alpha>0，而使得做出推斷出錯的概率不超過alpha匹表，于是推斷出錯這個事件门坷，發(fā)生的概率不超過很小的數(shù)alpha宣鄙，在這次推斷中”道德確定地“不可能發(fā)生，因而我們就相信所做的推斷的可靠性默蚌。在區(qū)間估計中冻晤，這個alpha就是置信水平1-alpha中的alpha，在假設(shè)檢驗中也就是顯著性水平绸吸。

? ? ? ?現(xiàn)今鼻弧，我們把伯努利定義的“道德確定性”稱為“事實上的確定性“（Practical certainty），而這種“小概率事件在一次試驗中極有可能不發(fā)生”的觀點稱為”小概率事件原理“锦茁，我們生活中無處不在運用著這個原理攘轩。

同等無知原則

? ? ? ?伯努利在《推測術(shù)》一書中也提出一個對于后世數(shù)理統(tǒng)計學(xué)發(fā)展有重大影響的一個思想，也就是在Bayes統(tǒng)計中對先驗分布的選取的一個重要的原則码俩，就是同等無知原則（后世學(xué)者的命名）度帮。

? ? ? ?伯努利將古典概率中的“等可能性”的思想推廣到主觀概率的場合。他認為如果沒有任何理由認為某種可能性比其他可能性有優(yōu)勢的時候稿存，我們應(yīng)給予這些可能性以同等的主觀概率笨篷，也就好比先驗分布取均勻分布。貝葉斯逝去后公之于世的論文就是基于這個思想瓣履，最后發(fā)展為貝葉斯學(xué)派冕屯，與傳統(tǒng)的頻率學(xué)派對立至今。

伯努利大數(shù)定律

? ? ? ?碼了這么多拂苹，最后到了這個最精彩的最美麗的定律安聘，伯努利大數(shù)定律。對于這個定律以及伯努利當(dāng)時的想法與證明也不在此贅述瓢棒，伯努利當(dāng)時的證明較為復(fù)雜浴韭，并且在當(dāng)時，伯努利希望能夠研究出最小試驗次數(shù)N以及精度epsilon之間的聯(lián)系脯宿，但是當(dāng)時伯努利計算出來的N=25550念颈，雖然相比切比雪夫不等式計算出來的N=600600小很多，但是在當(dāng)時社會25550仍然是個天文數(shù)字连霉，伯努利對此很不滿意榴芳，之后也得到了很多學(xué)者的關(guān)注和研究，在此也不再多言跺撼。

? ? ? ?伯努利工作的最大的意義還是在于大數(shù)定律對于哲學(xué)的影響窟感，因為伯努利證明了：

? 數(shù)學(xué)家不僅可以后驗地認識世界，還可以用數(shù)學(xué)去估量他們的知識的限度歉井。

? ? ? ?在《推測術(shù)》一書結(jié)尾柿祈，伯努利也如此評價自己得到的結(jié)果：

? ? ? 如果我們能把一切事件永恒地觀察下去，則我們終將發(fā)現(xiàn)：世間的一切事物都受到因果律的支配，而我們也注定會在種種極其紛紜雜亂的事象中認識到某種必然躏嚎。

? ? ? ?大數(shù)定律告訴我們蜜自，縱使世界萬象變化萬千，人類總能通過實驗去認知自然界的奧秘卢佣，但是我們也能看出重荠，自然界不會輕易揭開它的面紗。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 2016.6.5下午 讀《數(shù)理統(tǒng)計學(xué)簡史》后的即興亂寫虚茶，望讀者見諒