2021-02-01 蓄水池抽樣算法(Reservoir Sampling)

蓄水池抽樣算法(Reservoir Sampling)
應(yīng)用場景: 蓄水池抽樣一般用于海量數(shù)據(jù)不知道總數(shù)只能遍歷一次隨機(jī)抽樣問題熙含。
主要強(qiáng)調(diào):

  1. 數(shù)據(jù)流長度N很大且不可知罚缕,所以不能一次性存入內(nèi)存。
  2. 時(shí)間復(fù)雜度為O(N)怎静。
  3. 隨機(jī)選取m個(gè)數(shù)邮弹,每個(gè)數(shù)被選中的概率為m/N。

分布式蓄水池抽樣(Distributed/Parallel Reservoir Sampling)
應(yīng)用場景:一塊CPU的計(jì)算能力再強(qiáng)蚓聘,也總有內(nèi)存和磁盤IO拖他的后腿腌乡。因此為提高數(shù)據(jù)吞吐量,分布式的硬件搭配軟件是現(xiàn)在的主流或粮。如果遇到超大的數(shù)據(jù)量导饲,即使是O(N)的時(shí)間復(fù)雜度,蓄水池抽樣程序完成抽樣任務(wù)也將耗時(shí)很久。因此分布式的蓄水池抽樣算法應(yīng)運(yùn)而生渣锦。

作者:邱simple
鏈接:http://www.reibang.com/p/7a9ea6ece2af
來源:簡書
著作權(quán)歸作者所有硝岗。商業(yè)轉(zhuǎn)載請聯(lián)系作者獲得授權(quán),非商業(yè)轉(zhuǎn)載請注明出處袋毙。

參考資料:

  1. 如何海量處理數(shù)據(jù)
  2. Reservoir Sampling
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末型檀,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子听盖,更是在濱河造成了極大的恐慌胀溺,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,042評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件皆看,死亡現(xiàn)場離奇詭異仓坞,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)腰吟,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,996評論 2 384
  • 文/潘曉璐 我一進(jìn)店門无埃,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人毛雇,你說我怎么就攤上這事嫉称。” “怎么了灵疮?”我有些...
    開封第一講書人閱讀 156,674評論 0 345
  • 文/不壞的土叔 我叫張陵织阅,是天一觀的道長。 經(jīng)常有香客問我震捣,道長荔棉,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,340評論 1 283
  • 正文 為了忘掉前任伍派,我火速辦了婚禮江耀,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘诉植。我一直安慰自己祥国,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,404評論 5 384
  • 文/花漫 我一把揭開白布晾腔。 她就那樣靜靜地躺著舌稀,像睡著了一般。 火紅的嫁衣襯著肌膚如雪灼擂。 梳的紋絲不亂的頭發(fā)上壁查,一...
    開封第一講書人閱讀 49,749評論 1 289
  • 那天,我揣著相機(jī)與錄音剔应,去河邊找鬼睡腿。 笑死语御,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的席怪。 我是一名探鬼主播应闯,決...
    沈念sama閱讀 38,902評論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼挂捻!你這毒婦竟也來了碉纺?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,662評論 0 266
  • 序言:老撾萬榮一對情侶失蹤刻撒,失蹤者是張志新(化名)和其女友劉穎骨田,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體声怔,經(jīng)...
    沈念sama閱讀 44,110評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡态贤,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了醋火。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片抵卫。...
    茶點(diǎn)故事閱讀 38,577評論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖胎撇,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情殖氏,我是刑警寧澤晚树,帶...
    沈念sama閱讀 34,258評論 4 328
  • 正文 年R本政府宣布,位于F島的核電站雅采,受9級特大地震影響爵憎,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜婚瓜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,848評論 3 312
  • 文/蒙蒙 一宝鼓、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧巴刻,春花似錦愚铡、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,726評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至柠座,卻和暖如春邑雅,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背妈经。 一陣腳步聲響...
    開封第一講書人閱讀 31,952評論 1 264
  • 我被黑心中介騙來泰國打工淮野, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留捧书,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,271評論 2 360
  • 正文 我出身青樓骤星,卻偏偏與公主長得像经瓷,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子妈踊,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,452評論 2 348

推薦閱讀更多精彩內(nèi)容