無(wú)處安放的數(shù)據(jù)

繼Gitlab之后爬迟,Instapaper也停服了近一個(gè)禮拜曹傀,和Gitlab干凈利落的數(shù)據(jù)被刪了回檔一個(gè)月相比子房,這次Instapaper的遭遇更加令人同情:他們并沒(méi)有自己運(yùn)維數(shù)據(jù)庫(kù)服務(wù)器,也沒(méi)有神智不清的工程師半夜上去rm /* -rf奥裸,而是把數(shù)據(jù)服務(wù)放在了以穩(wěn)定性和伸縮性著稱亞馬遜的RDS上险掀。

ext3的鍋?

在14年創(chuàng)建的實(shí)例中湾宙,RDS的mysql實(shí)例都運(yùn)行在ext3的文件系統(tǒng)上樟氢,作為已經(jīng)被主流Linux發(fā)行版棄用的ext3,最大支持2TB的單個(gè)文件大小侠鳄,這次Instapaper就是撞上了2T文件大小這堵墻埠啃。14年之后的rds實(shí)例都基于ext4系統(tǒng),理論上支持16T的文件大小伟恶,單個(gè)文件大小被亞馬遜限制在6T霸妹。

kibibyte KiB 2^10
mebibyte MiB 2^20
gibibyte GiB 2^30
tebibyte TiB 2^40
pebibyte PiB 2^50
exbibyte EiB 2^60
zebibyte ZiB 2^70
yobibyte YiB 2^80

與之對(duì)比,就單個(gè)文件大小限制來(lái)說(shuō):windows常用的EXFAT是4GB知押,NTFS是2TB叹螟,幸好有Sun留給我們的人類智慧結(jié)晶——支持1EB的ZFS,用mac的話台盯,HFS+支持8EB罢绽。

這次出事的是一個(gè)表,一個(gè)表静盅!

Instapaper的事后分析文章里指出良价,這次是bookmarks表的單表數(shù)據(jù)文件達(dá)到了2TB,僅僅一個(gè)表就達(dá)到了2TB蒿叠,可見(jiàn)Instapapaer是一個(gè)多么流行的服務(wù)明垢,估計(jì)是前不久收費(fèi)功能尤其是全文搜索免費(fèi)之后,用戶更是紛至沓來(lái)市咽。

就算換成6TB的ext4系統(tǒng)痊银,用rds也不過(guò)再多撐幾個(gè)月罷了。

數(shù)據(jù)多大算大施绎?

有個(gè)說(shuō)法是溯革,一臺(tái)電腦裝不下贞绳,需要分布式存儲(chǔ)的就算大數(shù)據(jù)。某些公司一個(gè)excel文檔(最大一百萬(wàn)行致稀,一萬(wàn)六千列)就能裝下的數(shù)據(jù)冈闭,也好意思叫大?

上面的文件大小不夠我就換文件系統(tǒng)的線性思維方法抖单,成本是不可接受的萎攒。在3D NAND技術(shù)還沒(méi)有大規(guī)模開(kāi)始堆料,大容量存儲(chǔ)還靠傳統(tǒng)電磁感應(yīng)式硬盤的今天矛绘,超過(guò)8T的硬盤耍休,容量再往上增加,價(jià)格就是“廠商高興”模式了蔑歌。

就算用戶愿意買單羹应,現(xiàn)有的存儲(chǔ)原理揽碘,還是依賴基于電子/原子的物理特性次屠,因?yàn)樾畔⒑突玖W拥慕壎ǎ碚撋嫌幸粋€(gè)無(wú)法突破的上限:地球上的原子總數(shù)——大約2^160雳刺。

已經(jīng)是一個(gè)哲學(xué)問(wèn)題

單就信息本身來(lái)說(shuō)劫灶,首先信息代表的實(shí)體是無(wú)限的,就別提實(shí)體的種種排列組合了掖桦。限制僅僅是用戶——我們?nèi)祟惖恼J(rèn)知范圍本昏。我們用以存儲(chǔ)信息的方法,和上古時(shí)期的結(jié)繩記事并無(wú)本質(zhì)差別枪汪。

具體到一個(gè)時(shí)間點(diǎn)涌穆,我們能操作的存儲(chǔ)媒介數(shù)量X是有限的,認(rèn)識(shí)到的實(shí)體/概念/排列組合數(shù)Y也是有限的雀久,而記錄在案的數(shù)量Z宿稀,在媒體從石壁、繩子赖捌、竹簡(jiǎn)祝沸、紙張、硬盤一路走來(lái)越庇,量不斷增大罩锐。Y>>X>Z,古代講究“微言大義”卤唉,荊軻刺秦王具體場(chǎng)景我們只能腦補(bǔ)涩惑,而今天甚至一起盜竊案都有視頻資料可查。說(shuō)明了人類對(duì)自身認(rèn)識(shí)正在不斷深化——好吧起碼表面工作數(shù)據(jù)收集是越來(lái)越細(xì)致了桑驱。

等X==Z的時(shí)候境氢,估計(jì)人類就開(kāi)始嘗試突破次元壁了蟀拷,研究數(shù)據(jù)對(duì)人類的終極意義,大概就是這個(gè)吧萍聊。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末问芬,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子寿桨,更是在濱河造成了極大的恐慌此衅,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,839評(píng)論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件亭螟,死亡現(xiàn)場(chǎng)離奇詭異挡鞍,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)预烙,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門墨微,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人扁掸,你說(shuō)我怎么就攤上這事翘县。” “怎么了谴分?”我有些...
    開(kāi)封第一講書人閱讀 153,116評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵锈麸,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我牺蹄,道長(zhǎng)忘伞,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書人閱讀 55,371評(píng)論 1 279
  • 正文 為了忘掉前任沙兰,我火速辦了婚禮氓奈,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘鼎天。我一直安慰自己舀奶,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,384評(píng)論 5 374
  • 文/花漫 我一把揭開(kāi)白布训措。 她就那樣靜靜地躺著伪节,像睡著了一般。 火紅的嫁衣襯著肌膚如雪绩鸣。 梳的紋絲不亂的頭發(fā)上怀大,一...
    開(kāi)封第一講書人閱讀 49,111評(píng)論 1 285
  • 那天,我揣著相機(jī)與錄音呀闻,去河邊找鬼化借。 笑死,一個(gè)胖子當(dāng)著我的面吹牛捡多,可吹牛的內(nèi)容都是我干的蓖康。 我是一名探鬼主播铐炫,決...
    沈念sama閱讀 38,416評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼蒜焊!你這毒婦竟也來(lái)了倒信?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書人閱讀 37,053評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤泳梆,失蹤者是張志新(化名)和其女友劉穎鳖悠,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體优妙,經(jīng)...
    沈念sama閱讀 43,558評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡乘综,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,007評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了套硼。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片卡辰。...
    茶點(diǎn)故事閱讀 38,117評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖邪意,靈堂內(nèi)的尸體忽然破棺而出九妈,到底是詐尸還是另有隱情,我是刑警寧澤抄罕,帶...
    沈念sama閱讀 33,756評(píng)論 4 324
  • 正文 年R本政府宣布允蚣,位于F島的核電站于颖,受9級(jí)特大地震影響呆贿,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜森渐,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,324評(píng)論 3 307
  • 文/蒙蒙 一做入、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧同衣,春花似錦竟块、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 30,315評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至埠况,卻和暖如春耸携,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背辕翰。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 31,539評(píng)論 1 262
  • 我被黑心中介騙來(lái)泰國(guó)打工夺衍, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人喜命。 一個(gè)月前我還...
    沈念sama閱讀 45,578評(píng)論 2 355
  • 正文 我出身青樓沟沙,卻偏偏與公主長(zhǎng)得像河劝,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子矛紫,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,877評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容