SimpleDB

SImpleDB 包含:

  • Classes that represent fields, tuples, and tuple schemas;
  • A catalog that stores information about available tables and their schemas.
  • One or more access methods (e.g., heap files) that store relations on disk and provide a way to iterate through tuples of those relations;
  • A buffer pool that caches active tuples and pages in memory and handles concurrency control and transactions
  • Classes that apply predicates and conditions to tuples;
  • A collection of operator classes (e.g., select, join, insert, delete, etc.) that process tuples;

不包括

  • Views.
  • Data types except integers and fixed length strings.
  • Indices.
  • DDL

儲(chǔ)存

Catalog 儲(chǔ)存了所有表的信息晶框。每個(gè)表的信息包括:name份氧,schema,相應(yīng)的 DbFile鹃栽,以及 primary key。

SImpleDB 只支持兩種 field,Interger 和 fixed length string。

每個(gè)表的 schema 用 TupleDesc 定義后控,其儲(chǔ)存每個(gè) filed 的 type 和 name。其除了支持用 index (offset) 獲得 field 的 type 或 name空镜,用 name 獲得 field 的 index浩淘,還提供一個(gè)靜態(tài)方法用于 merge 兩個(gè) TupleDesc 獲得一個(gè)新的 TupleDesc (Join operator 使用)

tuple 用來儲(chǔ)存 field,其除了提供第 i 個(gè) field 的 getter/setter吴攒,還提供了所有 field 的 iterator张抄。
tuple 有一個(gè) record id 標(biāo)志其在磁盤中的位置。

HeapPage 實(shí)現(xiàn)了 Page 接口洼怔。用一個(gè) PageId 唯一標(biāo)志署惯,用來儲(chǔ)存 tuples,其用一個(gè) byte[] header 作為bitmap镣隶。
其支持在該 page 上插入/刪除 tuple极谊,標(biāo)志該 page 為 dirty什荣。還提供了迭代器用來迭代 page 中所有的tuple。
其支持將 page 實(shí)例序列化為 byte[] 和由 byte[] 構(gòu)建 page 實(shí)例怀酷。

HeapFile 實(shí)現(xiàn)了 DbFile 的接口,其提供唯一的 ID嗜闻,以及獲得文件系統(tǒng) File蜕依,table schema 的 API。
其支持從從磁盤獲取數(shù)據(jù)(byte []), 并構(gòu)建相應(yīng) page 實(shí)例琉雳。和將 page 序列化到磁盤样眠。

buffer pool 存放了當(dāng)前所有的 page 實(shí)例,如果已滿翠肘,則會(huì)剔除某個(gè)page(如果 page 為 dirty檐束,則 flush 到磁盤)。
所有對(duì)數(shù)據(jù)(都是以 page束倍,也就是構(gòu)建 HeapPage 實(shí)例)的訪問都要經(jīng)由 buffer pool (調(diào)用 getPage API)

這里必須要理清:
數(shù)據(jù)是儲(chǔ)存在磁盤中的(支持序列化)被丧,當(dāng)需要訪問時(shí),都會(huì)通過 bufferpool 獲得绪妹。后者調(diào)用相應(yīng)的 HeapFile 從磁盤中獲得數(shù)據(jù)并生成 HeapPage 實(shí)例放入 bufferpool甥桂。
當(dāng) bufferpool 已滿,會(huì) kick out 一個(gè)page邮旷,如果那個(gè) page 是 dirty 的黄选,會(huì)先 flush 到磁盤(通過調(diào)用 HeapFile 的 writePage API)。

Operator

Operator 就是迭代器的連接婶肩,其實(shí)現(xiàn) DbIterator 接口办陷,其接受 child DbIterator。
SimpleDB 實(shí)現(xiàn)了 SeqScan律歼,project, filter, join, aggregate, order_by民镜。
除了 SeqScan,其他都由子 DbIterator 獲得 tuples苗膝。
SeqScan 由 DbFileIterator (所有 DbFile 都要實(shí)現(xiàn)殃恒,用于獲得 file 的所有數(shù)據(jù)) 獲得 tuples

Transaction

Lab3 是實(shí)現(xiàn) Transaction 功能
代碼的變動(dòng)不大,只要在 BufferPool read page 時(shí)添加獲得鎖的代碼就行辱揭。
這是因?yàn)?SimpleDB 設(shè)計(jì)上所有對(duì)磁盤文件的獲取都要經(jīng)由 BufferPool离唐。
所以 BufferPool 特別適合用來獲得鎖保證線程同步。
OS 中針對(duì) IO 慢的問題也有類似的 Block Cache问窃,其往往也是在這里實(shí)現(xiàn)同步亥鬓。

關(guān)鍵是如何以正確的姿勢(shì)獲得鎖和釋放鎖。
我這里添加了個(gè) LockManager 類專門用來管理鎖域庇。
如果對(duì)性能要求不高嵌戈,可以對(duì)獲得鎖的方法(accquireLock)專門上個(gè)鎖覆积,保證一個(gè)時(shí)間所有事務(wù)只有一個(gè)能使用該方法獲得鎖。
但這里我是保證要求同一個(gè)page 的多個(gè)事務(wù)只有一個(gè)能調(diào)用方法(通過 Java 中 synchronized (Object))熟呛。
這里我犯了一個(gè)錯(cuò)誤宽档,我誤認(rèn)為所有 PageId 對(duì)象都是相同的,就用 synchronized (pid) 來保證同步化庵朝,但實(shí)際上每次訪問 page 時(shí)會(huì)生成一個(gè)新的 PageId 對(duì)象吗冤,他們相等但不相同 (定義了 equals 和 hashcode 保證相等,但他們是不同對(duì)象)九府,所以使用 synchronized (pid) 并沒有起到同步化的作用椎瘟。正確的姿勢(shì)是用一個(gè)Map,Map相等的 PageId 到同一個(gè)對(duì)象侄旬。

死鎖檢測(cè)沒有什么好說的肺蔚,就是檢測(cè) wait-lock-graph 有沒有環(huán)的問題。

在 lab3 時(shí)儡羔,并沒有使用 log 進(jìn)行 recovery
其使用 NO-STEAL/FORCE

  • You shouldn't evict dirty (updated) pages from the buffer pool if they are locked by an uncommitted transaction (this is NO STEAL).
  • On transaction commit, you should force dirty pages to disk (e.g., write the pages out) (this is FORCE).
  • 假設(shè)數(shù)據(jù)庫在執(zhí)行 transactionComplete 命令時(shí)不會(huì)崩潰宣羊,
    以上三點(diǎn)使得不需要 log-based recovery,因?yàn)?you will never need to undo any work (you never evict dirty pages) and you will never need to redo any work (you force updates on commit and will not crash during commit processing).
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末汰蜘,一起剝皮案震驚了整個(gè)濱河市段只,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌鉴扫,老刑警劉巖赞枕,帶你破解...
    沈念sama閱讀 216,692評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異坪创,居然都是意外死亡炕婶,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,482評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門莱预,熙熙樓的掌柜王于貴愁眉苦臉地迎上來柠掂,“玉大人,你說我怎么就攤上這事依沮⊙恼辏” “怎么了?”我有些...
    開封第一講書人閱讀 162,995評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵危喉,是天一觀的道長(zhǎng)宋渔。 經(jīng)常有香客問我,道長(zhǎng)辜限,這世上最難降的妖魔是什么皇拣? 我笑而不...
    開封第一講書人閱讀 58,223評(píng)論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上氧急,老公的妹妹穿的比我還像新娘颗胡。我一直安慰自己,他們只是感情好吩坝,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,245評(píng)論 6 388
  • 文/花漫 我一把揭開白布毒姨。 她就那樣靜靜地躺著,像睡著了一般钉寝。 火紅的嫁衣襯著肌膚如雪手素。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,208評(píng)論 1 299
  • 那天瘩蚪,我揣著相機(jī)與錄音,去河邊找鬼稿黍。 笑死疹瘦,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的巡球。 我是一名探鬼主播言沐,決...
    沈念sama閱讀 40,091評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼酣栈!你這毒婦竟也來了险胰?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,929評(píng)論 0 274
  • 序言:老撾萬榮一對(duì)情侶失蹤矿筝,失蹤者是張志新(化名)和其女友劉穎起便,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體窖维,經(jīng)...
    沈念sama閱讀 45,346評(píng)論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡榆综,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,570評(píng)論 2 333
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了铸史。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片鼻疮。...
    茶點(diǎn)故事閱讀 39,739評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖琳轿,靈堂內(nèi)的尸體忽然破棺而出判沟,到底是詐尸還是另有隱情,我是刑警寧澤崭篡,帶...
    沈念sama閱讀 35,437評(píng)論 5 344
  • 正文 年R本政府宣布挪哄,位于F島的核電站,受9級(jí)特大地震影響琉闪,放射性物質(zhì)發(fā)生泄漏中燥。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,037評(píng)論 3 326
  • 文/蒙蒙 一塘偎、第九天 我趴在偏房一處隱蔽的房頂上張望疗涉。 院中可真熱鬧拿霉,春花似錦、人聲如沸咱扣。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,677評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽闹伪。三九已至沪铭,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間偏瓤,已是汗流浹背杀怠。 一陣腳步聲響...
    開封第一講書人閱讀 32,833評(píng)論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留厅克,地道東北人赔退。 一個(gè)月前我還...
    沈念sama閱讀 47,760評(píng)論 2 369
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像证舟,于是被迫代替她去往敵國和親硕旗。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,647評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容