關(guān)于移動(dòng)端日志采集衷咽、存儲(chǔ)鸽扁、上傳的架構(gòu)設(shè)計(jì)探討

前些天有幸和一位移動(dòng)端的架構(gòu)師一起探討了移動(dòng)端日志采集、存儲(chǔ)镶骗、上傳的架構(gòu)設(shè)計(jì)桶现,受益匪淺。在此總結(jié)一下卖词。
總體架構(gòu)圖如下:


LogUploadFramework.png

日志采集巩那、存儲(chǔ)吏夯、上傳三要素:

1.  客戶端。用戶在客戶端上的操作可以產(chǎn)生日志即横,包括用戶交互動(dòng)作噪生,網(wǎng)絡(luò)請(qǐng)求結(jié)果等。
2.  數(shù)據(jù)庫(kù)东囚。保存日志適合用數(shù)據(jù)庫(kù)進(jìn)行存儲(chǔ)跺嗽,便于進(jìn)行增刪改查操作。
3.  服務(wù)器页藻。移動(dòng)端將日志上傳到服務(wù)器桨嫁,由服務(wù)器對(duì)日志做進(jìn)一步分析處理。 

日志類(lèi)型

移動(dòng)端的日志并沒(méi)有統(tǒng)一的分類(lèi)標(biāo)準(zhǔn)份帐,在此僅僅列出三個(gè)可供參考的日志分類(lèi):

1. 及時(shí)上傳的日志璃吧。例如,崩潰日志废境。
2. 定時(shí)或定量上傳的日志畜挨。例如,某個(gè)按鈕被點(diǎn)擊的次數(shù)噩凹。
3. 用于本地調(diào)試巴元,不需要上傳的日志。例如驮宴,某個(gè)接口的響應(yīng)結(jié)果逮刨。

上傳日志優(yōu)先級(jí)

對(duì)應(yīng)不同的日志類(lèi)型,建議設(shè)置不同的上傳優(yōu)先級(jí):

1. 立即上傳堵泽。
2. 定時(shí)或定量上傳修己。
3. 無(wú)需上傳。

數(shù)據(jù)庫(kù)分表及建立索引

對(duì)應(yīng)不同類(lèi)型的日志落恼,建議分成不同的表箩退,便于對(duì)日志進(jìn)行增刪改查操作。
日志較多時(shí)佳谦,建議建立索引便于查詢和刪除戴涝。

日志三要素的協(xié)調(diào)者:checker、uploader

checker: 校驗(yàn)工具類(lèi)钻蔑。用于讀取數(shù)據(jù)庫(kù)中的數(shù)據(jù)啥刻,檢查是否有日志符合上傳的條件,一旦有符合上傳條件的日志咪笑,就通知uploader可帽。
uploader: 上傳工具類(lèi)。用于根據(jù)上傳條件窗怒,從數(shù)據(jù)庫(kù)中取數(shù)據(jù)映跟,并上傳蓄拣。根據(jù)上傳結(jié)果,更新數(shù)據(jù)庫(kù)或通知checker做進(jìn)一步處理努隙。

觸發(fā)日志上傳校驗(yàn)的事件

移動(dòng)端的日志何時(shí)上傳球恤,需要一個(gè)觸發(fā)機(jī)制。一般而言荸镊,可分為:

1. 日志存儲(chǔ)成功后咽斧,若是需要立即上傳的日志,主動(dòng)觸發(fā)一個(gè)立即上傳的事件
2. APP啟動(dòng)時(shí)事件
3. APP從后臺(tái)切換到前臺(tái)事件
4. 日志上傳失敗

三要素及三要素的協(xié)調(diào)者設(shè)計(jì)原則

  1. 各司其職躬存。

    * client負(fù)責(zé)搜集日志张惹,并將日志傳給storage。 
    * storage用于存儲(chǔ)日志岭洲,并對(duì)外提供增刪改查的接口.
    * checker負(fù)責(zé)在合適的時(shí)機(jī)宛逗,查詢storage中是否有符合上傳的日志,一旦有符合上傳的日志盾剩,便交由uploader進(jìn)一步處理.
    * uploader從storage中讀取數(shù)據(jù)拧额,并發(fā)起網(wǎng)絡(luò)請(qǐng)求,上傳到server彪腔。
    
  2. 設(shè)計(jì)模式--工廠模式

    * 日志分為不同的類(lèi)型,對(duì)應(yīng)不同類(lèi)型的日志有不同的處理過(guò)程进栽,例如德挣,存儲(chǔ)、校驗(yàn)快毛、上傳格嗅。 
    * 盡管處理過(guò)程不同,但他們的處理過(guò)程有相似之處唠帝,只是在具體實(shí)現(xiàn)上有部分差異屯掖。
    * 工廠模式--定義一個(gè)用于創(chuàng)建對(duì)象的接口,讓子類(lèi)決定實(shí)例化哪一個(gè)類(lèi)襟衰。
    

其他細(xì)節(jié)

* 失敗重傳策略
* 不同網(wǎng)絡(luò)狀態(tài)下贴铜,上傳策略的優(yōu)化
* 數(shù)據(jù)庫(kù)建立索引字段的選擇
* checker查詢數(shù)據(jù)庫(kù)粗略查詢VS精確查詢。例如瀑晒,查詢需要定量上傳的日志時(shí)绍坝,只統(tǒng)計(jì)每條日志的粗略size,而非精確地size,可提升查詢效率
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市苔悦,隨后出現(xiàn)的幾起案子轩褐,更是在濱河造成了極大的恐慌,老刑警劉巖玖详,帶你破解...
    沈念sama閱讀 218,546評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件把介,死亡現(xiàn)場(chǎng)離奇詭異勤讽,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)拗踢,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,224評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)脚牍,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人秒拔,你說(shuō)我怎么就攤上這事莫矗。” “怎么了砂缩?”我有些...
    開(kāi)封第一講書(shū)人閱讀 164,911評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵作谚,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我庵芭,道長(zhǎng)妹懒,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,737評(píng)論 1 294
  • 正文 為了忘掉前任双吆,我火速辦了婚禮眨唬,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘好乐。我一直安慰自己匾竿,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,753評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布蔚万。 她就那樣靜靜地躺著岭妖,像睡著了一般。 火紅的嫁衣襯著肌膚如雪反璃。 梳的紋絲不亂的頭發(fā)上昵慌,一...
    開(kāi)封第一講書(shū)人閱讀 51,598評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音淮蜈,去河邊找鬼斋攀。 笑死,一個(gè)胖子當(dāng)著我的面吹牛梧田,可吹牛的內(nèi)容都是我干的淳蔼。 我是一名探鬼主播,決...
    沈念sama閱讀 40,338評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼柿扣,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼肖方!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起未状,我...
    開(kāi)封第一講書(shū)人閱讀 39,249評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤俯画,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后司草,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體艰垂,經(jīng)...
    沈念sama閱讀 45,696評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡泡仗,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,888評(píng)論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了猜憎。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片娩怎。...
    茶點(diǎn)故事閱讀 40,013評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖胰柑,靈堂內(nèi)的尸體忽然破棺而出截亦,到底是詐尸還是另有隱情,我是刑警寧澤柬讨,帶...
    沈念sama閱讀 35,731評(píng)論 5 346
  • 正文 年R本政府宣布崩瓤,位于F島的核電站,受9級(jí)特大地震影響踩官,放射性物質(zhì)發(fā)生泄漏却桶。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,348評(píng)論 3 330
  • 文/蒙蒙 一蔗牡、第九天 我趴在偏房一處隱蔽的房頂上張望颖系。 院中可真熱鬧,春花似錦辩越、人聲如沸嘁扼。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,929評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)偷拔。三九已至,卻和暖如春亏钩,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背欺旧。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,048評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工姑丑, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人辞友。 一個(gè)月前我還...
    沈念sama閱讀 48,203評(píng)論 3 370
  • 正文 我出身青樓栅哀,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親称龙。 傳聞我的和親對(duì)象是個(gè)殘疾皇子留拾,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,960評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容