2017-03-17周報

這周主要處理了MessageHandler項目和MongoDB的測試使用。

I. MessageHandler項目根據(jù)之前CEP項目的設(shè)計郑气,適當(dāng)分離了error信息所在的queue听系,分離了log信息所在的queue。

當(dāng)前項目會針對click,event,postback的error成玫,log獨立使用queue和接收的process骇两。這樣會便于以后錯誤信息和日志信息的管理(Gems直接查看)速种。

注:周六晚上發(fā)現(xiàn)八點后的日志沒有刷出來,原因是rename key后每十分鐘刷日志的list沒有被使用并刪除低千,導(dǎo)致下一個十分鐘renameex函數(shù)報錯并且一直持續(xù)報錯(因為該命令要求必須不存在rename完的key)配阵。

受用redis-cli手動rename clickLogList_del后,每十分鐘刷日志的定時器開始工作示血。

那么為何上述定時器失敗了我們卻沒有收到郵件呢闸餐?這一直是讓我迷惑不解的地方。

最后一直測試才發(fā)現(xiàn)所有的消息都被Get JMS Message給吃掉了矾芙,而且是有多少吃多少舍沙,甚至連郵件都不會發(fā)出來(因為它一直在那不結(jié)束)。

那么后續(xù)新架構(gòu)中消息處理得好好考慮了剔宪,也許我們直接存在redis或者mongodb里而不是使用ems了拂铡。

II. MessageHandler項目基本完成。同時對比CEP項目優(yōu)化了schema設(shè)計葱绒。這一點后續(xù)確認(rèn)完全的schema時應(yīng)當(dāng)繼續(xù)優(yōu)化感帅,以期存入mongodb的數(shù)據(jù)格式最優(yōu)化,為后續(xù)管理和使用mongodb的日志打下良好基礎(chǔ)地淀。

RecordClick process需要完善下失球。

III. 學(xué)習(xí),嘗試運行了主要的Mongodb的函數(shù)帮毁,思考有哪些會幫助我們完成一個好的設(shè)計实苞。比如$inc 增長一個值,$slice 類似于linux的head,tail命令烈疚,skip(),limit()分頁黔牵,rename一個字段(考慮我們是否需要rename一個集合,比如redis當(dāng)時刷小時日志)爷肝,每天日志存儲我們打算使用capped collection(性能好且已插入順序為順序) ---- 那么默認(rèn)大小至少給15G ---- 3月15號的一天日志大小,希望它沒用完的話會不占用沒用到空間.

使用了mongodb官方的cloud mongo(mongo altas)服務(wù)猾浦,方便入手測試陆错。

每天的點擊日志,轉(zhuǎn)化日志各作為一個capped集合金赦。(點擊日志按小時分貌似沒什么意義音瓷,所以暫時不想了)

透傳的時候直接使用mongodb的日志。先判斷日期夹抗,然后找到對應(yīng)按天的集合绳慎,把透傳的字段名和值傳進去,去日志中找內(nèi)容兔朦。這一部分的優(yōu)化比較重要偷线。因為點擊日志比較大而且使用capped集合磨确,內(nèi)部數(shù)據(jù)順序是插入數(shù)據(jù)的時間戳沽甥。記日志和透傳時最好使用時間戳作為標(biāo)記,優(yōu)化查詢效率乏奥。

Capped Collection 具有以下特性摆舟,在使用的時候需要注意:

1 不可以對 Capped Collection 進行分片。

2 在 2.2 版本以后邓了,創(chuàng)建的Capped Collection 默認(rèn)在 _id 字段上創(chuàng)建索引恨诱,而在 2.2 版本或以前沒有。

3 在 Capped Collection 插入文檔后可以進行更新(update)操作骗炉,當(dāng)更新不能導(dǎo)致原來文檔占用

空間增長照宝,否則更新失敗。

4 不可以對 capped collection 執(zhí)行刪除文檔操作句葵,但可以刪除整個集合厕鹃。

IV. 剩下的內(nèi)容就是把用到的項目好好精細(xì)化打磨,為測試做好準(zhǔn)備乍丈。需要細(xì)化的地方包括mongodb的存取和查詢剂碴,message項目對消息的處理----檢查使用ems是否可行,不行則改成使用redis或者mongodb轻专,然后就是聯(lián)合檢查CEP和MessageHandler項目忆矛,有些地方還需要討論并最終確定下來,更新到文檔请垛。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末催训,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子宗收,更是在濱河造成了極大的恐慌瞳腌,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,561評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件镜雨,死亡現(xiàn)場離奇詭異嫂侍,居然都是意外死亡儿捧,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,218評論 3 385
  • 文/潘曉璐 我一進店門挑宠,熙熙樓的掌柜王于貴愁眉苦臉地迎上來菲盾,“玉大人,你說我怎么就攤上這事各淀±良” “怎么了?”我有些...
    開封第一講書人閱讀 157,162評論 0 348
  • 文/不壞的土叔 我叫張陵碎浇,是天一觀的道長临谱。 經(jīng)常有香客問我,道長奴璃,這世上最難降的妖魔是什么悉默? 我笑而不...
    開封第一講書人閱讀 56,470評論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮苟穆,結(jié)果婚禮上抄课,老公的妹妹穿的比我還像新娘。我一直安慰自己雳旅,他們只是感情好跟磨,可當(dāng)我...
    茶點故事閱讀 65,550評論 6 385
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著攒盈,像睡著了一般抵拘。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上型豁,一...
    開封第一講書人閱讀 49,806評論 1 290
  • 那天僵蛛,我揣著相機與錄音,去河邊找鬼偷遗。 笑死墩瞳,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的氏豌。 我是一名探鬼主播喉酌,決...
    沈念sama閱讀 38,951評論 3 407
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼泵喘!你這毒婦竟也來了泪电?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,712評論 0 266
  • 序言:老撾萬榮一對情侶失蹤纪铺,失蹤者是張志新(化名)和其女友劉穎相速,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體鲜锚,經(jīng)...
    沈念sama閱讀 44,166評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡突诬,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,510評論 2 327
  • 正文 我和宋清朗相戀三年苫拍,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片旺隙。...
    茶點故事閱讀 38,643評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡绒极,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出蔬捷,到底是詐尸還是另有隱情垄提,我是刑警寧澤,帶...
    沈念sama閱讀 34,306評論 4 330
  • 正文 年R本政府宣布周拐,位于F島的核電站铡俐,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏妥粟。R本人自食惡果不足惜审丘,卻給世界環(huán)境...
    茶點故事閱讀 39,930評論 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望罕容。 院中可真熱鬧备恤,春花似錦稿饰、人聲如沸锦秒。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,745評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽旅择。三九已至,卻和暖如春侣姆,著一層夾襖步出監(jiān)牢的瞬間生真,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,983評論 1 266
  • 我被黑心中介騙來泰國打工捺宗, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留柱蟀,地道東北人。 一個月前我還...
    沈念sama閱讀 46,351評論 2 360
  • 正文 我出身青樓蚜厉,卻偏偏與公主長得像长已,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子昼牛,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,509評論 2 348

推薦閱讀更多精彩內(nèi)容

  • mogon簡介 MongoDB 是一個基于分布式文件存儲的數(shù)據(jù)庫术瓮。由 C++ 語言編寫。旨在為 WEB 應(yīng)用提供可...
    豬哥亮閱讀 1,998評論 0 10
  • 一贰健、MongoDB簡介 1.概述 ? MongoDB是一個基于分布式文件存儲的數(shù)據(jù)庫胞四,由C++語言編寫。旨在為WE...
    鄭元吉閱讀 976評論 0 2
  • NoSQL 的全稱是 Not Only SQL导狡,也可以理解非關(guān)系型的數(shù)據(jù)庫甘苍,是一種新型的革命式的數(shù)據(jù)庫設(shè)計方式,不...
    tianjianlong閱讀 3,993評論 1 25
  • 原文鏈接:https://docs.spring.io/spring-boot/docs/1.4.x/refere...
    pseudo_niaonao閱讀 4,680評論 0 9
  • 一烘豌、MongoDB簡介 概述MongoDB是一個基于分布式文件存儲的數(shù)據(jù)庫载庭,由C++語言編寫。旨在為WEB應(yīng)用提供...
    fly5閱讀 284評論 0 0