日志切分問題有感

有過服務(wù)端開發(fā)經(jīng)驗的同學應(yīng)該對日志這個東西不陌生, 把程序丟到服務(wù)器上跑, 日志就是我們了解運行情況,甚至解BUG的唯一入口了.

有些程序的日志量會增長得非常快, 比如Nginx, 當一個日志文件大到幾百MB甚至上GB的時候, 要從這個文件找出我們要的信息就基本等于大海撈針了,所以這時候?qū)θ罩具M行管理就顯得格外重要.

日志量大的平臺可以上ELK,利用ES的搜索優(yōu)勢基本不擔心日志數(shù)據(jù)量大的問題.但本文不打算涉及這方面的內(nèi)容.接下來主要講講如何正確得對日志文件做切分.

Linxu上的日志切分有兩種形式, 一種是使用Linux的logrotate工具, 另外一種是使用額外編寫的腳本, 這種形式一般是和日志庫配合使用.

因為業(yè)務(wù)的關(guān)系, 我們最開始拋棄了使用logrotate的方案, 因為我們覺得這會給實施人員增加系統(tǒng)的的維護負擔(后來發(fā)現(xiàn)是我們對logrotate不夠了解).于是我們使用第二種方案, 將日志的切分操作在我們的日志庫里面實現(xiàn), 我們封裝了logruslfshook, 利用logrus的hook機制將切分的邏輯嵌入在日志庫里面,代碼調(diào)用的時候會自動觸發(fā)切分操作.我們會這樣做也是受到beego框架的影響, 它的日志庫默認就帶了切分功能.

一切運作得很順利, 直到我們有一次在使用Openresty的時候, 發(fā)現(xiàn)Nginx的日志沒有被切分.因為之前使用Nginx的時候,默認安裝完畢后日志是會自動以天切分的, 于是我們開始找Nginx的配置項,看看是否漏掉了某些配置.但是不找沒關(guān)系,了解后才發(fā)現(xiàn)Nginx是不提供日志切分功能的.What ? 那之前的切分功能是怎么來的?

接下來解決問題的過程中發(fā)現(xiàn)了在/etc/logrotate.d/下有nginx的配置, 同時還有Mysql和其他基礎(chǔ)組件的,這時我們才想到有可能是RPM包(我們的系統(tǒng)是Centos)安裝的時候自動生成了一個logrotate的配置文件,后來一查果然是(命令:rpm -qpl xxx.rpm).而我們的Openresty包沒有生成這個配置文件,所以導(dǎo)致Nginx的日志文件沒有被切分.

實際上很多軟件都只會做日志的記錄,不會幫忙做切分,這個確實是合理的.這讓我們想起logrus為什么不提供日志切分的功能,而是得由第三方的庫去完成.我們將日志切分的邏輯耦合進代碼里面,現(xiàn)在回過頭來看其實也不是很合理,正確的做法其實還是應(yīng)該在打RPM包的時候, 生成一個logrotate的配置文件, 這樣一來也不會增加實施人員的負擔,而且也可以將切分功能統(tǒng)一到一個地方去做.

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市齿椅,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌呼伸,老刑警劉巖静稻,帶你破解...
    沈念sama閱讀 206,311評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異刑然,居然都是意外死亡,警方通過查閱死者的電腦和手機暇务,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評論 2 382
  • 文/潘曉璐 我一進店門泼掠,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人垦细,你說我怎么就攤上這事择镇。” “怎么了括改?”我有些...
    開封第一講書人閱讀 152,671評論 0 342
  • 文/不壞的土叔 我叫張陵腻豌,是天一觀的道長。 經(jīng)常有香客問我,道長吝梅,這世上最難降的妖魔是什么虱疏? 我笑而不...
    開封第一講書人閱讀 55,252評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮苏携,結(jié)果婚禮上做瞪,老公的妹妹穿的比我還像新娘。我一直安慰自己右冻,他們只是感情好装蓬,可當我...
    茶點故事閱讀 64,253評論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著纱扭,像睡著了一般牍帚。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上乳蛾,一...
    開封第一講書人閱讀 49,031評論 1 285
  • 那天履羞,我揣著相機與錄音,去河邊找鬼屡久。 笑死,一個胖子當著我的面吹牛爱榔,可吹牛的內(nèi)容都是我干的被环。 我是一名探鬼主播,決...
    沈念sama閱讀 38,340評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼详幽,長吁一口氣:“原來是場噩夢啊……” “哼筛欢!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起唇聘,我...
    開封第一講書人閱讀 36,973評論 0 259
  • 序言:老撾萬榮一對情侶失蹤版姑,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后迟郎,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體剥险,經(jīng)...
    沈念sama閱讀 43,466評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,937評論 2 323
  • 正文 我和宋清朗相戀三年宪肖,在試婚紗的時候發(fā)現(xiàn)自己被綠了表制。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,039評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡控乾,死狀恐怖么介,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情蜕衡,我是刑警寧澤壤短,帶...
    沈念sama閱讀 33,701評論 4 323
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響久脯,放射性物質(zhì)發(fā)生泄漏纳胧。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,254評論 3 307
  • 文/蒙蒙 一桶现、第九天 我趴在偏房一處隱蔽的房頂上張望躲雅。 院中可真熱鬧,春花似錦骡和、人聲如沸相赁。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽钮科。三九已至,卻和暖如春婆赠,著一層夾襖步出監(jiān)牢的瞬間绵脯,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工休里, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留蛆挫,地道東北人。 一個月前我還...
    沈念sama閱讀 45,497評論 2 354
  • 正文 我出身青樓妙黍,卻偏偏與公主長得像悴侵,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子拭嫁,可洞房花燭夜當晚...
    茶點故事閱讀 42,786評論 2 345

推薦閱讀更多精彩內(nèi)容