Logback配置文件這么寫讨彼,TPS提高10倍

作者:何甜甜在嗎
juejin.im/post/5d4d61326fb9a06aff5e5ff5

受臺(tái)風(fēng)利奇馬的影響很多地方都迎來了強(qiáng)降雨略贮,雙休日不能出去玩一起學(xué)習(xí)吧掉房,就先從最基本的配置講起再介紹高級(jí)特性異步輸出日志。如果只想看異步輸出日志提升性能的部分請(qǐng)將文章往下拉一點(diǎn)颤芬。

通過閱讀本篇文章將了解到

  1. 日志輸出到文件并根據(jù)LEVEL級(jí)別將日志分類保存到不同文件

  2. 通過異步輸出日志減少磁盤IO提高性能

  3. 異步輸出日志的原理

配置文件logback-spring.xml

SpringBoot工程自帶logback和slf4j的依賴悲幅,所以重點(diǎn)放在編寫配置文件上,需要引入什么依賴站蝠,日志依賴沖突統(tǒng)統(tǒng)都不需要我們管了汰具。

logback框架會(huì)默認(rèn)加載classpath下命名為logback-spring或logback的配置文件。將所有日志都存儲(chǔ)在一個(gè)文件中文件大小也隨著應(yīng)用的運(yùn)行越來越大并且不好排查問題菱魔,正確的做法應(yīng)該是將error日志和其他日志分開留荔,并且不同級(jí)別的日志根據(jù)時(shí)間段進(jìn)行記錄存儲(chǔ)。

<?xml version="1.0" encoding="utf-8"?>
<configuration>
    <property resource="logback.properties"/>
    <appender name="CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender">
        <layout class="ch.qos.logback.classic.PatternLayout">
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
        </layout>
    </appender>
    <!--獲取比info級(jí)別高(包括info級(jí)別)但除error級(jí)別的日志-->
    <appender name="INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
        <filter class="ch.qos.logback.classic.filter.LevelFilter">
            <level>ERROR</level>
            <onMatch>DENY</onMatch>
            <onMismatch>ACCEPT</onMismatch>
        </filter>
        <encoder>
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
        </encoder>

        <!--滾動(dòng)策略-->
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
            <!--路徑-->
            <fileNamePattern>${LOG_INFO_HOME}//%d.log</fileNamePattern>
            <maxHistory>30</maxHistory>
        </rollingPolicy>
    </appender>
    <appender name="ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">
        <filter class="ch.qos.logback.classic.filter.ThresholdFilter">
            <level>ERROR</level>
        </filter>
        <encoder>
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>
        </encoder>
        <!--滾動(dòng)策略-->
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
            <!--路徑-->
            <fileNamePattern>${LOG_ERROR_HOME}//%d.log</fileNamePattern>
            <maxHistory>30</maxHistory>
        </rollingPolicy>
    </appender>

    <root level="info">
        <appender-ref ref="CONSOLE-LOG" />
        <appender-ref ref="INFO-LOG" />
        <appender-ref ref="ERROR-LOG" />
    </root>
</configuration>

部分標(biāo)簽說明

<root>標(biāo)簽澜倦,必填標(biāo)簽聚蝶,用來指定最基礎(chǔ)的日志輸出級(jí)別

  • <appender-ref>標(biāo)簽,添加append

<append>標(biāo)簽藻治,通過使用該標(biāo)簽指定日志的收集策略

  • name屬性指定appender命名

  • class屬性指定輸出策略碘勉,通常有兩種,控制臺(tái)輸出和文件輸出桩卵,文件輸出就是將日志進(jìn)行一個(gè)持久化验靡。ConsoleAppender將日志輸出到控制臺(tái)

<filter>標(biāo)簽倍宾,通過使用該標(biāo)簽指定過濾策略

  • <level>標(biāo)簽指定過濾的類型

<encoder>標(biāo)簽,使用該標(biāo)簽下的<pattern style="margin: 0px; padding: 0px; max-width: 100%; box-sizing: border-box; word-wrap: break-word !important; font-size: inherit; color: inherit; line-height: inherit;">標(biāo)簽指定日志輸出格式
<rollingPolicy>標(biāo)簽指定收集策略晴叨,比如基于時(shí)間進(jìn)行收集</pattern>

  • <fileNamePattern>標(biāo)簽指定生成日志保存地址凿宾,通過這樣配置已經(jīng)實(shí)現(xiàn)了分類分天手機(jī)日志的目標(biāo)了
image

logback 高級(jí)特性異步輸出日志

之前的日志配置方式是基于同步的矾屯,每次日志輸出到文件都會(huì)進(jìn)行一次磁盤IO兼蕊。采用異步寫日志的方式而不讓此次寫日志發(fā)生磁盤IO,阻塞線程從而造成不必要的性能損耗件蚕。異步輸出日志的方式很簡單孙技,添加一個(gè)基于異步寫日志的appender,并指向原先配置的appender即可

<!-- 異步輸出 -->
    <appender name="ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender">
        <!-- 不丟失日志.默認(rèn)的,如果隊(duì)列的80%已滿,則會(huì)丟棄TRACT排作、DEBUG牵啦、INFO級(jí)別的日志 -->
        <discardingThreshold>0</discardingThreshold>
        <!-- 更改默認(rèn)的隊(duì)列的深度,該值會(huì)影響性能.默認(rèn)值為256 -->
        <queueSize>256</queueSize>
        <!-- 添加附加的appender,最多只能添加一個(gè) -->
        <appender-ref ref="INFO-LOG"/>
    </appender>

    <appender name="ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender">
        <!-- 不丟失日志.默認(rèn)的,如果隊(duì)列的80%已滿,則會(huì)丟棄TRACT、DEBUG妄痪、INFO級(jí)別的日志 -->
        <discardingThreshold>0</discardingThreshold>
        <!-- 更改默認(rèn)的隊(duì)列的深度,該值會(huì)影響性能.默認(rèn)值為256 -->
        <queueSize>256</queueSize>
        <!-- 添加附加的appender,最多只能添加一個(gè) -->
        <appender-ref ref="ERROR-LOG"/>
    </appender>

異步輸出日志性能測試

既然能提高性能的話哈雏,必須進(jìn)行一次測試比對(duì),同步和異步輸出日志性能到底能提升多少倍衫生?

服務(wù)器硬件

  • CPU 六核

  • 內(nèi)存 8G

測試工具

  • Apache Jmeter

同步輸出日志

  • 線程數(shù):100

  • Ramp-Up Loop(可以理解為啟動(dòng)線程所用時(shí)間) :0

  • 可以理解為100個(gè)線程同時(shí)啟用

測試結(jié)果

image

重點(diǎn)關(guān)注指標(biāo)Throughput【TPS】吞吐量:系統(tǒng)在單位時(shí)間內(nèi)處理請(qǐng)求的數(shù)量裳瘪,在同步輸出日志中TPS為44.2/sec

異步輸出日志

  • 線程數(shù) 100

  • Ramp-Up Loop:0

測試結(jié)果

image

TPS為497.5/sec,性能提升了10多倍W镎搿E砀!

異步日志輸出原理

從logback框架下的Logger.info方法開始追蹤泪酱。一路的方法調(diào)用路徑如下圖所示:

image

異步輸出日志中最關(guān)鍵的就是配置文件中ch.qos.logback.classic包下AsyncAppenderBase類中的append方法派殷,查看該方法的源碼:

protected void append(E eventObject) {
        if(!this.isQueueBelowDiscardingThreshold() || !this.isDiscardable(eventObject)) {
            this.preprocess(eventObject);
            this.put(eventObject);
        }
    }

通過隊(duì)列情況判斷是否需要丟棄日志,不丟棄的話將它放到阻塞隊(duì)列中墓阀,通過查看代碼毡惜,這個(gè)阻塞隊(duì)列為ArrayBlockingQueueu,默認(rèn)大小為256斯撮,可以通過配置文件進(jìn)行修改经伙。

Logger.info(…)到append(…)就結(jié)束了,只做了將日志塞入到阻塞隊(duì)列的事吮成,然后繼續(xù)執(zhí)行Logger.info(…)下面的語句了橱乱。

在AsyncAppenderBase類中定義了一個(gè)Worker線程,run方法中的關(guān)鍵部分代碼如下:

E e = parent.blockingQueue.take();
aai.appendLoopOnAppenders(e);

最主要的兩個(gè)方法就是encode和write方法粱甫,前一個(gè)法方會(huì)根據(jù)配置文件中encode指定的方式轉(zhuǎn)化為字節(jié)碼泳叠,后一個(gè)方法將轉(zhuǎn)化成的字節(jié)碼寫入到文件中去。所以寫文件是通過新起一個(gè)線程去完成的茶宵,主線程將日志扔到阻塞隊(duì)列中危纫,然后又去做其他事情了。

源碼

https://github.com/TiantianUpup/springboot-log

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市种蝶,隨后出現(xiàn)的幾起案子契耿,更是在濱河造成了極大的恐慌,老刑警劉巖螃征,帶你破解...
    沈念sama閱讀 217,277評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件搪桂,死亡現(xiàn)場離奇詭異,居然都是意外死亡盯滚,警方通過查閱死者的電腦和手機(jī)踢械,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來魄藕,“玉大人内列,你說我怎么就攤上這事”陈剩” “怎么了话瞧?”我有些...
    開封第一講書人閱讀 163,624評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長寝姿。 經(jīng)常有香客問我交排,道長,這世上最難降的妖魔是什么会油? 我笑而不...
    開封第一講書人閱讀 58,356評(píng)論 1 293
  • 正文 為了忘掉前任个粱,我火速辦了婚禮,結(jié)果婚禮上翻翩,老公的妹妹穿的比我還像新娘都许。我一直安慰自己,他們只是感情好嫂冻,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,402評(píng)論 6 392
  • 文/花漫 我一把揭開白布胶征。 她就那樣靜靜地躺著,像睡著了一般桨仿。 火紅的嫁衣襯著肌膚如雪睛低。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,292評(píng)論 1 301
  • 那天服傍,我揣著相機(jī)與錄音钱雷,去河邊找鬼。 笑死吹零,一個(gè)胖子當(dāng)著我的面吹牛罩抗,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播灿椅,決...
    沈念sama閱讀 40,135評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼套蒂,長吁一口氣:“原來是場噩夢啊……” “哼钞支!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起操刀,我...
    開封第一講書人閱讀 38,992評(píng)論 0 275
  • 序言:老撾萬榮一對(duì)情侶失蹤烁挟,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后骨坑,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體撼嗓,經(jīng)...
    沈念sama閱讀 45,429評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,636評(píng)論 3 334
  • 正文 我和宋清朗相戀三年卡啰,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了静稻。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,785評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡匈辱,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出杀迹,到底是詐尸還是另有隱情亡脸,我是刑警寧澤,帶...
    沈念sama閱讀 35,492評(píng)論 5 345
  • 正文 年R本政府宣布树酪,位于F島的核電站浅碾,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏续语。R本人自食惡果不足惜垂谢,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,092評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望疮茄。 院中可真熱鬧滥朱,春花似錦、人聲如沸力试。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽畸裳。三九已至缰犁,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間怖糊,已是汗流浹背帅容。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評(píng)論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留伍伤,地道東北人并徘。 一個(gè)月前我還...
    沈念sama閱讀 47,891評(píng)論 2 370
  • 正文 我出身青樓,卻偏偏與公主長得像嚷缭,于是被迫代替她去往敵國和親饮亏。 傳聞我的和親對(duì)象是個(gè)殘疾皇子耍贾,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,713評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容