線上環(huán)境如何查看實(shí)時(shí)甥雕,歷史QPS踩身。

引用于:
如何查看線上機(jī)器的QPS
tomcat訪問(access)日志配置、記錄Post請求參數(shù)

1. 需求:

  • 服務(wù)器上線之后社露, 對接了三方推廣挟阻,每天的指定時(shí)間并發(fā)量都特別高。但是對于這個(gè)高沒有概念峭弟, 所以需要知道在那個(gè)時(shí)間段的訪問情況附鸽。

2. 思路:

  • 通過tomcat的accessLog,使用linux的文本分析命令瞒瘸,獲取每秒的log數(shù)量坷备,再分析出請求次數(shù)。

3. 步驟:

  1. 配置tomcat的 access log情臭。
    現(xiàn)在的服務(wù)器大多用上了Spring Boot省撑,配合著嵌入式Tomcat, 關(guān)于Tomcat的所有配置俯在, 都只需要在yml文件里面配置即可竟秫。

    以往, 配置access log的方式是在server.xml跷乐,Host 標(biāo)簽下鸿摇, 添加Value標(biāo)簽, 來配置access log劈猿。更多的自定義配置方式拙吉,可以跳轉(zhuǎn)查看Tomcat access log配置

    server.xml

    第二種配置方式, 是在application.yml里揪荣, 配置 server.tomcat.accesslog:


    application.yml

    在里我只配置了日志目錄筷黔,以及開啟日志。

    配置完成之后仗颈, 訪問服務(wù)器佛舱, tomcat就會(huì)打印訪問日志,默認(rèn)格式為:
    127.0.0.1 - - [19/Nov/2017:23:55:27 +0800] "POST /rest/user/checkToken.json HTTP/1.0" 200 138

  2. 使用linux tailf cut uniq配合挨决,得到每秒的access log
    通過查看日志
    127.0.0.1 - - [19/Nov/2017:23:55:27 +0800] "POST /rest/user/checkToken.json HTTP/1.0" 200 138
    發(fā)現(xiàn)请祖, 只要獲取每一條里面的 19/Nov/2017:23:55:27 這一部分?jǐn)?shù)據(jù), 然后將這部分?jǐn)?shù)據(jù)通過uniq -c脖祈,就得到每一秒肆捕,都有多少條訪問日志。所以大概的思路就是盖高, 通過tailf 進(jìn)行日志的打印慎陵, 然后使用cut 進(jìn)行每一行字符串的分割得到時(shí)間那一部分眼虱, 再通過uniq -c 得到每一秒的行數(shù)。

    最終得到
    tailf temp.log | cut -d ' ' -f4 | uniq -c

    其中

temp.log 是文件名稱席纽, 通過cut -d ' ' -f4 命令捏悬, 將每一行使用空格進(jìn)行分割, 取第四個(gè)润梯,就得到了時(shí)間那一部分过牙。

最終得到結(jié)果


temp.log

查看歷史qps

  • 大概思路其實(shí)和上面差不多, 配置好tomcat access日志之后纺铭, 將需要查看的日志導(dǎo)入到同一個(gè)地方寇钉, 然后使用文本分析命令,進(jìn)行分析彤蔽。
  1. 將多個(gè)日志文件進(jìn)行收集
    cat ./access_log.*.log > ./temp.log
  2. 對收集起來的日志進(jìn)行統(tǒng)計(jì)分析摧莽。
    cat ./temp.log | cut -d ' ' -f4 | uniq -c | sort -n -r -o ./temp_sorted.log

sort 是對日志根據(jù)訪問次數(shù)進(jìn)行排序, 得到哪一段時(shí)間的qps最高顿痪。

最終镊辕,就得到歷史的一個(gè)QPS數(shù)據(jù)啦~


  • uniq:
    -c或——count:在每列旁邊顯示該行重復(fù)出現(xiàn)的次數(shù);

  • cut:
    -d:用來定義分隔符蚁袭,默認(rèn)為tab鍵征懈,一般與-f配合使用(如果分隔符是空格,必須是兩個(gè)單引號之間確實(shí)有一個(gè)空格揩悄,是一個(gè)哦卖哎,不是支持多個(gè))
    -f:需要選取的字段,根據(jù)-d切分的字段集選取删性,下標(biāo)從1開始

  • sort:
    -n 依照數(shù)值的大小排序亏娜。
    -r 以相反的順序來排序。
    -o<輸出文件> 將排序后的結(jié)果存入指定的文件蹬挺。
    最后维贺, 就能實(shí)時(shí)的打印出每秒的訪問量啦~

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市巴帮,隨后出現(xiàn)的幾起案子溯泣,更是在濱河造成了極大的恐慌,老刑警劉巖榕茧,帶你破解...
    沈念sama閱讀 212,718評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件垃沦,死亡現(xiàn)場離奇詭異,居然都是意外死亡用押,警方通過查閱死者的電腦和手機(jī)降铸,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,683評論 3 385
  • 文/潘曉璐 我一進(jìn)店門犀呼,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事介褥。” “怎么了摇展?”我有些...
    開封第一講書人閱讀 158,207評論 0 348
  • 文/不壞的土叔 我叫張陵洋闽,是天一觀的道長。 經(jīng)常有香客問我休涤,道長咱圆,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,755評論 1 284
  • 正文 為了忘掉前任功氨,我火速辦了婚禮序苏,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘捷凄。我一直安慰自己忱详,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,862評論 6 386
  • 文/花漫 我一把揭開白布跺涤。 她就那樣靜靜地躺著匈睁,像睡著了一般。 火紅的嫁衣襯著肌膚如雪桶错。 梳的紋絲不亂的頭發(fā)上航唆,一...
    開封第一講書人閱讀 50,050評論 1 291
  • 那天,我揣著相機(jī)與錄音院刁,去河邊找鬼糯钙。 笑死,一個(gè)胖子當(dāng)著我的面吹牛退腥,可吹牛的內(nèi)容都是我干的任岸。 我是一名探鬼主播,決...
    沈念sama閱讀 39,136評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼狡刘,長吁一口氣:“原來是場噩夢啊……” “哼享潜!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起颓帝,我...
    開封第一講書人閱讀 37,882評論 0 268
  • 序言:老撾萬榮一對情侶失蹤米碰,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后购城,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體吕座,經(jīng)...
    沈念sama閱讀 44,330評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,651評論 2 327
  • 正文 我和宋清朗相戀三年瘪板,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了吴趴。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,789評論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡侮攀,死狀恐怖锣枝,靈堂內(nèi)的尸體忽然破棺而出厢拭,到底是詐尸還是另有隱情,我是刑警寧澤撇叁,帶...
    沈念sama閱讀 34,477評論 4 333
  • 正文 年R本政府宣布供鸠,位于F島的核電站,受9級特大地震影響陨闹,放射性物質(zhì)發(fā)生泄漏楞捂。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,135評論 3 317
  • 文/蒙蒙 一趋厉、第九天 我趴在偏房一處隱蔽的房頂上張望寨闹。 院中可真熱鬧,春花似錦君账、人聲如沸繁堡。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,864評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽椭蹄。三九已至,卻和暖如春瞳脓,著一層夾襖步出監(jiān)牢的瞬間塑娇,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,099評論 1 267
  • 我被黑心中介騙來泰國打工劫侧, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留埋酬,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,598評論 2 362
  • 正文 我出身青樓烧栋,卻偏偏與公主長得像写妥,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子审姓,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,697評論 2 351

推薦閱讀更多精彩內(nèi)容

  • 自己的小網(wǎng)站跑在阿里云的ECS上面,偶爾也去分析分析自己網(wǎng)站服務(wù)器日志,看看網(wǎng)站的訪問量珍特。看看有沒有黑闊搞破壞魔吐!于...
    吳鈞澤閱讀 1,121評論 0 8
  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理扎筒,服務(wù)發(fā)現(xiàn),斷路器酬姆,智...
    卡卡羅2017閱讀 134,638評論 18 139
  • Spring Boot 參考指南 介紹 轉(zhuǎn)載自:https://www.gitbook.com/book/qbgb...
    毛宇鵬閱讀 46,778評論 6 342
  • log日志分析,Nginx 0.8.5版本access.log日志分析shell命令 大 | 中 | 小 [ 2...
    Golang小白閱讀 3,865評論 0 1
  • 第1章 小試牛刀 $ 是普通用戶嗜桌,# 表示管理員用戶 root。 shebang:#!辞色。sharp / hash ...
    巴喬書摘閱讀 6,330評論 1 4