一狞悲、QPS，每秒查詢

QPS：Queries Per Second意思是“每秒查詢率”妇斤，是一臺(tái)服務(wù)器每秒能夠相應(yīng)的查詢次數(shù)摇锋，是對(duì)一個(gè)特定的查詢服務(wù)器在規(guī)定時(shí)間內(nèi)所處理流量多少的衡量標(biāo)準(zhǔn)丹拯。

互聯(lián)網(wǎng)中，作為域名系統(tǒng)服務(wù)器的機(jī)器的性能經(jīng)常用每秒查詢率來(lái)衡量荸恕。

二乖酬、TPS，每秒事務(wù)

TPS：是TransactionsPerSecond的縮寫融求，也就是事務(wù)數(shù)/秒咬像。它是軟件測(cè)試結(jié)果的測(cè)量單位。一個(gè)事務(wù)是指一個(gè)客戶機(jī)向服務(wù)器發(fā)送請(qǐng)求然后服務(wù)器做出反應(yīng)的過(guò)程生宛∠匕海客戶機(jī)在發(fā)送請(qǐng)求時(shí)開(kāi)始計(jì)時(shí)，收到服務(wù)器響應(yīng)后結(jié)束計(jì)時(shí)茅糜，以此來(lái)計(jì)算使用的時(shí)間和完成的事務(wù)個(gè)數(shù)七芭。

QPS vs TPS：QPS基本類似于TPS，但是不同的是蔑赘，對(duì)于一個(gè)頁(yè)面的一次訪問(wèn)狸驳，形成一個(gè)TPS；但一次頁(yè)面請(qǐng)求缩赛，可能產(chǎn)生多次對(duì)服務(wù)器的請(qǐng)求耙箍，服務(wù)器對(duì)這些請(qǐng)求，就可計(jì)入“QPS”之中酥馍。如辩昆，訪問(wèn)一個(gè)頁(yè)面會(huì)請(qǐng)求服務(wù)器2次，一次訪問(wèn)旨袒，產(chǎn)生一個(gè)“T”汁针，產(chǎn)生2個(gè)“Q”。

三砚尽、RT施无，響應(yīng)時(shí)間

響應(yīng)時(shí)間：執(zhí)行一個(gè)請(qǐng)求從開(kāi)始到最后收到響應(yīng)數(shù)據(jù)所花費(fèi)的總體時(shí)間,即從客戶端發(fā)起請(qǐng)求到收到服務(wù)器響應(yīng)結(jié)果的時(shí)間。

響應(yīng)時(shí)間RT(Response-time)必孤，是一個(gè)系統(tǒng)最重要的指標(biāo)之一猾骡，它的數(shù)值大小直接反應(yīng)了系統(tǒng)的快慢。

四敷搪、并發(fā)數(shù)

并發(fā)數(shù)是指系統(tǒng)同時(shí)能處理的請(qǐng)求數(shù)量兴想，這個(gè)也是反應(yīng)了系統(tǒng)的負(fù)載能力。

五赡勘、吞吐量

系統(tǒng)的吞吐量（承壓能力）與request對(duì)CPU的消耗嫂便、外部接口、IO等等緊密關(guān)聯(lián)闸与。單個(gè)request 對(duì)CPU消耗越高顽悼，外部系統(tǒng)接口曼振、IO速度越慢，系統(tǒng)吞吐能力越低蔚龙，反之越高。

系統(tǒng)吞吐量幾個(gè)重要參數(shù)：QPS（TPS）映胁、并發(fā)數(shù)木羹、響應(yīng)時(shí)間。

QPS（TPS）：（Query Per Second）每秒鐘request/事務(wù) 數(shù)量

并發(fā)數(shù)： 系統(tǒng)同時(shí)處理的request/事務(wù)數(shù)

響應(yīng)時(shí)間： 一般取平均響應(yīng)時(shí)間

理解了上面三個(gè)要素的意義之后解孙，就能推算出它們之間的關(guān)系：

QPS（TPS）= 并發(fā)數(shù)/平均響應(yīng)時(shí)間

并發(fā)數(shù) = QPS*平均響應(yīng)時(shí)間

六坑填、實(shí)際舉例

我們通過(guò)一個(gè)實(shí)例來(lái)把上面幾個(gè)概念串起來(lái)理解。按二八定律來(lái)看弛姜，如果每天 80% 的訪問(wèn)集中在 20% 的時(shí)間里脐瑰，這 20% 時(shí)間就叫做峰值時(shí)間。

公式：( 總PV數(shù) * 80% ) / ( 每天秒數(shù) * 20% ) = 峰值時(shí)間每秒請(qǐng)求數(shù)(QPS)

機(jī)器：峰值時(shí)間每秒QPS / 單臺(tái)機(jī)器的QPS = 需要的機(jī)器

1廷臼、每天300w PV 的在單臺(tái)機(jī)器上苍在，這臺(tái)機(jī)器需要多少Q(mào)PS？

( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

2荠商、如果一臺(tái)機(jī)器的QPS是58寂恬，需要幾臺(tái)機(jī)器來(lái)支持？

139 / 58 = 3

七莱没、最佳線程數(shù)、QPS、RT

1睹逃、單線程QPS公式：QPS=1000ms/RT

對(duì)同一個(gè)系統(tǒng)而言亚脆，支持的線程數(shù)越多，QPS越高嘹裂。假設(shè)一個(gè)RT是80ms,則可以很容易的計(jì)算出QPS,QPS = 1000/80 = 12.5

多線程場(chǎng)景妄壶，如果把服務(wù)端的線程數(shù)提升到2，那么整個(gè)系統(tǒng)的QPS則為 2*（1000/80） = 25, 可見(jiàn)QPS隨著線程的增加而線性增長(zhǎng)焦蘑，那QPS上不去就加線程唄盯拱，聽(tīng)起來(lái)很有道理，公司也說(shuō)的通例嘱，但是往往現(xiàn)實(shí)并非如此狡逢。

2、QPS和RT的真實(shí)關(guān)系

我們想象的QPS拼卵、RT關(guān)系如下奢浑，

實(shí)際的QPS、RT關(guān)系如下腋腮，

3雀彼、最佳線程數(shù)量

剛好消耗完服務(wù)器的瓶頸資源的臨界線程數(shù)壤蚜，公式如下

最佳線程數(shù)量=（（線程等待時(shí)間+線程cpu時(shí)間）/線程cpu時(shí)間）* cpu數(shù)量

特性：

在達(dá)到最佳線程數(shù)的時(shí)候，線程數(shù)量繼續(xù)遞增徊哑，則QPS不變袜刷，而響應(yīng)時(shí)間變長(zhǎng)，持續(xù)遞增線程數(shù)量莺丑，則QPS開(kāi)始下降著蟹。

每個(gè)系統(tǒng)都有其最佳線程數(shù)量，但是不同狀態(tài)下梢莽，最佳線程數(shù)量是會(huì)變化的萧豆。

瓶頸資源可以是CPU,可以是內(nèi)存，可以是鎖資源昏名，IO資源：超過(guò)最佳線程數(shù)-導(dǎo)致資源的競(jìng)爭(zhēng)涮雷，超過(guò)最佳線程數(shù)-響應(yīng)時(shí)間遞增。