別再加端到端集成測試了输拇,快換契約測試吧

正如大家所知循诉,最初QA都是手動執(zhí)行測試用例,開發(fā)人員每修改一個版本懂酱,QA就要手動測試一遍竹习,隨著功能的不斷增加,手動測試重復的工作量越來越大列牺。為了解脫QA重復性勞動整陌,提高工作效率,重復執(zhí)行的測試用例被自動化了瞎领。自動化測試讓QA的工作前進了一大步蔓榄。

本文講的端到端集成測試(簡稱集成測試)是指系統(tǒng)集成后的自動化測試,是系統(tǒng)或模塊真實組裝后運行的測試默刚。很多團隊用UI端到端來測系統(tǒng)集成后的行為,這類工具很多逃魄,比如有Selenium webdriver等荤西。端到端的集成測試反饋與修復的周期比較長、運行速度慢,測試運行不穩(wěn)定邪锌,有時隨機失敗勉躺,維護成本也很高。它不像單元測試觅丰,單元測試測具體一個方法或API饵溅,定位準確,采用Mock機制妇萄,運行速度非惩善螅快(毫秒級),又是開發(fā)人員在本地執(zhí)行冠句,反饋修復及時轻掩,成本較低。

于是懦底,我們把絕大部分能在單元測試里覆蓋的用例都放在單元測試覆蓋唇牧,只有單元測試測不了的(比如模塊或API之間連通性),才會通過端到端的集成測試來覆蓋聚唐。此時丐重,測試又前進了一大步。

但是杆查,隨著業(yè)務的不斷拓展扮惦、產(chǎn)品功能不斷增加,系統(tǒng)架構越來越復雜根灯,端對端集成測試的成本越來越高径缅,測試用例也越增越多,集成測試又成了快速驗證的阻塞區(qū)烙肺。在當今持續(xù)集成的開發(fā)模式中纳猪,開發(fā)團隊會頻繁集成,每次集成都會通過流水線(Pipeline)快速驗證桃笙、準備部署包氏堤、進而發(fā)布。然而搏明,集成測試的這些問題會嚴重影響或阻礙產(chǎn)品快速發(fā)布鼠锈。

那么問題來了,怎么解決集成測試的現(xiàn)有問題星著,讓測試再前進一大步购笆?

其實,早在幾年前虚循,著名的敏捷和TDD專家JB Rainsberger就提到了同欠。

“集成測試是個騙局”样傍,正確的是應該用一種契約或協(xié)議測試來測試集成后的系統(tǒng)行為!

JB Rainsberger認為你寫的2-5%的集成測試和單元測試有重復铺遂,或者和其它地方的集成測試存在重復衫哥,而且當集成測試失敗時,你也不知道發(fā)生了什么襟锐,不能及時準確定位問題撤逢。

JB Rainsberger認為應該讓契約測試來替代集成測試,那么粮坞,什么是契約測試蚊荣?它是否能解決集成測試的這些問題?

契約測試

契約測試是驗證服務的Provider是否按照期望的方式與服務的Consumer進行交互捞蚂,簡單的說是Consumer與Provider兩者之間的集成妇押。

而Contract即合同、契約姓迅,就是Provider與Consumer的交互方式敲霍。

契約測試通常是基于Consumer驅(qū)動的(Consumer Driven Contracts,基于Consumer驅(qū)動的契約測試工具有PACT)丁存〖玷荆基于Consumer驅(qū)動的契約測試分兩個階段:

  1. Consumer生成契約,開發(fā)者在Consumer端寫測試時Mock掉Provider解寝,運行測試生成契約文件扩然;
  2. Provider驗證契約,開發(fā)者拿契約文件直接在Provider端運行測試進行驗證聋伦。

第一階段:Consumer生成契約

第二階段:Provider驗證契約

如何用PACT編寫契約測試夫偶,這里就不贅述了,實例詳情請參見PACT an example觉增。

集成測試的特點

  1. 真實安裝后測試兵拢,測試更接近真實使用情況;
  2. 可見性強逾礁,容易理解说铃;(比如:看一遍運行關鍵業(yè)務的集成測試,業(yè)務人員或客戶會覺得很放心嘹履。也可以替代驗收測試)
  3. 模塊真實調(diào)用腻扇,測試運行慢,秒級別或分鐘級別砾嫉,反饋與修復的周期慢幼苛,成本高;
  4. 問題定位難焕刮,多個子模塊組合安裝后的測試蚓峦,很難定位是哪個模塊出的問題舌剂;
  5. 真實的安裝或環(huán)境搭建,不穩(wěn)定暑椰,容易導致測試隨機失敗荐绝;
  6. 溝通成本高一汽,需要不同模塊團隊間的協(xié)調(diào)工作;
  7. 與底層測試或集成測試會有重復低滩,集成測試中有的路徑已經(jīng)被單元測試覆蓋召夹。

契約測試的特點

  1. 開發(fā)人編寫,采用Mock機制恕沫,開發(fā)本地就可以運行监憎,沒有真實調(diào)用,運行快婶溯,毫秒級修復反饋周期短鲸阔;
  2. Provider與Consumer兩兩之間的驗證,容易定位問題迄委,而且與底層測試或其它契約之間沒有重復褐筛;
  3. 不需要部署真實的集成環(huán)境,穩(wěn)定且成功率高叙身;
  4. 溝通成本低渔扎。(比如一個Consumer端的加入導致服務端API修改,服務端開發(fā)人員不必跑去找所有其它Consumer端開發(fā)人員溝通確認是否會被影響信轿,直接運行契約測試就能知道結(jié)果晃痴。)

由此可見,開篇談到的端到端集成測試運行慢财忽、不穩(wěn)定倘核、修復反饋周期長等等問題,都能通過契約測試得到解決或改進定罢。

舉例說明

假如某社交聊天產(chǎn)品(簡稱TWChat)的架構是這樣的:服務端笤虫、客戶端、郵件通知服務三部分組成祖凫。

架構圖

通常的測試策略:底層絕大部分的單元測試+少量上層端到端集成測試琼蚯。

用TWChat注冊場景來舉例說明吧。注冊一個帳號的工作流是:客戶端把注冊帳號信息提交給服務端惠况,服務端處理帳號時遭庶,會去調(diào)用郵件通知服務發(fā)通知,并完成注冊稠屠。

底層單元測試用例

單元測試

  1. 客戶端的單元測試:驗證注冊表各個Field的各種輸入組合峦睡、以及檢驗正確性等翎苫;(比如:邊界值、空榨了、中英數(shù)各類組合煎谍、合法與非法輸入等)
  2. 服務端的單元測試:驗證注冊數(shù)據(jù)表的各種輸入組合可以成功存放于服務端帳號DB表中,且不合法的龙屉、重復等會有相應的錯誤碼呐粘;
  3. 郵箱通知服務端的單元測試:輸入合法的各類不同的郵箱確,保證能正常發(fā)出通知郵件并返回正確碼转捕,輸入不合法的郵箱或空郵箱確保有相應的錯誤碼作岖。

上層端到端集成測試用例

集成測試

一條注冊連通性的Happy path測試用例, 輸入所有必填項提交,驗證注冊成功五芝,收到成功通知郵件痘儡。

以上的集成測試,必填項輸入其實是與單元測試重復枢步,郵件通知發(fā)送功能與單元測試也有重復沉删;再者,這條集成測試跑失敗价捧,我們并不能定位是客戶端的問題丑念、服務端問題、還是通知服務的問題结蟋。加上集成測試是把所有子模塊(服務端脯倚、客戶端、通知微服務)真實產(chǎn)品安裝包部署以后才能運行的測試嵌屎,反饋推正、修改周期長,不穩(wěn)定容易隨機失敗等等宝惰。

集成測試換成契約測試用例

契約測試

  1. TWChat客戶端Consumer與TWChat服務端Provider加一條契約測試植榕,確保TWChat服務端按期望提供給客戶端接口(參見PACT an example)。
  2. TWChat服務端Consumer與郵件通知服務Provider之間加一條契約測試尼夺,確保郵件通知服務按照預期與TWChat服務端交互(參見PACT an example)尊残。

契約測試與單元測試以及其它測試之間沒有重復,它是單純驗證Provider與Consumer之間按預期的方式交互淤堵,定位準確寝衫;不需要部署真實的系統(tǒng)環(huán)境、Mock機制拐邪、沒有真實API調(diào)用慰毅,運行非常快扎阶、反饋及時汹胃、修復周期短婶芭、成本低,在這種情況下着饥,自動化測試流水線運行更快了犀农,產(chǎn)品流水線出產(chǎn)品安裝包也更快。因此宰掉,顯然契約測試才是真正對的選擇井赌。

微服務架構下契約測試的重要性

例如,隨著TWChat業(yè)務的擴大贵扰,TWChat錢包,TWChat安卓端流部,TWChat iOS端戚绕,以及其它的服務方與Consumer方接入TWChat服務器。

當其中TWChat安卓端修改后枝冀,如果還按照之前的集成測試方式舞丛,就得把服務端與所有的客戶端真實的集成到一起測試,確保都沒有被影響才能生成產(chǎn)品安裝包并發(fā)布果漾,這里的集成測試成了流水線(pipeline)的一個聚集地球切,也成為了產(chǎn)品發(fā)布的阻塞區(qū)。

集成測試流水線

假如绒障,換成契約測試吨凑,我們把契約測試放在各自的流水線(pipeline)上,每次代碼提交觸發(fā)相應產(chǎn)品流水線上的契約測試户辱,當TWChat安卓客戶端Consumer API修改鸵钝,在安卓客戶端的流水線(pipeline)上運行安卓客戶端為Consumer與服務端為Provider的契約測試,測試通過庐镐,生成產(chǎn)品安裝包恩商;如果契約測試失敗,服務端需要相應修改必逆,則本次TWChat安卓端的安裝包需要在TWChat服務端修改后怠堪,方可生成安卓客戶端的產(chǎn)品安裝包。

契約測試解耦后

由此可見名眉,并不是每一次TWChat安卓端的修改都要全部Consumer端與服務端集成后驗證才出包粟矿,而是各自可以獨立出包,產(chǎn)品解耦璧针,大大節(jié)省時間嚷炉,提高出包頻率。

并非所有端到端集成測試都適合換成契約測試

契約測試相比端到端集成測試有很多優(yōu)勢探橱,但并不是所有場景都適合契約而非集成測試申屹。

比如:

  1. 契約測試無法做安全或性能測試等绘证。
  2. 契約測試采用Mock機制,所以沒有集成測試更接近真實環(huán)境哗讥,也不能給業(yè)務人員做驗收嚷那,可視性差。
  3. 契約測試基于不同的服務使用的協(xié)議不同杆煞,驗證契約的復雜度會不同魏宽,復雜度過高時,需要權衡是否有必要加契約測試决乎。

所以队询,把端到端集成測試要換成契約測試也不是絕對的,視情況而定构诚。

總的來說蚌斩,當你追加端到端集成測試的時候,如非特殊范嘱,快換契約測試吧送膳。


更多精彩洞見,請關注微信公眾號:思特沃克

?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末丑蛤,一起剝皮案震驚了整個濱河市叠聋,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌受裹,老刑警劉巖碌补,帶你破解...
    沈念sama閱讀 206,602評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異名斟,居然都是意外死亡脑慧,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,442評論 2 382
  • 文/潘曉璐 我一進店門砰盐,熙熙樓的掌柜王于貴愁眉苦臉地迎上來闷袒,“玉大人,你說我怎么就攤上這事岩梳∧抑瑁” “怎么了?”我有些...
    開封第一講書人閱讀 152,878評論 0 344
  • 文/不壞的土叔 我叫張陵冀值,是天一觀的道長也物。 經(jīng)常有香客問我,道長列疗,這世上最難降的妖魔是什么滑蚯? 我笑而不...
    開封第一講書人閱讀 55,306評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上告材,老公的妹妹穿的比我還像新娘坤次。我一直安慰自己,他們只是感情好斥赋,可當我...
    茶點故事閱讀 64,330評論 5 373
  • 文/花漫 我一把揭開白布缰猴。 她就那樣靜靜地躺著,像睡著了一般疤剑。 火紅的嫁衣襯著肌膚如雪滑绒。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,071評論 1 285
  • 那天隘膘,我揣著相機與錄音疑故,去河邊找鬼。 笑死弯菊,一個胖子當著我的面吹牛焰扳,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播误续,決...
    沈念sama閱讀 38,382評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼扫茅!你這毒婦竟也來了蹋嵌?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,006評論 0 259
  • 序言:老撾萬榮一對情侶失蹤葫隙,失蹤者是張志新(化名)和其女友劉穎栽烂,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體恋脚,經(jīng)...
    沈念sama閱讀 43,512評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡腺办,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,965評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了糟描。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片怀喉。...
    茶點故事閱讀 38,094評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖船响,靈堂內(nèi)的尸體忽然破棺而出躬拢,到底是詐尸還是另有隱情,我是刑警寧澤见间,帶...
    沈念sama閱讀 33,732評論 4 323
  • 正文 年R本政府宣布聊闯,位于F島的核電站,受9級特大地震影響米诉,放射性物質(zhì)發(fā)生泄漏菱蔬。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,283評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望拴泌。 院中可真熱鬧魏身,春花似錦、人聲如沸弛针。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,286評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽削茁。三九已至宙枷,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間茧跋,已是汗流浹背慰丛。 一陣腳步聲響...
    開封第一講書人閱讀 31,512評論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留瘾杭,地道東北人诅病。 一個月前我還...
    沈念sama閱讀 45,536評論 2 354
  • 正文 我出身青樓,卻偏偏與公主長得像粥烁,于是被迫代替她去往敵國和親贤笆。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 42,828評論 2 345

推薦閱讀更多精彩內(nèi)容

  • 本文說的集成測試是指系統(tǒng)集成后的自動化測試。(也可以說是系統(tǒng)端對端的集成測試) 是的钝吮,最初QA都是手動執(zhí)行測試用例...
    李春輝閱讀 1,060評論 2 12
  • 業(yè)界認為應該讓契約測試來替代集成測試埋涧。認為你寫的2-5%的集成測試和單元測試有重復,或者和其它地方的集成測試存在重...
    陳菲TW閱讀 267評論 0 0
  • 什么是契約 如果從契約產(chǎn)生的階段來說奇瘦,現(xiàn)有資料表明最早要追溯到西周時期的《周恭王三年裘衛(wèi)典田契》棘催,將契約文字刻寫在...
    ThoughtWorks閱讀 2,925評論 1 12
  • 背景 在當前微服務和前后端分離大行其道的行業(yè)背景下,越來越多的團隊采用了前后端分離和微服務的架構風格耳标。該服務架構下...
    博客已遷移I米陽閱讀 24,357評論 2 18
  • 什么是契約測試 測試是軟件流程中非常重要醇坝,不可或缺的一個環(huán)節(jié)。一般的測試分為單元測試次坡,集成測試纲仍,端到端的手工測試,...
    RaiseHead閱讀 4,099評論 0 13