所謂A/B測(cè)試是指為了測(cè)試某個(gè)要素對(duì)產(chǎn)出(例如銷售或者網(wǎng)絡(luò)廣告點(diǎn)擊)的影響而進(jìn)行的一種實(shí)驗(yàn)方法,其核心是控制所有其他因素不變產(chǎn)生兩個(gè)或多個(gè)實(shí)施方案并進(jìn)行實(shí)際測(cè)試以得出結(jié)論喇嘱。(這個(gè)定義是作者自己下的,使用需謹(jǐn)慎 )A/B測(cè)試在互聯(lián)網(wǎng)領(lǐng)域中應(yīng)用相對(duì)于其他領(lǐng)域更加廣泛塞栅,但是其理念和方法可以廣泛用于廣告者铜、數(shù)據(jù)庫營(yíng)銷以及各類業(yè)務(wù)優(yōu)化。
A/B測(cè)試屬于實(shí)驗(yàn)的一種放椰。實(shí)驗(yàn)方法在醫(yī)學(xué)作烟、政策制定、營(yíng)銷方面有廣泛的應(yīng)用砾医。這方面的資料大家可以參考《證析》的第二章拿撩,“實(shí)驗(yàn)及其應(yīng)用”。下面應(yīng)用的很多例子如果不特別說明都是從這本書摘過來如蚜。
A/B測(cè)試并不是新鮮事物压恒。1940年代影暴,當(dāng)美國(guó)商家準(zhǔn)備在《紐約時(shí)報(bào)》上推廣一個(gè)被稱為“年輕人唱片俱樂部”的會(huì)員資格時(shí),為了探索不同廣告的效果探赫,他們會(huì)在報(bào)紙上使用不同的廣告文案型宙。半數(shù)報(bào)紙上等著以“讓孩子進(jìn)入音樂的殿堂”為題的廣告文案,另一半等著直接訴諸父母的以“幫助你的孩子進(jìn)入音樂殿堂”為題的廣告文案期吓。商家在不同的廣告文案上使用不同的通信地址或不同的熱線電話等以計(jì)算哪個(gè)文案更能打動(dòng)讀者早歇。經(jīng)過實(shí)驗(yàn)對(duì)比發(fā)現(xiàn),后者的效果是前者的108%讨勤。除此之外還進(jìn)行了大量其他實(shí)驗(yàn)箭跳。這些實(shí)驗(yàn)和數(shù)據(jù)為營(yíng)銷人員優(yōu)化廣告文案以及營(yíng)銷推廣方式提供了堅(jiān)實(shí)的基礎(chǔ)。
實(shí)際上潭千,A/B測(cè)試可以看成是自然選擇在技術(shù)和產(chǎn)品方面的一種應(yīng)用谱姓。人們創(chuàng)造兩種或多種不同事物(這兩種事物僅有一個(gè)地方不同),然后觀察哪種事物的生存幾率更高(用某個(gè)指標(biāo)來衡量)刨晴,然后讓這種事物繁殖下去(大規(guī)模推廣)屉来。下面這個(gè)達(dá)爾文雀的例子摘自oldj’s blog ( http://oldj.net/article/ab-testing-basic-concept/ )。
“達(dá)爾文雀主要生活在太平洋東部加拉帕戈斯(Galapagos)的一個(gè)名為伊莎貝拉(Isabela)的島上狈癞,一部分生活在島的西部茄靠,另一部分生活在島的東部,由于生活環(huán)境的細(xì)微不同它們進(jìn)化出了不同的喙蝶桶。這被認(rèn)為是自然選擇學(xué)說上的一個(gè)重要例證慨绳。
同樣一種鳥,究竟哪一種喙更適合生存呢真竖?自然界給出了她的解決方案脐雪,讓鳥兒自己變異(多個(gè)設(shè)計(jì)方案),然后優(yōu)勝劣汰恢共。具體到達(dá)爾文雀這個(gè)例子上战秋,不同的環(huán)境中喙也有不同的解決方案。
上面的例子雖然和網(wǎng)站設(shè)計(jì)無關(guān)讨韭,但包含了 A/B 測(cè)試最核心的思想脂信,即:
1、多個(gè)方案并行測(cè)試透硝;
2吉嚣、每個(gè)方案只有一個(gè)變量(比如鳥喙)不同;
3蹬铺、以某種規(guī)則優(yōu)勝劣汰尝哆。
需要特別留意的是第 2 點(diǎn),它暗示了 A/B 測(cè)試的應(yīng)用范圍甜攀,——必須是單變量秋泄。有時(shí)我們的多個(gè)設(shè)計(jì)稿可能會(huì)有非常大的差異琐馆,這樣的情況一般不太適合做 A/B 測(cè)試,因?yàn)樗鼈兊淖兞刻嗔撕阈颍兞恐g會(huì)有較多的干擾瘦麸,我們很難通過 A/B 測(cè)試的方法來找出各個(gè)變量對(duì)結(jié)果的影響程度。比如歧胁,土豆燒肉和豆腐鯽魚湯都挺美味滋饲,但我們很難比較土豆和豆腐哪一個(gè)對(duì)菜的美味影響更大,而土豆燒肉和豆腐燒肉則是不錯(cuò)的比較喊巍。另外屠缭,雖然 A/B 測(cè)試名字中只包含 A、B 崭参,但并不是說它只能用于比較兩個(gè)方案的好壞呵曹,事實(shí)上,你完全可以設(shè)計(jì)多個(gè)方案進(jìn)行測(cè)試何暮,“A/B 測(cè)試”這個(gè)名字只是一個(gè)習(xí)慣的叫法奄喂。”
A/B測(cè)試聽起來是一個(gè)技術(shù)方案海洼,其實(shí)其背后暗藏著一個(gè)深刻的思想跨新,那就是基于證據(jù)的決策。人得到某種結(jié)論的邏輯過程無外乎兩種坏逢,歸納或者演繹域帐。演繹就是通過邏輯推理得到的某種結(jié)論,即用已知的一般原理考察某一特殊的對(duì)象词疼,推演出有關(guān)這個(gè)對(duì)象的結(jié)論;而歸納則是通過觀察某些個(gè)體現(xiàn)象而獲得推及總體的結(jié)論帘腹。歸納很大程度上是基于經(jīng)驗(yàn)進(jìn)行的贰盗,比如一個(gè)人連續(xù)觀察到10次燕子低飛之后下雨,那么就得出結(jié)論燕子低飛是下雨的預(yù)兆阳欲,趕快回家收衣服了舵盈。
通過這種基于經(jīng)驗(yàn)的歸納可以得到非常有價(jià)值的結(jié)論。比如中國(guó)的24節(jié)氣歌謠球化,蘊(yùn)含了祖先長(zhǎng)期積累的經(jīng)驗(yàn)秽晚。可是這種經(jīng)驗(yàn)也可能會(huì)導(dǎo)致錯(cuò)誤的結(jié)果筒愚。
至于會(huì)導(dǎo)致哪些錯(cuò)誤結(jié)果赴蝇?為什么近些年A/B測(cè)試越來越受重視?A/B測(cè)試在技術(shù)和組織上的挑戰(zhàn)有哪些巢掺?我們下回分解句伶。
下面這個(gè)鏈接是UCD China關(guān)于A/B測(cè)試的專題劲蜻,供參考。需要注意的是考余,這一方法不僅可用于互聯(lián)網(wǎng)產(chǎn)品先嬉,其他行業(yè)和產(chǎn)品也是適用的。應(yīng)該從一種思考方式角度去理解楚堤,而不僅僅是一種具體操作方法疫蔓。http://ucdchina.com/topic/332