做多久
做太久可能造成損失,做得不夠久俗孝,可能無法確認結果是否真的有意義。
如果目的不是出論文魄健,基於其它商業(yè)考量赋铝,不見得非要做到統(tǒng)計學計算出來的測試天數(shù)。
多做幾次
如果可以沽瘦,多做幾次A/B testing革骨,確認我們得到的結果不是誤差。
保持一致
- 不同頁面
測試的元件若出現(xiàn)在不同頁面析恋,記得保持一致良哲,如果顧客在網站上看到不一致的方案,測試結果會不準助隧。
例如:一開始 user 在首頁看到促銷活動是用 A 文案筑凫,則當 user 跳到不同頁面時,若頁面有同個促銷活動并村,也必須顯示 A 文案巍实,不能突然跑出 B 文案。
- 相同訪客
在測試期間哩牍,要對相同訪客展示相同測試元件棚潦,如果小明昨天看到的是版本 A,那兩天後他應該還是要看到版本 A膝昆。
然而可能出現(xiàn)意外丸边,之前 Amazon 曾在行銷方案上進行 A/B testing,好死不死顧客去朋友家玩荚孵,發(fā)現(xiàn)「咦妹窖?奇怪,為何同樣商品在你的 Amazon 頁面上比較便宜呀处窥?」
同時進行
A/B 兩版本要「同時」分配給不同 user 進行測試嘱吗,目的是避免會造成誤差的因素干擾,像是季節(jié)變化對人產生的普遍性影響。
數(shù)據(jù)導向
確立目標後谒麦,就要優(yōu)先選擇可實現(xiàn)目標的方案俄讹,即便這個方案似乎違反直覺,例如:A/B testing 後發(fā)現(xiàn)在一片紅色頁面上绕德,一顆綠色按鈕轉換率最高患膛,雖然不符直覺美感,但數(shù)據(jù)說的話還是要仔細聽耻蛇。
要有統(tǒng)計意義
A/B 兩版本在目標數(shù)據(jù)上有差異踪蹬,不一定具有統(tǒng)計意義,因為差異可能只是機率波動臣咖,其實 A/B 兩版本的表現(xiàn)差不多跃捣。
別嚇到無辜的人
如果是針對新訪客進行測試,例如:想知道哪一種註冊鈕顏色夺蛇,會引發(fā)較多新訪客註冊疚漆,那 A/B 兩版本就不須分配給「不是新訪客的人」測試,不要造成無謂驚嚇刁赦。