這篇文章最初是在2016年發表的,作為Edgar Learn係列的一部分,我們分享了幫助我們找到成功的策略。盡管從那以後發生了很多變化,但似乎我們在2016年發現的A/B測試的MailChimp Hack今天仍然可以正常工作,因此我們決定將其保持在線供您嚐試。
我們絕對喜歡Mailchimp在Meetedgar。毫無疑問,這是我們業務最重要的工具之一。
但是,當我們真正開始研究MailChimp A/B測試並發送MailChimp測試電子郵件時,我們遇到了一些問題。
MailChimp不允許對自動化廣告係列進行A/B測試,並且在2021年仍然是正確的。它們僅允許在單個電子郵件中進行多元測試。
這是有道理的 -A/B測試的基本規則是您隻想一次更改一個變量,並且自動廣告係列的性質(自動發送幾封電子郵件)使得這很難做到。
但是,在有遺囑的地方,有一種方法,我們發現了一個小技巧,您可能想添加到Mailchimp Hacks的武器庫中。
如何入侵MailChimp A/B測試
例如,如果您有一係列三封電子郵件,並且想測試所有三個電子郵件,則需要設置一個看起來像這樣的測試:
電子郵件1 | 電子郵件2 | 電子郵件3 |
控製 | 控製 | 控製 |
測試 | 控製 | 控製 |
測試 | 測試 | 控製 |
測試 | 測試 | 測試 |
控製 | 測試 | 測試 |
控製 | 控製 | 測試 |
控製 | 測試 | 控製 |
控製 | 測試 | 測試 |
測試 | 控製 | 測試 |
“控製”是電子郵件的標準版本,而“測試”是電子郵件。
這是九種不同的變化,這意味著我們將分裂流量九種不同的方式,這意味著要獲得有意義的樣本量需要一段時間。而且,由於這些係列中的每個係列都已經花了幾天時間完成,因此我們正在尋找很長的時間來正確運行每個測試。
因此,我們決定稍微解決一些事情,使我們的測試看起來像這樣:
電子郵件1 | 電子郵件2 | 電子郵件3 |
控製 | 控製 | 控製 |
測試 | 測試 | 測試 |
請不要致電我們的測試警察!我們知道這不是A/B測試MailChimp的最科學方法。
除了一般的簡單性和測試速度以外,我們的理由是我們也在尋找轉換率的重大變化。當您尋找一個重大變化時,隔離您的測試中要更改的元素變得不那麼重要。
我們如何欺騙MailChimp進行這些測試
由於沒有設置MailChimp來允許我們在自動電子郵件上進行測試,因此我們必須提出解決方法。所以這就是我們所做的...
我們的測試主要集中在我們的邀請係列上。
當您訪問Meetedgar.com時,邀請您注冊使用Edgar的邀請。當您注冊邀請時,您被分配了一個數字(測試變化)。這是通過我們的WordPress專家開發的一些幕後魔術來完成的。
當我們在MailChimp中為測試活動創建段時,我們使用此測試變體編號將您分為測試組或對照組。然後,我們向您發送了適當的滴水活動。
為了再次引用上麵的示例,如果我們正在運行一本書的科學研究,我們將需要九個這樣的小組來測試測試流的九種不同變化。但是在我們的簡化版本中,我們隻需要兩個測試變體即可獲得所需的結果。
因此,我們本可以為每個人分配一個或兩個。但這不是Hackerman會做的!
相反,我們為每個人分配了一到六個之間的數字。這有助於確保組之間更加平均(隨機)分開,如果我們覺得特別……既有態度,也可以進行三向分裂測試。
一個,兩人和三人進入了我們的對照組,並收到了我們通常發送的相同電子郵件。四人,五杆和六人進入了實驗組,並獲得了我們的全新流程。
MailChimp的細分部門工具的樣子:
請注意,您隻需要在自動係列中的第一封電子郵件中執行此操作!所有其他電子郵件都連接到此電子郵件,從而更容易將您的流量分開進行測試。謝謝,MailChimp!
我們如何衡量成功
我們黑客攻擊的測試過程中最棘手的部分是測量結果。
我們正在看兩件事:開放率和點擊率。
開放率是每張電子郵件打開多少人,點擊率是每封電子郵件中有多少人點擊鏈接。這些顯然是重要的統計數據,對嗎?
衡量成功之所以棘手的原因是因為我們需要使用具體數字,但是MailChimp將這些數字視為百分比。因此,我們構建了一個電子表格,該電子表格獲取了百分比率和發送的電子郵件總數,並將點擊和打開的實際數字還給了。看起來像這樣:
那麼,為什麼我們需要實際的打開和點擊呢?因為我們然後拿走了這些數字並將其喂入VWO的A/B拆分測試顯著性計算器看看我們的結果是否具有統計學意義。
這就是外觀:
在沒有進入數學的情況下,該計算器基本上可以弄清楚您的樣本尺寸是否足夠大,可以顯示出真正的變化。在上麵的示例中,它們不是 - 這就是為什麼我們的“重要”?電子表格中的列還顯示了一個“否”
我們一直在進行測試並將數字饋入電子表格和計算器中,直到它顯示出重要性為止,否則我們認為它已經進行了足夠長的時間,以表明更改沒有真正的影響。有時,這也可能是一個非常有價值的課程!
到目前為止我們最大的課程
我們從黑客測試中收集了許多有用的信息,包括一些經典的MailChimp主題線測試以及圍繞特定電子郵件的內容進行更改。但是,在總體方案中,到目前為止,我們最有價值的學習是來自一項測試,該測試沒有顯示出績效的顯著變化 - 我們在上述圖像中一直以相同的測試作為示例。
在此測試中,我們兩個廣告係列之間唯一不同的是每條電子郵件之間的時間。在我們的控製中,我們大約在一個月的過程中收到了三封電子郵件。在我們的測試中,我們將該時間表凝結至10天。
你猜怎麼著?結果幾乎相同。
本質上,我們了解到,我們可以將介紹電子郵件活動的時間表減少到其原始長度的大約三分之一,而沒有負麵影響。因此,這當然成為我們的新標準!沒有幫助更快地吸引新客戶但這也使我們的未來測試也更快地進行。這就是在道路上付出好處的那種事情。
也想和MailChimp一起玩嗎?然後讓這個自動化的廣告係列測試技巧擊敗!
您是否嚐試過在MailChimp中測試自動化廣告係列?
如果您在2016年閱讀這篇文章,並嚐試了我們的測試技巧,我們很樂意聽聽您的發展。您是否發現了一些有用,有趣,有趣的東西?
如果您現在第一次嚐試這個小技巧,請在評論中告訴我們您的反饋!我們喜歡從您的實驗中學習。