Testiranje ene spremenljivke naenkrat pomeni, da med različico A in različico B spremeniš natanko en element — zadevo sporočila, ali popust, ali glavno sliko, nikoli dveh hkrati — vse ostalo pa pustiš popolnoma enako in prepustiš enemu vnaprej izbranemu merilu, da razglasi zmagovalca. To je celotno pravilo. Zveni skoraj preveč preprosto, da bi zaslužilo članek, pa vendar je to pravilo, ki ga večina lastnikov trgovin prekrši že v prvem mesecu testiranja, običajno ne da bi opazila. Postavijo lanskoletni email nasproti novemu, ki ima svežo zadevo, novo postavitev in večjo ponudbo, nato pa novega razglasijo za “boljšega”. Boljšega v čem? Tega nihče ne zna povedati. Ta vodnik pokriva, kako pravilno izolirati spremenljivko, kaj “ena spremenljivka” v praksi sploh pomeni (ožje, kot si misliš) in kako vzdrževati navado testiranja, ki daje odgovore namesto šuma.
Past: sklopljene spremembe, ki dajejo občutek produktivnosti
Tukaj je različica te napake, ki jo vidim najpogosteje. Trgovina s stabilnim prometom se odloči izboljšati svoj email o opuščeni košarici. Lastnik prepiše zadevo, zamenja mrežo izdelkov z enim samim glavnim izdelkom, premakne gumb višje in doda 10-odstotno kodo. Različica B zmaga z opazno razliko. Vsi so zadovoljni.
Nato tri mesece pozneje sestavijo email o opuščenem brskanju in želijo znova uporabiti “to, kar je delovalo”. Kaj je delovalo? Popust? Postavitev? Zadeva? Test jim tega ne more povedati. Za rezultat so plačali z resničnimi pošiljkami resničnim strankam, odšli pa z znanjem, vrednim meta kovanca.
Če si to ti, nisi v zaostanku — si točno na tisti točki, kjer testiranje postane koristno. Popravek te nič ne stane. Gre za disciplino, ne za proračun.
Zakaj “kar preizkusi celotno prenovo” ne odgovori na nič
Običajni izgovor je hitrost: sklopiti pet sprememb v en test se zdi kot pet testov v enem. Pa ni. Sklopljeni test odgovori na eno vprašanje — “je ta celotni paket boljši od starega paketa?” — in celo ta odgovor je krhek, ker se elementi lahko med seboj bijejo. Močnejša zadeva bi lahko rezultate dvignila za precej, medtem ko jih je nova postavitev vlekla navzdol, pri čemer se je izšlo v majhno zmago. Postavitev bi objavil skupaj z zadevo in nikoli ne bi vedel, da si objavil ročno zavoro.
Za sklopljene teste obstaja svoj prostor: kadar je email resnično pokvarjen, ga zamenjaj v celoti in se ne pretvarjaj, da gre za eksperiment. Najprej prenovi, nato od nove izhodiščne različice testiraj posamezne spremenljivke. Česar ne smeš narediti, je obravnavati rezultat prenove kot dokaz o katerem koli posameznem elementu. Širši seznam načinov, kako gredo testi narobe, se splača prebrati, preden zaženeš naslednjega — zakaj večina e-trgovinskih A/B-testov daje zavajajoče rezultate pokriva preostanek seznama.
Kje denar dejansko odteka
Zamegljeni testi te stanejo dvakrat.
Prvič, napačne uvedbe. Recimo, da je tvoj sklopljeni test emaila košarice “zmagal” in kopiraš njegov popust v svojo pozdravno serijo, tok za ponovno pridobitev in emaile o opuščenem brskanju. Če je bila resnična gonilna sila zadeva, si zdaj trem dodatnim tokovom pripel nepotrebno 10-odstotno razdajanje marže. V trgovini z 50.000 € prometa na mesec in že skromnim deležem prihodka, ki priteka skozi te tokove, je to resničen denar vsak mesec, izplačan za lekcijo, ki je pravzaprav nikoli nisi dobil. (Ilustrativne številke — izračunaj svoje z lastnim prihodkom in maržo toka.)
Drugič, ponovno testiranje. Vsak nejasen rezultat se sčasoma znova zažene pravilno, kar pomeni, da svoje občinstvo porabiš dvakrat. Obseg pošiljanja je proračun. Seznam s 15.000 stiki podpira le omejeno število zaupanja vrednih testov na četrtletje, zamegljen test pa porabi enako občinstvo kot čist.
Kaj šteje za “eno spremenljivko” (ožje, kot bi pričakoval)
Tukaj se še pošteni testerji spotaknejo. Nekatere spremembe so videti kot ena spremenljivka, pa so dejansko več:
- “Nova predloga” je hkrati postavitev, tipografija, velikosti slik, slog gumbov in vrstni red vsebine. Oblikovne spremembe potrebujejo lastno skrbno obravnavo — glej A/B-testiranje oblikovanja emailov, ne da bi zmedli rezultate.
- “Dodajanje popusta” običajno spremeni tudi zadevo, ker ga boš želel objaviti. Zdaj testiraš ponudbo in zadevo skupaj. Če ga moraš objaviti, sprejmi, da testiraš paket “popust + objava”, in to zapiši v opombe.
- Sprememba časa pošiljanja spremeni, kateri del tvojega seznama je buden in brska — sestava občinstva se premika skupaj z uro, tako da je časovni test tiho tudi test občinstva.
In en bolj prefinjen primer, ki ga velja poznati. Ko testiraš zadeve in nato med obema krakoma primerjaš stopnje klikov, si na spolzkih tleh: zadeva je spremenila, kdo je odprl, zato ljudje, ki klikajo v kraku A, niso ista množica kot v kraku B. Zadeva, ki zbuja radovednost, lahko privabi dodatne odpiranja od bralcev z majhnim namenom in povleče stopnjo klikov navzdol, ne da bi bilo telo sporočila kaj slabše. Zadevo sodi po odpiranjih, številke nadaljnjih korakov iz tega testa pa obravnavaj kvečjemu kot usmeritvene.
Disciplina, korak za korakom
- Najprej zapiši vprašanje. En stavek: “Ali omemba imena izdelka v zadevi emaila o košarici prinese več odpiranj kot splošni opomnik?” Če tega ne moreš ubesediti v enem stavku, testiraš več kot eno stvar.
- Izberi eno merilo, ki lahko odgovori nanj. Zadeva → stopnja odpiranj. Besedilo ali položaj gumba → stopnja klikov. Ponudba → naročila in prihodek na prejemnika. Odločanje o merilu, potem ko rezultati prispejo, je način, kako se pregovoriš v tisti odgovor, ki si ga želel.
- Zamrzni vse ostalo. Enak čas pošiljanja, enak segment, enaka predloga, enaka ponudba. Kopiraj različico A, spremeni en element, končano.
- Razdeli naključno in enakomerno. Prepusti orodju, da razdeli prejemnike 50/50. Nikoli ne deli ročno (“novi naročniki dobijo B”) — to je primerjava segmentov, preoblečena v test.
- Pusti, da teče do resničnega vzorca. Ne kukaj prvi dan in ne kronaj zmagovalca. Trajanje in velikost vzorca imata svojo logiko, razloženo v kako dolgo naj teče e-trgovinski A/B-test emaila.
- Zabeleži rezultat, zmago ali poraz. Enovrstični dnevnik — datum, spremenljivka, merilo, izid — spremeni posamezne teste v znanje, ki se sešteva, in ti prepreči, da bi znova zaganjal poraženca prejšnjega četrtletja.
Pomembno je tudi zaporedje: en test na občinstvo naenkrat. Če na istem segmentu v istem tednu tečeta test zadeve in test časa pošiljanja, se žice prekrižajo. Postavi ju v vrsto.
Primer iz trgovine
Trgovina, ki prodaja izdelke za nego kože, želi izboljšati svoj email s prodajo dodatkov po nakupu. Skušnjava: nova zadeva, novi izdelki, dodaj nujnost, vse hkrati. Disciplinirana različica namesto tega zažene tri teste v približno šestih tednih — najprej zadeva A proti B (merilo: odpiranja), nato od zmagovalne izhodiščne različice en izpostavljeni izdelek proti mreži treh izdelkov (merilo: kliki), nato z rokom proti brez roka (merilo: naročila na prejemnika). Trije čisti odgovori. Vsak zmagovalec postane kontrola za naslednji test in do konca lastnik ve, kateri elementi si zaslužijo svoje mesto — znanje, ki se prenese na vsak drug tok v računu. (Ilustrativni primer.)
Kako izmeriti, ali navada deluje
- Eno odločeno vprašanje na test — če se test konča in ne moreš v enem stavku povedati, kaj si se naučil, ni bil čist.
- Prihodek na prejemnika za tok, ki ga izboljšuješ, spremljan iz meseca v mesec — smisel vsega tega je dvig, ki se sešteva, in ta številka je tam, kjer se pokaže.
- Zaupanje pri uvedbi — preštej, kako pogosto znova uporabiš ugotovitev v drugem toku. Čiste ugotovitve potujejo, zamegljene ne.
Kje se vklopi Omnisend
Vsaka spodobna platforma zna razdeliti občinstvo. V svojih trgovinah uporabljam Omnisend in tukaj je pomembno to, da te njegovo A/B-testiranje kampanj skoraj po naključju ohranja pri poštenju: podvojiš sporočilo, spremeniš en element in izbereš zmagovalno merilo pred pošiljanjem, kar postavi na začetek natanko tiste odločitve, o katerih govori ta članek. Znotraj avtomatizacij podpira tudi delitve, tako da se disciplina ene spremenljivke razteza na tokove, ne le na kampanje — mehanika se razlikuje dovolj, da A/B-testiranje vej avtomatizacije dobi svoj lastni vodnik. Omnisend je partner Shopimationa v affiliate programu; priporočam ga, ker je to tisto, kar dejansko uporabljam. Disciplina sama je brezplačna in deluje v katerem koli orodju.
Tvoj naslednji korak
Izberi tok, ki ti prinese največ denarja, in zapiši eno vprašanje z eno spremenljivko o njegovem prvem emailu — en stavek, eno merilo. Ta teden zaženi ta test in nič drugega. Če nisi prepričan, katero vprašanje si zasluži prvo mesto, je kaj naj e-trgovina A/B-testira najprej pravo mesto za začetek.
