Inhaltsübersicht 8 Kapitel
- 01Problem vor der Variante verstehen
- 02Eine überprüfbare Hypothese formulieren
- 03Primäre Metrik und Guardrails festlegen
- 04Stichprobe und Laufzeit realistisch planen
- 05Zuweisung und Technik stabil umsetzen
- 06Datenschutz und Einwilligung berücksichtigen
- 07Ergebnis interpretieren und Wissen sichern
- 08Ein priorisiertes Experimentprogramm statt Einzeltests führen
Problem vor der Variante verstehen
Beginnen Sie mit Daten und Beobachtung: Wo brechen Nutzer ab, welche Fragen bleiben offen und welche Rückmeldungen erhält Vertrieb oder Support? Ein Test ist sinnvoll, wenn mindestens zwei plausible Lösungen bestehen und ausreichend Nutzung vorhanden ist.
Offensichtliche Fehler, unlesbare Mobilansichten oder defekte Formulare werden direkt behoben, nicht gegen die schlechte Version getestet. Experimente sind für Unsicherheit gedacht, nicht als Ersatz für Qualitätssicherung.
Eine überprüfbare Hypothese formulieren
Eine gute Hypothese benennt Änderung, Zielgruppe, erwartetes Verhalten und Begründung. Beispiel: Eine kürzere Projektanfrage reduziert bei mobilen Erstbesuchern unnötige Abbrüche, weil weniger Informationen vor dem Erstkontakt verlangt werden.
Die Variante verändert möglichst einen zusammenhängenden Mechanismus. Werden Text, Layout, Preis und Navigation gleichzeitig geändert, lässt sich ein Ergebnis schwer erklären und übertragen.
Primäre Metrik und Guardrails festlegen
Die primäre Metrik entspricht dem Ziel: qualifizierte Formularabschlüsse, Käufe oder Terminbuchungen. Klicks auf einen Button sind nur ein Zwischenschritt. Zusätzlich schützen Guardrails vor Nebenwirkungen, etwa schlechterer Anfragequalität, höherer Retourenquote oder längerer Ladezeit.
Metrikdefinitionen werden vor dem Start dokumentiert. Mehrere gleichberechtigte Hauptziele erhöhen die Wahrscheinlichkeit zufälliger Treffer. Sekundäre Kennzahlen helfen bei der Erklärung, entscheiden aber nicht nachträglich allein über den Sieger.
- Primäre Conversion exakt definieren
- Qualität und wirtschaftlichen Wert ergänzen
- Technische Fehlerquote überwachen
- Segmente vorab statt nach Ergebnis wählen
Stichprobe und Laufzeit realistisch planen
Benötigte Stichprobe hängt von Ausgangsrate, kleinstem relevanten Effekt, gewünschter Sicherheit und Testverfahren ab. Websites mit wenigen Conversions können keine kleinen Unterschiede in wenigen Tagen zuverlässig erkennen.
Der Test sollte vollständige Geschäftszyklen und typische Wochentage abdecken. Saisonaktionen, Kampagnenwechsel und technische Ausfälle werden dokumentiert. Ein Ergebnis wird nicht beendet, nur weil ein Dashboard kurzzeitig einen hohen Vorsprung zeigt.
Zuweisung und Technik stabil umsetzen
Besucher werden zufällig und dauerhaft derselben Variante zugeordnet, damit der Seitenwechsel nicht verwirrt. Bot-Traffic, interne Tests und doppelte Ereignisse werden gefiltert. Beide Varianten müssen auf Mobilgeräten und in relevanten Browsern funktionieren.
Clientseitige Testskripte können Flackern und zusätzliche Ladezeit erzeugen. Performance und Barrierefreiheit gehören deshalb in die Abnahme. Bei SEO-relevanten Seiten darf die Implementierung Suchmaschinen nicht täuschen oder unterschiedliche irreführende Inhalte ausspielen.
Datenschutz und Einwilligung berücksichtigen
Welche Einwilligung erforderlich ist, hängt von Werkzeug, Daten, Speicher und Rechtsgrundlage ab und sollte fachkundig geprüft werden. Experimentdaten werden auf das notwendige Maß begrenzt; personenbezogene Profile sind für viele Tests nicht erforderlich.
Consent-Status darf Testgruppen nicht systematisch verzerren. Dokumentieren Sie, welche Besucher in der Auswertung enthalten sind. Datenschutz und statistische Aussagekraft werden gemeinsam geplant.
Ergebnis interpretieren und Wissen sichern
Ein statistischer Unterschied ist nicht automatisch wirtschaftlich relevant. Prüfen Sie Effektgröße, Unsicherheitsintervall, Guardrails und Anfragequalität. Ein neutrales Ergebnis ist ebenfalls wertvoll: Es verhindert, dass Aufwand in eine wirkungslose Änderung fließt.
Nach dem Test wird die gewählte Variante sauber in den regulären Code übernommen und das Experiment entfernt. Hypothese, Zeitraum, Ergebnis und Entscheidung landen in einem Testarchiv. Professionelle Begleitung lohnt besonders bei geringem Traffic, komplexem Tracking oder umsatzkritischen Checkout-Tests.
Ein priorisiertes Experimentprogramm statt Einzeltests führen
Eine Liste möglicher Tests wird nach erwartetem Nutzen, Evidenz, Aufwand und Risiko bewertet. Probleme mit hohem Geschäftsbezug und starken Datenhinweisen kommen zuerst. Dadurch testet das Team nicht nur leicht veränderbare Farben, während wichtige Hürden in Formular, Preisverständnis oder mobilem Checkout ungelöst bleiben.
Alle Experimente teilen ein Archiv aus Hypothese, Design, Laufzeit, Segmenten, Ergebnis und Entscheidung. Wiederholte neutrale Ergebnisse können zeigen, dass eine Seite nicht die eigentliche Ursache ist. Das Programm verknüpft quantitative Tests mit Interviews, Nutzungsbeobachtung und Supportwissen und entwickelt dadurch bessere nächste Hypothesen.
Kurz beantwortet
Häufige Fragen
Was ist ein A/B-Test?
Ein kontrolliertes Experiment, bei dem geeignete Besucher zufällig zwei Varianten sehen und eine vorher definierte Zielmetrik verglichen wird.
Wie lange muss ein A/B-Test laufen?
Bis die vorab geplante Stichprobe erreicht und ein sinnvoller Geschäftszyklus abgedeckt ist. Eine pauschale Anzahl Tage ist nicht seriös.
Kann man mehrere Änderungen gleichzeitig testen?
Ja, als zusammenhängende Variante. Dann lässt sich jedoch nur das Gesamtpaket bewerten, nicht zuverlässig die Wirkung jedes einzelnen Elements.
Was bedeutet ein nicht signifikanter Test?
Dass mit den vorhandenen Daten kein ausreichend sicherer Unterschied nachgewiesen wurde. Das ist kein Beweis für exakt gleiche Wirkung.



