ANOVA — Varianzanalyse einfach erklärt

ANOVA, kurz für Varianzanalyse, prüft, ob sich der durchschnittliche Wert zwischen mehreren Gruppen unterscheidet. Bei einer einfaktoriellen ANOVA vergleicht man die Variation zwischen den Gruppenmittelwerten mit der Variation innerhalb der Gruppen. Daraus ergibt sich die $F$-Statistik.

Sie ist meist das richtige Werkzeug, wenn du eine kategoriale Gruppierungsvariable, eine quantitative Zielvariable und einen einzigen Gesamttest möchtest, statt viele einzelne $t$-Tests durchzuführen. Ist die Variation zwischen den Gruppen groß im Verhältnis zur Variation innerhalb der Gruppen, ist das ein Hinweis darauf, dass nicht alle Populationsmittelwerte gleich sind.

Für eine klassische einfaktorielle ANOVA lautet die Teststatistik

$$F = \frac{MS_B}{MS_W}$$

wobei $MS_B$ das mittlere Quadrat zwischen den Gruppen und $MS_W$ das mittlere Quadrat innerhalb der Gruppen ist. Ein größeres $F$ deutet darauf hin, dass die Gruppenmittelwerte stärker voneinander getrennt sind, als man allein durch gewöhnliche Streuung innerhalb der Gruppen erwarten würde.

Was ANOVA testet

Die übliche Nullhypothese für eine einfaktorielle ANOVA ist

$$H_0: \mu_1 = \mu_2 = \cdots = \mu_k$$

Die Alternative ist nicht „alle Mittelwerte sind verschieden“. Sie ist schwächer: Mindestens ein Gruppenmittelwert unterscheidet sich von mindestens einem anderen Gruppenmittelwert.

Dieser Punkt ist wichtig, weil ANOVA ein Gesamttest ist. Ein signifikantes Ergebnis sagt, dass es irgendwo Hinweise auf einen Unterschied gibt, aber nicht, welche Gruppen sich unterscheiden. Dafür braucht man meist anschließende Vergleiche.

Warum ANOVA Varianz verwendet, um Mittelwerte zu vergleichen

Der Name wirkt zuerst etwas widersprüchlich. Wenn ANOVA von Mittelwerten handelt, warum verwendet sie dann Varianz?

Weil Varianz eine saubere Möglichkeit bietet, zwei Arten von Streuung zu messen:

1. Streuung der Gruppenmittelwerte um den Gesamtmittelwert.
2. Streuung einzelner Beobachtungen um den jeweiligen Gruppenmittelwert.

Wenn die erste Art von Streuung viel größer ist als die zweite, wirken die Gruppen stärker getrennt, als es durch gewöhnliche Schwankungen innerhalb der Gruppen normalerweise entstehen würde.

Wann eine einfaktorielle ANOVA geeignet ist

Die einfaktorielle ANOVA wird verwendet, wenn ein kategorialer Faktor die Beobachtungen in Gruppen aufteilt und du den Mittelwert einer quantitativen Zielvariable zwischen diesen Gruppen vergleichen möchtest.

Beispiele sind der Vergleich durchschnittlicher Testergebnisse zwischen Unterrichtsmethoden, durchschnittlicher Ernteerträge zwischen Düngemitteln oder durchschnittlicher Reaktionszeiten zwischen Behandlungsbedingungen.

Für die klassische einfaktorielle ANOVA sind die wichtigsten Annahmen:

1. Die Beobachtungen sind unabhängig.
2. Die Zielvariable wird auf einer quantitativen Skala gemessen.
3. Die Gruppenvarianzen sind einigermaßen ähnlich.
4. Das Modell passt nicht deutlich schlecht zur Form der Daten, besonders bei kleinen Stichproben.

ANOVA kann in vielen Situationen trotzdem recht robust sein, besonders bei ausgewogenen Gruppen und mittleren Stichprobengrößen, aber das hängt vom Studiendesign ab. Wenn die Daten gepaart sind, an denselben Personen wiederholt gemessen wurden oder stark ungleiche Varianzen haben, ist die gewöhnliche einfaktorielle ANOVA möglicherweise nicht das richtige Werkzeug.

Beispiel für eine einfaktorielle ANOVA

Angenommen, eine Lehrkraft möchte drei Lernmethoden anhand von Quizpunkten vergleichen:

1. Methode A: $72$, $74$, $76$
2. Methode B: $78$, $80$, $82$
3. Methode C: $84$, $86$, $88$

Die Gruppenmittelwerte sind

$$\bar{x}_A = 74, \qquad \bar{x}_B = 80, \qquad \bar{x}_C = 86$$

Der Gesamtmittelwert über alle $9$ Werte ist

$$\bar{x} = 80$$

Nun zerlegen wir die Variation in zwei Teile.

Schritt 1: Variation zwischen den Gruppen

Jede Gruppe hat $3$ Beobachtungen, also ist die Quadratsumme zwischen den Gruppen

$$SS_B = 3(74-80)^2 + 3(80-80)^2 + 3(86-80)^2$$ $$SS_B = 3(36) + 0 + 3(36) = 216$$

Mit $k=3$ Gruppen sind die Freiheitsgrade zwischen den Gruppen $k-1=2$, also

$$MS_B = \frac{SS_B}{k-1} = \frac{216}{2} = 108$$

Schritt 2: Variation innerhalb der Gruppen

Innerhalb jeder Gruppe liegen die Werte auf beiden Seiten nur $2$ Punkte vom Gruppenmittelwert entfernt:

$$SS_W = (4+0+4) + (4+0+4) + (4+0+4) = 24$$

Mit insgesamt $N=9$ Beobachtungen sind die Freiheitsgrade innerhalb der Gruppen $N-k=6$, also

$$MS_W = \frac{SS_W}{N-k} = \frac{24}{6} = 4$$

Schritt 3: Die $F$-Statistik berechnen

Nun berechnen wir

$$F = \frac{MS_B}{MS_W} = \frac{108}{4} = 27$$

Ein so großer $F$-Wert bedeutet, dass die Gruppenmittelwerte weit auseinanderliegen im Vergleich zur Variation innerhalb der Gruppen. Unter den üblichen Annahmen der einfaktoriellen ANOVA ist das ein starker Hinweis gegen die Nullhypothese, dass alle drei Populationsmittelwerte gleich sind.

Die praktische Deutung ist einfach: Die Unterschiede zwischen den drei Lernmethoden sind zu groß, um sie allein als gewöhnliche Streuung innerhalb der Gruppen abzutun.

Was ANOVA dir nicht sagt

ANOVA sagt dir nicht, welches konkrete Gruppenpaar sich unterscheidet. Nach einem signifikanten Gesamtergebnis braucht man meist Post-hoc-Vergleiche oder geplante Kontraste.

Sie sagt dir auch nicht, dass der Effekt praktisch wichtig ist. Ein statistisch nachweisbarer Unterschied kann in der realen Anwendung trotzdem zu klein sein, um relevant zu sein.

Wenn die Studie nicht randomisiert war, beweist ANOVA außerdem nicht, dass die Gruppierungsvariable den Unterschied verursacht hat. Sie prüft nur, ob die Gruppenmittelwerte in den erhobenen Daten unterschiedlich aussehen.

Häufige Fehler bei ANOVA

Ein häufiger Fehler ist die Annahme, ANOVA sei hauptsächlich ein Test darauf, ob die Gruppenvarianzen gleich sind. In der Standardanwendung vergleicht ANOVA Mittelwerte. Varianz taucht auf, weil sie das Werkzeug ist, mit dem Signal und Rauschen gemessen werden.

Ein weiterer Fehler ist, bei mehreren Gruppen viele einzelne $t$-Tests statt einer einzigen Gesamt-ANOVA durchzuführen. Das kann das Risiko falsch-positiver Ergebnisse erhöhen, wenn die Vergleiche nicht sorgfältig angepasst werden.

Ein dritter Fehler ist, nach einer signifikanten ANOVA aufzuhören und zu behaupten, man wisse genau, welche Gruppe gewonnen hat. Der Gesamttest beantwortet das für sich allein nicht.

Wo ANOVA verwendet wird

ANOVA ist verbreitet in Experimenten, Produkttests, Bildung, Biologie, Landwirtschaft und Sozialwissenschaften. Sie ist nützlich, wenn du einen einzigen gut begründbaren Test für Mittelwertunterschiede über mehrere Gruppen hinweg brauchst.

Besonders hilfreich ist sie, wenn die eigentliche Frage vergleichend ist: Erzeugen diese Behandlungen, Methoden oder Bedingungen messbar unterschiedliche durchschnittliche Ergebnisse?

Probiere deine eigene Variante

Nimm dasselbe Beispiel und ändere Methode B zu $79$, $80$, $81$. Berechne $SS_W$, $MS_W$ und die endgültige $F$-Statistik neu. Diese eine Änderung macht die Grundidee sichtbar: Wenn das Rauschen innerhalb der Gruppen zunimmt, wird der Hinweis auf einen echten Mittelwertunterschied schwächer.