Wie man bessere Umfragen macht

Klassische Umfragen scheitern zunehmend an der Wirklichkeit. Eine neue Methode rückt das soziale Umfeld der Befragten in den Fokus – mit erstaunlichen Ergebnissen.

Der Sieg von Donald Trump war viel deutlicher, als es die Umfragen vorhergesehen haben
Der Sieg von Donald Trump war viel deutlicher, als es die Umfragen vorhergesehen haben © Getty Images
×

Auf den Punkt gebracht

  • Repräsentativität. Es wird immer schwieriger, wirklich ausgewogene Stichproben zu erzielen.
  • Herdeneffekt. Meinungsforscher gleichen sich an, statt abweichende Daten zu riskieren.
  • Soziale Kreise. Befragungen über das Umfeld liefern oft präzisere Vorhersagen als klassische Methoden.
  • Weisheit der Vielen. Kollektive Einschätzungen können ungenaue Einzelmeinungen ausgleichen.

Meinungsumfragen waren noch nie eine exakte Wissenschaft, aber die letzten Wahlen haben sie unzuverlässiger denn je erscheinen lassen. Werden die Umfragen wirklich immer schlechter, oder ist etwas anderes im Gange? Auf der Grundlage jahrelanger Forschung und praktischer Anwendung kann ich mit Sicherheit sagen, dass das Kernproblem nicht die Genauigkeit der Umfragen selbst ist. Es ist vielmehr die immer schwieriger werdende Herausforderung, in der heutigen sich schnell verändernden Welt eine repräsentative Stichprobe zu erhalten.

Das Problem mit traditionellen Umfragen

Jahrzehntelang haben sich Meinungsforscher auf bewährte Methoden verlassen: zunächst auf Umfragen per Brief, dann auf Telefonumfragen und schließlich auf Online-Panels. Der Goldstandard in der Umfragemethodik ist die probabilistische Stichprobe, bei der jede Person eine bekannte Chance hat, ausgewählt zu werden. Im Idealfall sollte die Teilnahme zufällig sein, und die Befragten sollten sich nicht selbst für die Teilnahme an Umfragen auswählen. Aber das ist heute leichter gesagt als getan.

Die Menschen ziehen häufig um, nehmen nur ungern Anrufe von Nummern entgegen, die sie nicht kennen, und bestimmte demografische Gruppen sind schwerer zu erreichen. Um dies auszugleichen, müssen die Meinungsforscher ihre Daten statistisch bereinigen – ein Prozess, der als Nachstratifizierung bezeichnet wird. Sie vergleichen ihre Stichprobe mit den neuesten Volkszählungsdaten und gewichten die Antworten neu, um sicherzustellen, dass unterrepräsentierte Gruppen (zum Beispiel Personen mit niedrigerem Bildungsstand oder bestimmte Altersgruppen) angemessen berücksichtigt werden.

Dieser Prozess ist jedoch mit einigen Herausforderungen verbunden. Die fehlenden Befragten sind nicht zufällig verteilt, sondern gehören oft zu bestimmten Gruppen mit unterschiedlichen Meinungen. Das bedeutet, dass das Nachstraftifizieren eine Kunst für sich geworden ist.

Der Herdeneffekt bei Umfragen

Ein weiteres Problem ist der so genannte „Herdeneffekt“. Wenn ein großes Meinungsforschungsinstitut vorhersagt, dass Kandidat A gewinnen wird, und meine Daten darauf hindeuten, dass Kandidat B vorne liegt, könnte ich Druck verspüren, meine Ergebnisse dahingehend zu korrigieren. Kein Meinungsforscher möchte der einsame Ausreißer sein, der sich geirrt hat. Es ist sicherer, zusammen mit allen anderen falsch zu liegen, als der Einzige zu sein, der gegen den Trend liegt und das Ziel verfehlt.

Kein Meinungsforscher möchte der einsame Ausreißer sein, der sich geirrt hat.

Dies kann zu einem irreführenden Konsens unter den Instituten führen – den es in den Rohdaten vielleicht gar nicht gab. Dazu kommt eine oft übersteigerte Erwartungshaltung in die Aussagekraft von Umfragen: Selbst wenn eine Umfrage innerhalb der Schwankungsbreite liegt, entsteht bei Beobachtern oft der Eindruck, die Meinungsforscher wären falsch gelegen – auch wenn das nicht der Fall war. Ein gutes Beispiel dafür sind die Wahlen in den USA im vergangenen Jahr. Donald Trumps Sieg über Kamala Harris lag in der Schwankungsbreite der meisten Umfragen. Trotzdem wirkte es so, als wären sie falsch gelegen, insbesondere weil Trump alle Swing States gewann und sich sein Sieg eindeutiger anfühlte als er eigentlich war.

Die Methode der sozialen Kreise

Um diese Probleme zu lösen, habe ich mit meinen Kollegen Wändi Bruine de Bruin, Henrik Olsson, Drazen Prelec mit einem alternativen Ansatz experimentiert. Anstatt die Befragten nur nach ihren eigenen Wahlpräferenzen zu fragen, fragen wir sie auch nach den Wahlabsichten ihres sozialen Umfelds – Freunde, Familie und Kollegen. Wir fragen natürlich nicht nach dem Namen und Wahlverhalten bestimmter Personen, sondern fragten allgemeine Einschätzungen über die politischen Einstellungen ihres Umfelds ab.

×

Zahlen & Fakten

Die Idee dahinter ist simpel: Wenn bestimmte Gruppen in den traditionellen Stichproben fehlen, können deren Präferenzen dennoch indirekt über ihre Freunde erfasst werden. Diese Methode wurde bereits bei mehreren Wahlen getestet, unter anderem in den USA, Frankreich, den Niederlanden, Schweden und Österreich. In allen Fällen führte die Befragung nach den Wahlabsichten der Freunde zu genaueren Vorhersagen als die Befragung von Einzelpersonen nach ihrer eigenen Stimmabgabe – also klassischer Umfragen.

Warum es funktioniert

Es gibt drei Hauptgründe, warum die Methode des sozialen Umfelds die Genauigkeit verbessert. Erstens hilft sie, Informationen über mögliche Wahlpräferenzen von Personen zu erhalten, die sonst nicht an der Umfrage teilnehmen würden. Zweitens erfasst sie den sozialen Einfluss. Wenn jemand unentschlossen ist, aber von Anhängern eines bestimmten Kandidaten umgeben ist, ist es wahrscheinlicher, dass er am Wahltag in diese Richtung tendiert. Drittens wird die Verzerrung durch soziale Erwünschtheit gemildert – so wird das Phänomen genannt, wenn jemand der Meinung ist, es gäbe eine sozial gewünschte Antwort. In Österreich etwa gaben FPÖ-Wähler lange Zeit zu einem geringeren Prozentsatz zu, ihre Partei zu wählen. Aber Menschen sind oft ehrlicher, wenn sie ihr soziales Umfeld beschreiben, als wenn sie ihre eigenen Präferenzen offenlegen.

In den USA haben wir zum Beispiel die Antworten verschiedener demografischer Gruppen analysiert – weiße Männer, weiße Frauen, schwarze Männer und schwarze Frauen. Interessanterweise tendierten weiße Männer und schwarze Frauen dazu, ihre eigenen Wahlabsichten genau anzugeben, während weiße Frauen und schwarze Männer größere Diskrepanzen zwischen ihrer persönlichen Wahlentscheidung und der Wahrnehmung der Wahl ihrer Freunde zeigten – sie gaben an, dass ihre Freunde Trump wählen würden, nicht aber dass sie das eventuell planten zu tun.

Der „Weisheit der Massen“-Effekt

Aber wir haben auch noch einen zweiten, verwandten Ansatz getestet. Er beruht auf dem bekannten Konzept der „Weisheit der Vielen“. Wenn man genügend Leute bittet, die Anzahl der Gummibärchen in einem Glas zu schätzen, liegt deren durchschnittliche Schätzung in der Regel näher an der richtigen Antwort als die Schätzungen der einzelnen Personen. Dasselbe Prinzip gilt für Wahlen: Durch die Zusammenfassung von Informationen aus sozialen Netzwerken lässt sich ein klareres Bild der Wählerschaft gewinnen.

Vergangenes Jahr sind wir auf etwas Unerwartetes gestoßen: Bislang hatten wir festgestellt, dass die Methode des sozialen Umfelds die besten Ergebnisse liefert, bei den Wahlen in Österreich und den USA 2024 aber lieferte die Methode der „Weisheit der Massen“ das genaueste Ergebnis. Wichtig dabei ist festzuhalten: Beide waren treffsicherer als die klassischen Umfragen. Trotzdem wirft das wichtige Fragen auf: Werden die Menschen weniger ehrlich, wenn sie über ihre Freunde berichten? Werden politische Diskussionen weniger häufig geführt, so dass die Genauigkeit der Berichte aus dem sozialen Umfeld abnimmt? Das sind Fragen, die wir weiter untersuchen müssen.

Warum hat sich diese Methode nicht durchgesetzt?

Die größte Frage aber ist: Warum übernimmt die Meinungsforschungsbranche diese Methoden trotz der vielversprechenden Ergebnisse höchstens sehr langsam? Ich denke, die Branche ist träge. Meinungsforscher ziehen es vor, etablierte Techniken zu verwenden, um Trends über einen längeren Zeitraum vergleichen zu können. Meinungsumfragen sind außerdem ein teures Unterfangen, bei dem viel auf dem Spiel steht, und methodische Änderungen in letzter Minute bergen Risiken. Außerdem folgen viele in der Branche dem, was andere tun, anstatt neue Ansätze zu entwickeln.

Ein Franzose hat mit Wetten auf einen Sieg von Donald Trump zwischen 30 und fast 50 Millionen Dollar verdient.

Obwohl wir unsere Ergebnisse in renommierten Fachzeitschriften wie Nature und auf renommierten Konferenzen wie der „American Association for Public Opinion Research“ vorgestellt haben, war das Engagement der Branche minimal. In letzter Zeit hat die Methode jedoch wieder an Aufmerksamkeit gewonnen. Ein Franzose hat mit Wetten auf einen Sieg von Donald Trump zwischen 30 und fast 50 Millionen Dollar verdient und seinen Erfolg führte er auf einen Ansatz analog zu unserem zurück. Er gab zwar nicht genau an, welche Methode er verwendete, aber sie deckt sich weitgehend mit unseren Untersuchungen. Das war der Zeitpunkt, an dem Journalisten wieder auf uns zukamen.

Die Zukunft der Meinungsforschung

Die Meinungsforschungsbranche muss sich anpassen. Mit den traditionellen Methoden wird es zunehmend schwieriger, eine zunehmend komplexe und polarisierte Wählerschaft zu erfassen. Die Methode der sozialen Kreise ist kein Allheilmittel, aber sie bietet ein wertvolles Instrument zur Verbesserung der Genauigkeit. Sie nutzt die kollektive Intelligenz und berücksichtigt verborgene Wählertrends, die bei herkömmlichen Umfragen oft übersehen werden.

Ich glaube, dass sich dieser Ansatz irgendwann durchsetzen wird. Die Frage ist nur, wann die Meinungsforscher den Wendepunkt erreichen, an dem sie sich gezwungen sehen, sich zu ändern. Bis dahin werden wir die Methode weiter verfeinern und auf eine breitere Akzeptanz drängen. Es steht viel auf dem Spiel, denn bei Wahlvorhersagen geht es nicht nur um Genauigkeit, sondern auch um das Vertrauen in die Demokratie selbst.

×

Conclusio

Status quo. Klassische Umfragen verlieren an Zuverlässigkeit. Die Branche hält dennoch an alten Methoden fest.

Potenzial. Neue Ansätze wie soziale Umfeldanalysen oder kollektive Schätzungen zeigen nachweislich höhere Präzision. Sie ermöglichen ein differenzierteres Bild der Wählerschaft.

Zukunft. Die Meinungsforschung steht vor einem Wendepunkt. Wer das Vertrauen in ihre Ergebnisse sichern will, muss bereit sein, umzudenken.

Mehr zu Demokratie

Unser Newsletter