Zum Inhalt springen
Die Wissenschaft

Sorgfalt, keine Magie

Panelia ist kein „Chatbot, der Noten vergibt“. Es ist eine veröffentlichte Elizitationsmethode, kalibriert an menschlichen Daten, die ihre Unsicherheit ausweist. So funktioniert es im Detail.

Das Problem klassischer Studien

Nur große Marken betreiben regelmäßig Marktforschung. Alle anderen entscheiden aus dem Bauch heraus, denn klassische Forschung ist:

  • Teuer: 5.000 € bis 50.000 € pro Studie (Rekrutierung, Incentives, Auswertung).
  • Langsam: 3 bis 8 Wochen zwischen Briefing und Ergebnissen.
  • Starr: Jede Konzeptvariante ist eine neue kostenpflichtige Studie.
  • Verzerrt: kleine Stichproben, Rekrutierungsverzerrung, soziale Erwünschtheit.

Die Methode, verständlich erklärt

Die zentrale Idee des Papers: die Erzeugung der Meinung von ihrer Messung entkoppeln. Wir fragen keine Zahl ab, wir messen die Nuance einer freien Antwort.

Warum nicht direkt eine Note abfragen?

Ein LLM nach einer „Note von 1 bis 5“ zu fragen, ergibt degenerierte Verteilungen (alle antworten 4), eine starke Prompt-Abhängigkeit und eine schwache Korrelation mit dem Menschen. Die Lösung: die Persona frei sprechen lassen und diesen Text anschließend von außen bewerten.

  1. 1

    1. Vielfältige Personas

    Wir erzeugen eine heterogene Population synthetischer Befragter (Alter, sozioökonomischer Status, Region, Einstellungen), um die Varianz wiederherzustellen.

  2. 2

    2. Antwort in natürlicher Sprache

    Jede Persona reagiert auf das Konzept mit einem Verbatim, in der Sprache und Kultur des simulierten Marktes.

  3. 3

    3. Likert-Wert per Ähnlichkeit

    Wir vergleichen das Embedding des Verbatims mit Ankersätzen (einer je Stufe); die Kosinus-Ähnlichkeit ergibt einen kontinuierlichen Wert und anschließend einen kalibrierten Score.

Die Ankersätze (Beispiel DE, Kaufabsicht)

Das Scoring vergleicht jedes Verbatim mit einem versionierten, je Sprache validierten Ankerset. Beispiel auf einer 5-stufigen Likert-Skala:

StufeAnkersatz
1Ich würde es ganz sicher nicht kaufen, das interessiert mich überhaupt nicht.
2Es ist unwahrscheinlich, dass ich es kaufe, es überzeugt mich nicht wirklich.
3Ich bin mir nicht sicher, vielleicht, das käme darauf an.
4Ich würde es wahrscheinlich kaufen, es interessiert mich.
5Ich würde es ohne zu zögern kaufen, das ist genau das, was ich brauche.

Die Veröffentlichung

„LLMs Reproduce Human Purchase Intent via Semantic Similarity Elicitation of Likert Ratings“ (arXiv 2510.08338, Oktober 2025).

Autoren: B. F. Maier, U. Aslak, L. Fiaschi, N. Rismal, K. Fletcher, C. C. Luhmann, R. Dow, K. Pappas, T. V. Wiecki.

Ergebnis: Richtig geprompted und kalibriert reproduzieren LLMs die Verteilungen der menschlichen Kaufabsicht auf einem statistisch nutzbaren Niveau, unter anderem bewertet über einen LightGBM-Klassifikator.

Lebendiger Benchmark

Unsere Kalibrierung

Wir bitten nicht um blindes Vertrauen: Wir messen laufend die Abweichung zwischen unseren synthetischen Ergebnissen und menschlichen Referenzdaten (öffentliche Datensätze, Partner-Validierungen, internes Hold-out) und weisen sie aus.

Korrelation synthetisch ↔ menschlich
0,92
Fehler bei der Top-2-Box
4 %
Abdeckung der KI
94 %
Verglichene Konzepte
26

Je größer die Validierungsbasis wird, desto besser und belastbarer wird die Methode. Ein echter Datennetzwerk-Effekt.

Indikative Daten, Version showcase-v1

Kalibrierung: synthetische vs. menschliche Absicht
1122334455Menschliche Absicht (Referenz)Panelia-Absicht
Menschliche vs. synthetische Absicht, je Konzept
MenschlichSynthetisch
1.41.5
1.71.6
1.92.1
2.12
2.32.5
2.52.4
2.62.8
2.82.7
2.93.1
32.9
3.13.3
3.23.1
3.33.5
3.43.3
3.53.6
3.63.4
3.73.9
3.83.7
3.94.1
43.9
4.14.3
4.24.1
4.34.2
4.54.6
4.64.4
4.84.7

Konfidenzintervalle & Verlässlichkeitswert

Jede Studie weist einen Verlässlichkeitsindex aus, abgeleitet aus der Kalibrierungsdichte der Kategorie, der Panelgröße (N → Breite der KI) und der internen Konsistenz der Antworten.

Verlässlichkeit A

Große Stichprobe: enge Konfidenzintervalle, hohe Verlässlichkeit.

Verlässlichkeit B

Mittlere Stichprobe: gute Verlässlichkeit, Spannen beachten.

Verlässlichkeit C

Kleine Stichprobe: indikatives Ergebnis, auf größerem Panel bestätigen.

Multi-Modell-Panel

Ein Gremium von Modellen, kein einzelner Richter

Jeder synthetische Befragte stammt aus einer anderen Modellfamilie. Mehrere KIs zu kombinieren verdünnt die Verzerrung eines einzelnen Modells — wie ein vielfältiges menschliches Panel statt einer einzigen Meinung.

  • Claude
  • GPT
  • Gemini
  • Grok
  • Mistral

Weniger Einzelmodell-Verzerrung

Ein einzelnes LLM zwingt dem gesamten Panel seinen Stil und seine Trainingskultur auf. Verteilt man die Befragten auf fünf Familien (Claude, GPT, Gemini, Grok, Mistral), wird die idiosynkratische Verzerrung jeder einzelnen abgeschwächt.

Weniger Abhängigkeit

Ist ein Anbieter nicht verfügbar oder gedrosselt, läuft die Studie auf den anderen Modellen weiter. Keine Studie hängt von einem einzigen Anbieter ab.

Vielfalt und Souveränität

Der Pool umfasst ein europäisches Modell (Mistral) neben den US-Modellen — für echte kulturelle und technologische Vielfalt.

Bewiesen, nicht versprochen

Jede Antwort speichert das Modell, das sie erzeugt hat: die Aufteilung pro Anbieter ist nachvollziehbar und überprüfbar.

In voller Transparenz: Das mildert die Verzerrung, beseitigt sie aber nicht vollständig. Wir kennzeichnen es entsprechend.

FAQ Glaubwürdigkeit

Ersetzt das eine echte Studie?

Es ist ein Werkzeug zur Entscheidungsunterstützung und Priorisierung, kein vollständiger Ersatz für die Feldarbeit bei Entscheidungen mit sehr hohem Einsatz. Ideal, um Konzepte zu sichten, eine Botschaft oder ein Packaging vorzutesten und schnell zu iterieren. Die Feldarbeit behalten Sie für die wirklich kritischen Abwägungen.

Warum ist es verlässlich, obwohl es so günstig ist?

Der niedrige Preis kommt vom marginalen Compute (Haiku-Modell, Batch API, Caching), nicht von einem Kompromiss bei der Methode. Die Sorgfalt bleibt identisch: semantische Elizitation, Kalibrierung, Konfidenzintervalle. Einbrechen tun allein die Produktionskosten.

Und die Verzerrungen der KI?

Sie existieren (Homogenität, Stereotype, kulturelle Verzerrung oder soziale Erwünschtheit). Wir mildern sie durch erzwungene Persona-Vielfalt, Prompt-Leitplanken, lokalisierte Anker und eine marktspezifische Kalibrierung, die den systematischen Versatz korrigiert. Und wir weisen die Fälle mit geringer Verlässlichkeit aus, statt sie zu verbergen.

Bereit, die Methode in Aktion zu sehen?

Starten Sie eine kostenlose Studie oder lesen Sie die Forschungsarbeit, auf der Panelia beruht.