Personalisierte Empfehlungsalgorithmen können das Lernverhalten verzerren, indem sie die Informationssammlung stark einschränken, zu ungenauen Kategoriebewertungen führen und ein überhöhtes Vertrauen in ungenaue Entscheidungen erzeugen.

Key Takeaway

Personalisierte Empfehlungsalgorithmen können das Lernverhalten verzerren, indem sie die Informationssammlung stark einschränken, zu ungenauen Kategoriebewertungen führen und ein überhöhtes Vertrauen in ungenaue Entscheidungen erzeugen.

Summary

Einführung und Relevanz

• Personalisierte Algorithmen sind seit den 2000er Jahren weit verbreitet (Google, Facebook, YouTube).
• Ziel: Nutzer länger zu binden und gezieltere Werbung zu ermöglichen.
• Problem: Die Algorithmen liefern kein repräsentatives Sample aller Informationen, was zu Verzerrungen des Weltbilds führen kann.
• Konzept des „Filter Bubbles“ (Pariser, 2011; Yesilada & Lewandowsky, 2022) beschreibt die Isolation durch selektive Informationsflut.

Theoretischer Hintergrund

• Frühere Studien fokussierten auf selective recommendation (Hannak et al., 2013; Krafft et al., 2019) und auf kognitive Modelle zur Verbesserung der Empfehlungen (Bourgin et al., 2021).
• Bisher wenig Fokus auf den Einfluss von Personalisierung auf grundlegende kognitive Mechanismen und das Verständnis der Welt.
• Hypothese: Personalisierung überrepräsentiert bevorzugte Kategorien oder Dimensionen und unterrepräsentiert wertvolle Alternativen, was zu verzerrter Kategoriebewertung führt.

Experimentelles Design

• Verwendung synthetischer Stimuli, um Vorurteile zu minimieren.
• Angewandte Empfehlungsschema analog zu Covington et al. (2016) für Content-Sharing‑Dienste.
• Kontinuierliche Interaktion zwischen Nutzer und Algorithmus simuliert, ähnlich der realen Nutzung.
• Ziel: Effekte von Personalisierung auf Category Learning messen.

Methoden

• Genehmigung durch IRB der Ohio State University.
• 343 (346 mit Duplikaten) Probanden über Prolific, bezahlt $10.
• Minimum 20 Teilnehmer pro Bedingung (3 Kategorienstrukturtypen × 5 Lernsequenzmanipulationen).
• Keine detaillierten Demografie‑Daten, um Einflüsse von Vorwissen zu vermeiden.
• Online‑Experiment, Teilnehmer 18 + , Englischsprachig, normal/korrekturierte Sicht.

Ergebnisse (aus Abstract)

• Lernende in personalisierten Umgebungen wählten Informationsfeatures selektiver.
• Ergebnisse: Unzutreffende Darstellungen von Kategorien.
• Übergewichtiges Vertrauen: Lernende berichteten hohe Zuversicht trotz ungenauer Entscheidungen, insbesondere bei wenig erforschten Kategorien.

Öffentliche Bedeutung

• Personalisierung kann zu Stereotypisierung und konzeptuellen Verzerrungen führen.
• Gesellschaftliche Implikationen: Fehlinterpretationen von Informationen und Überträgung von begrenztem, voreingenommenem Wissen auf neue Domänen.
• Betont die Notwendigkeit, Lernumgebungen zu diversifizieren, wenn Algorithmen eingesetzt werden.

Schlüsselbegriffe

• Category Learning
• Personalization
• Recommendation Algorithm
• Filter Bubble

Quelle: https://psycnet.apa.org/fulltext/2026-31272-001.html