Bias

Aus ZUM Deutsch Lernen

Bias (englisch für „Verzerrung“) bezeichnet in KI-Systemen keine zufälligen Fehler, sondern systematische Schieflagen in den Ausgaben. Für die Landeskunde ist Bias besonders bedeutsam, weil KI-Systeme dabei bestimmte Bilder von Kultur, Normalität und Zugehörigkeit als scheinbar neutrale Wirklichkeit ausgeben. Bias ist kein technischer Defekt und keine Absicht der Entwickelnden, sondern eine strukturelle Eigenschaft der Art, wie generative Modelle lernen.

Wie Bias entsteht

Die Entstehung lässt sich in vier Schritten beschreiben.

Datengrundlage. Große Sprachmodelle lernen aus sehr großen, kaum gefilterten Textmengen des Internets. Dieses Netz bildet die Welt nicht neutral ab: Englischsprachige, westliche und mehrheitsgesellschaftliche Perspektiven sind überrepräsentiert. Wer aus einem verzerrten Abbild lernt, lernt die Verzerrung mit (Bender u. a. 2021).

Speicherung von Bedeutung. Schon einfache Wortvektoren übernehmen messbar menschliche Stereotype. Caliskan, Bryson und Narayanan (2017) zeigten, dass ein rein aus Webtexten trainiertes Modell dieselben Assoziationen aufweist wie Menschen, etwa die Kopplung bestimmter Berufe an ein Geschlecht. Der Bias sitzt also in der Struktur der gelernten Bedeutung selbst.

Vorhersagelogik. Ein generatives Modell erzeugt jeweils die statistisch wahrscheinlichste Fortsetzung, das nächste Wort oder das plausibelste Bildelement. Damit wird das Häufige zum Standard und das Seltene verschwindet.

Verstärkung. Modelle geben Verzerrungen nicht nur wieder, sie können sie über das Maß der Daten hinaus verstärken. Hinzu kommt eine Rückkopplung: KI-erzeugte Inhalte gelangen ins Netz zurück und werden zum Trainingsmaterial der nächsten Modellgeneration.

Formen von Bias im Landeskundeunterricht

Form Bedeutung Beispiel
Repräsentationsbias Häufiges in den Daten wird zur Norm „Eine deutsche Familie“ ergibt im Bild fast immer eine weiße Kleinfamilie
Kultureller Bias Westliche Perspektiven dominieren Werte werden anglophon gerahmt statt aus der Zielkultur heraus
Sprachbias Das Ergebnis hängt von der Sprache der Eingabe ab „typical German family“ erzeugt andere Bilder als „typische deutsche Familie“
Gender-Bias Rollen und Berufe werden stereotyp verteilt Pflegeberufe weiblich, technische Berufe männlich dargestellt
Sichtbarkeitsbias Minderheiten und Regionen fehlen Rund 30 Prozent der Bevölkerung in Deutschland haben einen Migrationshintergrund (Statistisches Bundesamt 2024), im Bildmaterial erscheinen sie kaum
Bestätigungsbias Auf Seiten der Nutzenden: flüssige Ausgaben werden ungeprüft übernommen Ein sprachlich überzeugender Text wird ohne Quellenprüfung ins Material übernommen
Disclaimer-Bias Vielfalt wird vorangestellt behauptet, die Norm folgt im Detail Der Text betont zuerst, es gebe nicht „die eine“ deutsche Familie, und beschreibt anschließend doch Kleinfamilie, Reihenhaus und Verein

Der zuletzt genannte Disclaimer-Bias ist eine neuere Erscheinung. Er entsteht, wenn Anbieter ihre Modelle auf Vielfalt hin nachjustieren, ohne dass sich die zugrunde liegenden Muster ändern. Die Verzerrung verschwindet dabei nicht, sie rückt eine Ebene tiefer und wird dadurch schwerer erkennbar.

Warum Bias bleibt

Anbieter begegnen dem Problem mit unterschiedlichen Strategien: Sie wählen Trainingsdaten aus, dokumentieren sie, justieren das Modell über menschliche Rückmeldungen nach oder filtern Eingaben und Ausgaben. Prüfverfahren wie der Bias-Test BBQ messen, ob ein Modell bei mehrdeutigen Fragen auf Stereotype zurückfällt (Parrish u. a. 2022).

Vollständig beheben lässt sich Bias jedoch nicht. Die Daten spiegeln eine ungleiche Welt, ein neutraler Textbestand existiert nicht. Hinzu kommt, dass Neutralität selbst wertgebunden ist: Was in einem Land als selbstverständlich gilt, ist in einem anderen bereits eine Position. Und Gegenmaßnahmen können neue Fehler erzeugen. Als ein Anbieter 2024 seine Bildgenerierung pauschal auf mehr Vielfalt einstellte, entstanden historisch falsche Darstellungen, woraufhin die Funktion vorübergehend abgeschaltet wurde (Google 2024).

Für die Praxis folgt daraus: Bias lässt sich verringern, sichtbar machen und verantworten, aber nicht abschaffen. Die Entscheidung darüber, welches Kulturbild im Unterricht Geltung bekommt, bleibt bei der Lehrkraft.

Bedeutung für den DaF-/DaZ-Unterricht

Für die Landeskunde wiegt Bias schwerer als für andere Bereiche, weil die Verzerrungen genau dort ansetzen, wo es um Zugehörigkeit und Repräsentation geht. Eine KI, die nach der typischen deutschen Familie gefragt wird, glättet regionale, soziale und kulturelle Vielfalt. Das widerspricht dem Anspruch des kulturwissenschaftlichen Ansatzes, kulturelle Deutungen als vielfältig und aushandelbar erfahrbar zu machen.

Zugleich lässt sich Bias didaktisch nutzen. Ein sichtbar gewordenes Klischee ist ein Irritationsimpuls, mit dem kulturelles Lernen beginnen kann. Wo früher aufwendig Gegenbeispiele gesucht werden mussten, erzeugt die KI das Stereotyp unmittelbar und macht es besprechbar. Aus dem Ärgernis wird ein Einstieg in die Frage, wer in einem Kulturbild vorkommt und wer fehlt.

Diese Chance ist an Bedingungen geknüpft. Ohne anschließende Reflexionsphase kann die bloße Wiederholung ein Klischee eher verfestigen. Erforderlich sind außerdem ein passendes Sprachniveau (eher ab B1, siehe Niveaustufe) und Rücksicht auf Lernende, die von einem Stereotyp selbst betroffen sind.

Beispiel aus dem Unterricht

Eine kurze Sequenz für das Niveau B1, etwa 45 Minuten, mit einem datenschutzkonform verfügbaren Bildwerkzeug:

  1. Die Lerngruppe lässt ein Bild zu „eine typische deutsche Familie“ erzeugen und sammelt erste Reaktionen.
  2. Beschrieben wird ohne Bewertung: Wer ist zu sehen, wer fehlt?
  3. Die Beobachtungen werden mit Zahlen zur Bevölkerung verglichen. Woher stammt dieses Bild?
  4. Gemeinsam wird ein neuer, vielfaltssensibler Auftrag formuliert, etwa: „Beschreibe drei sehr unterschiedliche Familien in Deutschland und mache Herkunft, Familienform und Region sichtbar.“
  5. Beide Bilder werden verglichen, das Ergebnis wird begründet ausgewählt.

Der Lerngewinn liegt weniger im ersten Bild als im Vergleich der beiden. Sprachlich üben die Lernenden Beschreiben, Vergleichen und Begründen, medienkritisch erkennen sie die Herkunft der Verzerrung.

Kritik und offene Fragen

  • Die Ausgaben generativer Systeme sind nicht reproduzierbar. Dieselbe Eingabe kann beim nächsten Durchlauf ein anderes Ergebnis liefern, weshalb sich Unterrichtsbeispiele nur eingeschränkt planen lassen. Es empfiehlt sich, Eingaben vorab zu erproben und Ergebnisse zu dokumentieren.
  • Bleibt ein erwarteter Bias aus, ist auch das ein Befund. Er kann auf Nachjustierungen, Schutzmechanismen oder ein Modell-Update zurückgehen.
  • Verbreitete Prüfverfahren sind überwiegend am US-amerikanischen Englisch ausgerichtet. Für den internationalen DaF-Unterricht sind sie nur begrenzt aussagekräftig: Ein Modell, das auf Englisch als unauffällig getestet wurde, kann in anderen Sprachen deutlich verzerrt antworten.
  • Belastbare Studien zur Wirksamkeit der hier beschriebenen didaktischen Nutzung stehen bislang aus.

Siehe auch

Literatur

  • Altmayer, Claus (2004): Kultur als Hypertext. Zu Theorie und Praxis der Kulturwissenschaft im Fach Deutsch als Fremdsprache. München: iudicium.
  • Baum, Luisa / Günay, Gülsüm (Hg.) (2025): Künstliche Intelligenz in DaF/DaZ. Berlin: Frank & Timme.
  • Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret (2021): On the Dangers of Stochastic Parrots. Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, S. 610–623.
  • Bianchi, Federico u. a. (2023): Easily Accessible Text-to-Image Generation Amplifies Demographic Stereotypes at Large Scale. In: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency.
  • Caliskan, Aylin / Bryson, Joanna J. / Narayanan, Arvind (2017): Semantics derived automatically from language corpora contain human-like biases. In: Science 356 (6334), S. 183–186.
  • Fornoff, Roger / Koreik, Uwe (2020): Landeskunde/Kulturstudien und kulturelles Lernen im Fach DaF/DaZ. Eine Bestandsaufnahme und kritische Positionierung. In: Zeitschrift für Interkulturellen Fremdsprachenunterricht 25 (1), S. 563–648.
  • Parrish, Alicia u. a. (2022): BBQ. A Hand-Built Bias Benchmark for Question Answering. In: Findings of the Association for Computational Linguistics: ACL 2022, S. 2086–2105.
  • Statistisches Bundesamt (2024): Bevölkerung nach Migrationshintergrund. Mikrozensus, Erstergebnisse 2024.

Fachartikel

Weblinks

Verständnischeck: Bias

Mit diesem Verständnischeck können Sie selbst testen, ob Sie den Inhalt dieser Seite verstanden haben. Er ist als H5P-Question Set unter CC BY 4.0 eingebunden und lässt sich frei nachnutzen.


CC BY-SA 4.0


Abgerufen von „https://deutsch-lernen.zum.de/index.php?title=Bias&oldid=88703“