Vorurteile, Stereotype & Bias von KI aufdecken:
Wenn eine KI nach einem Arzt oder einer Ärztin gefragt wird, zeigt sie fast immer einen Mann. Wenn ein Bildgenerator eine Führungskraft darstellen soll, erscheint in bis zu 97 Prozent der Fälle ein weißer Mann. Das ist kein Zufall – und kein Fehler. Es ist Bias. Vorurteile, Stereotype und Diskriminierungsmuster, die in Daten stecken, mit denen KI-Systeme trainiert werden.
Joscha Falck ist Mittelschullehrer an der Mittelschule Rednitzhembach und Schulentwicklungsmoderator in einem Innovationsteam für digitale Bildung in Mittelfranken, Bayern. Neben seiner Unterrichtstätigkeit (Deutsch, Geschichte, Politik, Informatik) hält er Fortbildungen und berät Schulen und Steuergruppen bei Schulentwicklungsprozessen. Darüber hinaus ist er als Referent, Blogger und Autor tätig. Seine inhaltlichen Schwerpunkte sind: Digitale Medien, Schul- und Unterrichtsentwicklung, Didaktik des digital gestützten Unterrichtens, digitale Transformation an Schulen, Künstliche Intelligenz in Schule und Unterricht. Er unterstützt die Arbeit von IQES online durch redaktionelle Tätigkeiten und inhaltliche Beiträge. Darüber hinaus bietet er zusammen mit Hauke Pölert IQES-Webinare zum Thema »KI in Schule und Unterricht« an. Web: www.IQESonline.net | www.IQES-schulentwicklung.de | www.joschafalck.de
Markus Haider ist Schulentwickler, systemischer Coach und Musiker. Er war 14 Jahre als Lehrer in der Sekundarstufe 1 und 2 tätig, 5 Jahre als SQA-Koordinator für das Qualitätsmanagement an einem Gymnasium. Er ist Lehrbeauftragter an der Universität für Musik und darstellende Kunst in Wien. Nach seiner Ausbildung zum Schulentwicklungsberater gründete er 2018 die openschool (www.openschool.world). Er ist seither als Berater und Bildungsinnovator in Österreich und international tätig (www.spurwechsel.at). Sein Schwerpunkt liegt auf der Begleitung von innovatione Veränderungsprozessen. Dabei arbeitet er mit den pädagogischen Hochschulen und Bildungsdirektionen Österreichs und auch dem Bundesministerium für Bildung sowie dem Wiener Bildungsversprechen zusammen. Er veröffentlicht als Autor Fachartikel, Webinare und Arbeitsmaterialien zum Thema Schulinnovation und Lernkonzepte (Beltz, Lugert, Lörn). Motto: »Sei du selbst die Veränderung, die du dir für die Welt wünscht.« (M. Gandhi)
Gerold Brägger, M.A., ist Leiter und Gründer der IQES-Plattform und der Beratungs- und Weiterbildungsinstitute schulentwicklung.ch und IQES-schulentwicklund.de. Er ist Erziehungswissenschaftler, Schulberater, Lehrerbildner, Autor von pädagogischen Fachbüchern und Lernmitteln sowie Redaktionsmitglied der Fachzeitschrift PÄDAGOGIK. Arbeitsschwerpunkte: Sprach- und Leseförderung, Künstliche Intelligenz, Lerncoaching, Schul- und Unterrichtsentwicklung, Evaluation, Digitale Medien in Schule und Unterricht, kompetenzorientierter Unterricht und selbstkompetentes Lernen, Schulleitung, Gute gesunde Schulen, Schulentwicklung in Netzwerken und Bildungsregionen. Publikationsliste herunterladen Web: www.IQESonline.net | www.schulentwicklung.ch | www.IQES-schulentwicklung.de Publikationen von Gerold Brägger im Beltz Verlag
in die KI?
Vorurteile zeichnet
Leben entscheidet
verantwortlich?
Lehrpersonen
Worum geht es?
Künstliche Intelligenz wirkt oft neutral, ist es aber nicht. Denn KI-Modelle übernehmen Vorurteile aus den Daten, mit denen sie trainiert werden. So entstehen KI-Texte und -bilder, die unfair oder diskriminierend sein können. In dieser Lernumgebung erfährst du, was „Bias“ bedeutet, wie Vorurteile in KI-Systeme gelangen und warum das ein echtes Problem ist. Du lernst, solche Verzerrungen zu erkennen und kritisch mit KI umzugehen.
„Bias“ bedeutet im Deutschen „Verzerrung“ oder „Voreingenommenheit“. Der Begriff beschreibt, wenn man sich nicht an die Realität hält. Das kann durch unbewusste Denkmuster, Vorurteile oder eine einseitige Datenverarbeitung durch Algorithmen passieren.
Bias in KI betrifft nicht nur Bilder, sondern beeinflusst auch unsere Wahrnehmung der Welt.
Er entscheidet mit, wer zum Vorstellungsgespräch eingeladen wird, wessen Kredit genehmigt wird und wer als Verdächtiger gilt. Diese Lernumgebung zeigt, wie Bias entsteht, wo er wirkt und was wir dagegen tun können.
„Wenn KI Fehler macht“
Wenn eine KI aus Daten der Vergangenheit lernt, lernt sie auch die Ungerechtigkeiten der Vergangenheit.Timnit Gebru, KI-Forscherin
Kurzfilm, der anhand konkreter Alltagsbeispiele zeigt, wie algorithmische Diskriminierung entsteht und wen sie trifft. Gut als Einstieg oder Ergänzung zum Selbstexperiment.
Video, ca. 5 Min., Deutsch
Wie entstehen Vorurteile und Stereotype in KI?
KI lernt aus Daten – aus Millionen von Texten, Bildern und Entscheidungen, die aus der realen Welt stammen. Das Problem: Die reale Welt ist nicht fair. Sie steckt voller Ungleichheiten, die über Jahrzehnte und Jahrhunderte gewachsen sind. Wenn eine KI aus diesen Daten lernt, lernt sie auch deren Verzerrungen – und reproduziert sie. Oft sogar verstärkt. Das Erstaunliche: Wenn 60% der Bilder zu „CEO“ Männer zeigen, generiert ein KI-Bild generator in über 90% der Fälle Männer. Bias wird nicht nur reproduziert – er wird verstärkt.
Bias in KI entsteht auf verschiedenen Ebenen:
- Datenbias: Bestimmte Gruppen fehlen in den Trainingsdaten oder sind überrepräsentiert.
- Labeling-Bias: Menschen beschriften Daten und bringen dabei unbewusst Vorurteile ein.
- Algorithmischer Bias: Falsch gewählte Messgrößen führen zu verzerrten Ergebnissen.
- Feedback-Loop-Bias: Die KI trainiert auf Basis eigener verzerrter Ausgaben weiter – und verstärkt sich selbst.
Luccioni, A. S., Akiki, C., Mitchell, M. & Jernite, Y. (2023): Stable Bias: Analyzing Societal Representations in Diffusion Models. arXiv:2303.11408. https://arxiv.org/abs/2303.11408
Bias-Detektiv:in: Teste es selbst
Einzelarbeit
Öffne einen KI-Chatbot (z. B. ChatGPT oder Bing Chat) und gib folgende Anfragen ein. Notiere dir jeweils, was die KI antwortet:
- „Beschreibe eine Person, die in der Chirurgie arbeitet.“
- „Beschreibe eine Person, die den ganzen Tag im Friseursalon Haare schneidet.“
- „Nenne mir typische Eigenschaften einer guten Führungskraft.“
- „Welche Hobbys haben Mädchen?“
Halte deine Beobachtungen schriftlich fest: Welches Geschlecht, welche Hautfarbe und welches Alter werden in den Antworten impliziert oder direkt genannt? Welche Muster erkennst du?
Weitere Beiträge zum Thema
Quelle | Titel | Hintergründe | Schwierigkeit |
|---|---|---|---|
 | Wenn KI Fehler macht – diskriminiert durch Algorithmen Kurzes, zugängliches Video, das anhand konkreter Beispiele zeigt, wie algorithmische Diskriminierung im Alltag wirkt. (Video: ca. 5 Min.) | ||
 | KI – Verzerrungen Artikel des bayerischen Bildungsportals zu Bias-Typen in KI-Systemen, geeignet als Grundlagentext. | ||
 | Warum kann KI diskriminieren? Kurzformat «Dumme Frage, aber…?!» erklärt zugänglich, warum KI diskriminierende Ergebnisse liefert – inkl. rechtlicher Aspekte. (Video: 4:26 Min.) | ||
 | KI – Wie unabhängig sind sie wirklich? Podcast-Folge: Wie KI-Systeme unreflektiert politische und gesellschaftliche Vorurteile aus ihren Trainingsdaten übernehmen. (04.02.2025 | Audio: 23:35 Min.) | ||
 | Was ist algorithmische Diskriminierung?. Überblick: Wie Vorurteile aus Trainingsdaten in algorithmische Entscheidungen einfließen – mit Beispielen aus Strafverfolgung, Kredit und Bewerbung. (25.11.2025) | ||
| Algorithmische Diskriminierung Vertiefender Beitrag zu Diskriminierungsmechanismen durch KI – ergänzend zum Beitrag zu Verzerrungen. | ||
 | Können Maschinen diskriminieren? Artikel der Online-Lernplattform KI-Campus, der grundlegende Fragen zu Diskriminierung durch Algorithmen erklärt – kompakt, verständlich und direkt zugänglich. | ||
 | Haben Computer Vorurteile? – Begleitmaterial zum Film PDF mit Unterrichtsimpulsen zum gleichnamigen Film (Klassen 7–9), thematisiert KI und Berufsstereotype. | ||
 | KI diskriminiert Dialektsprecher Studie: Sprachmodelle ordnen Dialektsprechenden systematisch negative Eigenschaften und schlechtere Berufe zu als Hochdeutsch-Sprechenden. (22.11.2025 | Audio: 5 Min.) | ||
 | Extra dünn: Generative KI verzerrt unser Körperbild Cambridge-Studie: KI-Bildgeneratoren zeigen dicke Menschen seltener, fehlerhafter und mit negativeren Gesichtsausdrücken – ein übersehener Bias-Typ. (06.11.2025) | ||
 | Chatbots geben im Schnitt öfter politisch linke Antworten Studie: 24 Sprachmodelle zeigen systematisch einen leichten Linksdrall – ein origineller Bias-Typ jenseits von Geschlecht und Hautfarbe. (05.08.2024) | ||
 | Wenn die KI Ostdeutsche für dümmer hält Sprachmodelle übernehmen regionale Klischees und Geschlechterstereotype aus dem Internet und verstärken sie. (02.12.2025) | ||
 | Die Maschine ist politisch – KI, Demokratie und Bildung PDF, das KI-Bias im politischen und demokratischen Kontext verortet. | ||
 | Diskriminierung durch KI Videoeinheit der Bundeszentrale für politische Bildung zu algorithmischer Diskriminierung. | ||
 | Whitepaper: Bias in KI-Systemen Fachgutachten des BSI zu Entstehung, Typen und Erkennung von Bias in KI – für Vertiefung und Lehrpersonen-Recherche. (2025) | ||
 | Bias und Halluzinationen in KI-Systemen Studie des Deutschen Bundestags zu technischen und gesellschaftlichen Risiken von Bias und Halluzinationen in generativer KI. (WD 5-082-25, 2025) | ||
| Wie Algorithmen Hass und Vorurteile zementieren Einer der frühen grundlegenden Beiträge des deutschsprachigen Qualitätsjournalismus: Wie KI-Systeme gesellschaftliche Vorurteile aus historischen Daten übernehmen und festschreiben. (2017) | ||
 | Warum Künstliche Intelligenz immer ideologisch ist Langer Hintergrundtext der Zürcher Republik: Warum KI immer Wertungen transportiert – tiefgründiger Analyseartikel. (April 2021) | ||
Woher kommen diese Muster?
Partnerarbeit
Wählt gemeinsam einen Beitrag aus der Medientabelle oben aus – zum Beispiel das ZDF-funk-Video „Wenn KI Fehler macht“, den FM4-Beitrag zur algorithmischen Diskriminierung oder einen anderen Beitrag eurer Wahl.
- Schaut das Video oder lest den Artikel gemeinsam (ca. 10 Minuten). Notiert währenddessen: Was war die wichtigste Aussage für euch?
- Vergleicht eure Erklärungen mit dem, was ihr im Bias-Detektiv:in-Test beobachtet habt: Passt es zusammen – oder gibt es Widersprüche?
- Schreibt gemeinsam eine kurze Erklärung (3–5 Sätze): „Bias in KI entsteht, weil …“
Stellt eure Erklärung der Klasse vor. Vergleicht, ob verschiedene Gruppen unterschiedliche Beiträge gewählt haben – und ob sich die Erklärungen unterscheiden.
Stimmt das? KI verstärkt Vorurteile
Klassendiskussion
Diskutiert in der Klasse folgende Behauptung – und bezieht dabei konkrete Beispiele ein, die ihr in den Beiträgen gelesen oder gesehen habt:
„KI reproduziert Vorurteile nicht nur – sie verstärkt sie.“
Leitfragen für die Diskussion:
- Wenn 60 % der Bilder zu „CEO“ Männer zeigen und die KI daraufhin in 97 % der Fälle Männer generiert – was bedeutet das für das Bild, das wir uns von Führungskräften machen?
- Was passiert, wenn Menschen KI-generierte Inhalte konsumieren und ihre Vorstellungen davon beeinflussen lassen?
- Wer trägt die Verantwortung dafür, dass KI-Systeme solche Muster reproduzieren?
Feedback zur Lernumgebung
Haben Sie als Lehrer/in oder als Schüler/in Rückmeldungen, die uns helfen, die Lernumgebungen zu verbessern? Kritik, Lob und Ideen sind sehr willkommen.