Lernspiel · KI, Daten & Fairness
KI-Bias-Labor
Eine KI lernt aus alten Entscheidungen – fleißig, blitzschnell und ohne je nachzufragen. Was passiert, wenn diese Entscheidungen unfair waren? Finde es heraus und repariere die KI.
Dein Auftrag: Die erfundene Radl-Werkstatt Flussblick sucht eine*n Azubi für Zweiradmechatronik – und bekommt mehr Bewerbungen, als sie zwischen zwei Reifenpannen lesen kann. Die Idee: Eine KI sortiert vor, wer zum Vorstellungsgespräch kommt. Sie lernt aus 40 alten Entscheidungen. Du prüfst, ob sie fair ist.
Dauer: ca. 15–20 Minuten · ab 13 Jahren und für Fachkräfte · alle Personen, Daten und die Werkstatt sind erfunden
Die Ausbildungs-KI
Trainiere die KI, finde den versteckten Fehler und repariere ihn mit vier Werkzeugen – ganz ohne Öl an den Fingern.
Die Hilfebedarfs-KI
Eine KI soll anhand alter Akten einschätzen, welche Familien „mehr Hilfe brauchen“.
Worum es gehen wird
In der Kinder- und Jugendhilfe werden solche Systeme diskutiert. Die Risiken sind die gleichen wie in der Ausbildungs-KI – nur mit höheren Folgen:
- Akten zeigen, wer gesehen wurde – nicht, wer Hilfe braucht. Familien, die öfter Kontakt zu Behörden haben, tauchen öfter auf.
- Stellvertreter-Merkmale: Wohnviertel, Sprache oder Leistungsbezug können wie ein verstecktes Urteil wirken.
- Fehler haben zwei Seiten: Fehlalarme belasten Familien, übersehene Fälle gefährden Kinder.
- Fachliches Urteil und Beteiligung der Familien bleiben unersetzlich; Betroffene müssen nachfragen können.
🏆 Bestenliste auf diesem Gerät
Phase 1 · Alte Daten
So hat die Werkstatt früher entschieden
Eine KI weiß am Anfang nichts – ungefähr so viel wie du am ersten Schultag nach den Sommerferien. Sie lernt aus Beispielen: 40 Bewerbungen aus den letzten Jahren und ob die Person eingeladen wurde oder nicht.
Was die KI sieht: Schulnote (Durchschnitt), Praktikum, Motivation (1–3), Wohnort, Vorname und ob es eine Lücke im Lebenslauf gibt. Das Hobby steht nur zur Info auf der Karte – die KI ignoriert es komplett. (Sorry, „Omas Handy-Support“.)
Vornamen-Gruppen: Wir haben die Vornamen in Gruppe A (z. B. Lukas, Leonie, Korbinian) und Gruppe B (z. B. Ayşe, Emre, Milan) eingeteilt. Gruppe B klingt nach einer Familiengeschichte in einem anderen Land. Wichtig: Ein Vorname sagt nichts darüber, ob jemand gut in einer Ausbildung wäre. Leider kein Fantasie-Problem: Studien aus Deutschland zeigen, dass Bewerbungen mit solchen Namen bei gleicher Qualifikation seltener zu einer Einladung führen.
Frage zum Nachdenken: Wer Schafkopf nur vom Zuschauen lernt, übernimmt auch Opas Schummeltricks. Übernimmt die KI auch die Fehler, die in diesen Daten stecken?
Trainingsdaten
Phase 2 · Trainieren
Die KI büffelt …
0 von 40 Beispielen
Phase 2 · Ergebnis
Was die KI gelernt hat
Die KI vergleicht stur: Worin unterscheiden sich früher Eingeladene und Abgelehnte? Je größer der Unterschied bei einem Merkmal, desto mehr Gewicht bekommt es – egal, ob der Unterschied fair war.
Fairness-Anzeige
Gezählt werden nur die geeigneten Bewerber*innen (laut fairer Fachjury). Wer gleich gut geeignet ist, sollte gleich oft eingeladen werden – die Balken müssten also gleich lang sein.
12 neue Bewerbungen – die KI lädt 6 ein
Tippe eine Karte an und schau der KI beim Rechnen über die Schulter: Warum hat sie so entschieden?
Moment mal: Ayşe hat Note 1,8 und wird nicht eingeladen. Lukas hat Note 2,6 und ist dabei. Am Hobby kann es nicht liegen – das liest die KI ja nicht mal. Woran dann?
Der Fehler steckt in den alten Daten. Bei gleicher Qualifikation wurden früher eingeladen:
Die KI hat das als „Regel“ gelernt: Vorname aus Gruppe B, Wohnort Dorf und Lücke im Lebenslauf = weniger Punkte. Sie hat das nicht erfunden – sie hat es nachgemacht. Wie ein Papagei: versteht nichts, wiederholt aber alles.
Phase 3 · Reparieren
Deine Werkzeuge
Willkommen in der Werkstatt – diesmal für die KI. Jede Änderung trainiert sie sofort neu, die Anzeigen zeigen dir live, was passiert. Ziel: fair entscheiden und trotzdem die Geeigneten einladen.
Merkmale ausblenden
Augenbinde für die KI: Ein ausgeblendetes Merkmal sieht sie nicht mehr – weder beim Lernen noch beim Entscheiden.
Alte Entscheidungen prüfen
Diese Personen wurden früher abgelehnt, obwohl Note, Praktikum und Motivation gut genug waren. Markiere, was dir unfair vorkommt – und entscheide, was damit passiert.
Daten ausbalancieren
Ergänze 15 neue, fair geprüfte Beispiele aus den Gruppen, die früher kaum eingeladen wurden. Mehr gute Vorbilder, weniger Schieflage.
Mensch prüft Grenzfälle
Wie der Videobeweis beim Fußball: Bei den knappen Fällen – Plätze 5 bis 8 auf der KI-Liste – schaut ein Mensch genau hin und entscheidet nur nach Eignung.
Gewichte der KI
Die 12 Bewerbungen
Phase 4 · Auswertung
Dein Labor-Ergebnis
Deine Maßnahmen
⚖️ Der Zielkonflikt
Fairness und Qualität hängen zusammen, sind aber nicht dasselbe. Nimmst du der KI alles weg, benachteiligt sie keine Gruppe mehr gezielt – aber sie entscheidet nach „Ene, mene, muh“ und lädt die Falschen ein. Lässt du ihr alles, nutzt sie auch die unfairen Muster.
Gute Lösungen arbeiten wie eine gute Werkstatt: Sie tauschen genau die kaputten Teile aus – unfaire Merkmale und Daten – und behalten alles, was wirklich mit der Ausbildung zu tun hat.
Fairness-Punkte: Wie gleich sind die Einladungsquoten der Geeigneten (A gegenüber B, Stadt gegenüber Dorf)? Qualitäts-Punkte: Wie viele der 6 Geeigneten wurden eingeladen? Gesamt = Durchschnitt.
Was ist Bias?
Bias (sprich: „Bei-as“) heißt Verzerrung. Eine KI ist verzerrt, wenn sie Menschen schlechter behandelt, weil sie zu einer bestimmten Gruppe gehören – und nicht wegen ihrer Fähigkeiten. Wie eine Stoppuhr, die bei manchen Läufer*innen immer eine Sekunde draufschlägt: gleiche Leistung, schlechteres Ergebnis.
Woher kommt er?
Aus den Daten der Vergangenheit. Wenn Menschen früher unfair entschieden haben, steckt das in den Daten. Die KI lernt es mit – und wiederholt es schneller und öfter. In der Informatik heißt das: „Garbage in, garbage out“ – Müll rein, Müll raus.
Mythos: „Die KI ist neutral“
Eine KI hat keine eigene Meinung, aber sie ist nicht neutral. Sie spiegelt die Daten und die Entscheidungen der Menschen, die sie gebaut haben. Und ausgeblendete Merkmale schleichen sich über Stellvertreter (z. B. die Lücke im Lebenslauf) durch die Hintertür wieder herein.
Was Menschen tun können
- Daten prüfen, bevor man trainiert – nicht erst, wenn es knallt
- Die KI testen: Werden gleich Geeignete gleich behandelt?
- Ein Mensch entscheidet mit, vor allem bei knappen Fällen
- Betroffene dürfen fragen „Warum wurde ich abgelehnt?“ – und widersprechen
Übrigens: In Deutschland ist es verboten, Bewerber*innen z. B. wegen ethnischer Herkunft, Geschlecht, Religion, Behinderung oder Alter zu benachteiligen (Allgemeines Gleichbehandlungsgesetz, AGG) – auch wenn eine KI mitentscheidet. Die EU-KI-Verordnung stuft Bewerbungs-KI als Hochrisiko-System ein. Und der Wohnort? Steht nicht im AGG – Dorfkinder pauschal aussortieren ist trotzdem unfair.
Dich beschäftigt so etwas gerade selbst? Sprich mit einer Person, der du vertraust, oder ruf kostenlos und anonym die Nummer gegen Kummer an: 116 111 (Mo–Sa 14–20 Uhr).