KI & Gesellschaft Klasse 9

Wer glaubt, dass KI immer richtig und fair entscheidet, irrt. KI-Systeme lernen aus Daten, und Daten spiegeln unsere Welt mit all ihren Ungerechtigkeiten.

Korrelation ist nicht Kausalität

Merke

• Korrelation: Zwei Dinge treten gemeinsam auf.
• Kausalität: Das eine ist die Ursache des anderen.

Beispiel: Im Sommer werden mehr Eis und mehr Sonnencreme verkauft. Das eine verursacht aber nicht das andere, beides hängt am Wetter. Ein KI-Modell findet Korrelationen in Daten. Ob dahinter eine Ursache steckt, weiß es nicht.

Bias: Verzerrung in KI

Bias bedeutet, dass ein System bestimmte Gruppen systematisch benachteiligt, weil

• die Trainingsdaten einseitig sind (z. B. Gesichtserkennung, die fast nur mit hellhäutigen Gesichtern trainiert wurde),
• die Daten vergangene Ungerechtigkeiten enthalten (z. B. frühere Einstellungsentscheidungen),
• das Modell Korrelationen für Ursachen hält.

Beispiel: Rückfallprognosen

In den USA wurden Algorithmen eingesetzt, die vorhersagen sollten, ob Straftäter:innen erneut straffällig werden (Criminal Risk Assessment). Weil die Daten Merkmale wie Wohnort oder Einkommen enthalten, die mit Hautfarbe und Armut korrelieren, wurden bestimmte Gruppen häufiger als „gefährlich“ eingestuft. Das beeinflusste Haftentscheidungen und verstärkte die bestehende Ungleichheit.

Diskussion: Welche Langzeitfolgen können solche Entscheidungen für die betroffenen Menschen haben?

KI-generierte Inhalte im Netz

Täglich begegnen uns Bilder, Texte, Stimmen und Videos, die von KI erzeugt wurden: in Social Media, Werbung und Nachrichten.

• Glaubst du, dass du KI-Bilder immer erkennst? Teste dich: braiain.com
• Wenn ein KI-Text genauso gut klingt wie ein menschlicher, macht das einen Unterschied?
• Was bedeutet es, wenn „man heute alles fälschen kann“, z. B. Stimmen von Politiker:innen (Deepfakes)?

Kritisch bleiben

Frag bei überraschenden Bildern, Videos und Zitaten: Wer hat es veröffentlicht? Gibt es seriöse Quellen, die berichten? Passt es zu dem, was ich sicher weiß? (→ Informationen beurteilen)

Für die Oberstufe Oberstufe

Positioniere dich zu Nachvollziehbarkeit und Erklärbarkeit: Darf eine KI über Kredite, Bewerbungen oder Diagnosen entscheiden, wenn niemand erklären kann, warum sie so entschieden hat? Und was bedeutet es, wenn subjektive Modellannahmen als objektive Tatsachen wahrgenommen werden („Quantifizierung der Welt“)?