Künstliche Intelligenz

Frau Gengler, Sie forschen zum Thema KI-Bias, also zu Vorurteilen, die durch Künstliche Intelligenz reproduziert werden. Welche Erkenntnisse konnten Sie zur Diskriminierung durch KI-Tools gewinnen?

KI basiert auf sehr detaillierten und komplexen statistischen Berechnungen mit sehr vielen Daten. Wenn wir über KI-Bias sprechen, sind die Daten, die zum Training verwendet werden, entscheidend, weil das, was in den Daten steckt, am Ende ähnlich in den Ergebnissen sichtbar wird. Ich habe mir sechs Text-zu-Bild-KI-Tools angeschaut und wie Personen in den Kontexten von Macht, Erfolg und Schönheit dargestellt werden. Ich habe festgestellt, dass Männer mehr repräsentiert sind, insbesondere wenn es um Macht und Erfolg geht. Frauen werden eher jünger dargestellt und sehr viel mehr sexualisiert. Diverse Ethnien, People of Color, waren insgesamt unterrepräsentiert.

Ist das nur ein Problem bei generativen KI-Werkzeugen oder auch bei Vorhersage-Tools, die etwa beim Filtern von Bewerbungen Menschenleben beeinflussen können?

Ich habe mich früher mit KI im Recruiting beschäftigt, unter anderem dem Recruiting bei Amazon mit einem KI-Tool, für die Auswertung von Lebensläufen von Bewerber:innen. Es wurde festgestellt, dass Lebensläufe von Frauen systematisch aussortiert werden. Die KI wurde mit Daten vergangener menschlicher Entscheidungen und auf Basis der letzten Jahre trainiert, in denen vor allem Männer eingestellt worden sind – wie es typisch im IT-Sektor ist. Ich habe mich mit der Frage beschäftigt, ob KI Recruiting fairer machen kann. Das Ergebnis war: Ja, KI könnte Recruiting fairer machen, wenn wir explizit versuchen, ungerechte Strukturen mit Hilfe von KI zu verändern.

KI reproduziert letztendlich nur gesellschaftliche Vorurteile. Ist es ethisch vertretbar, die Daten zu manipulieren?

Auf jeden Fall dürfen wir in die Daten eingreifen. Es ist sogar geboten, weil wir eben aktuell durch Künstliche Intelligenz mehr Ungerechtigkeit schaffen. Die bestehenden Ungerechtigkeiten in Bezug auf Gender, Herkunft, Ethnie und sozioökonomischen Hintergrund werden durch KI reproduziert und verstärkt. Die Daten, mit der die KI trainiert, werden sowieso erstmal bereinigt – aus einem gewissen Interesse heraus. Es sind eher privilegierte Personen in Tech-Firmen, die sie bearbeiten. Das bedeutet, dass die Daten, die dem System gefüttert werden, nicht neutral, sondern sowieso verzerrt sind. Man muss auch berücksichtigen, dass wir von historischen Daten lernen, die nicht unbedingt unsere aktuelle Gesellschaft und ihre Werte widerspiegeln. Frauenrechte sind ein Beispiel: Vergewaltigung in der Ehe wurde erst Ende der 1990er-Jahre in Deutschland strafbar, Frauen haben lange kaum Kredite bekommen und bezahlte Arbeit war für Frauen in der BRD bis 1977 illegal ohne Zustimmung des Ehemannes. Man muss da auf verschiedenen Ebenen arbeiten: Die politischen Rahmenbedingungen müssen sich ändern, aber auch die Unternehmen.

Zu den Rahmenbedingungen gehört die KI-Verordnung der EU, die 2026 vollständig in Kraft treten soll und Transparenzpflichten für KI-Anwendungen reguliert. Wird das helfen, KI fairer zu machen und Anwendungen mit hohen Risiken zu begrenzen?

Der EU AI Act ist ein guter erster Schritt. Versucht wird ein Spagat zwischen Werten und Innovation. Er setzt ein Zeichen, dass KI unseren Werten entsprechen soll. Was aber noch nicht so stark priorisiert ist, sind Themen wie Diversität, Transparenz über den ökologischen Fußabdruck oder Barrierefreiheit. Da gilt es aber nicht nur in der Regulierung nachzubessern. Deutschland hat große Fördertöpfe für KI-Projekte und da sollte in Ausschreibungen unter anderem die Qualität der Daten und deren Diskriminierungsfreiheit festgehalten werden. Man kann dazu Daten verändern oder sie weiter anreichern. Wenn zu wenig Frauen im Datensatz sind oder zu wenig diverse Ethnien, dann kann man synthetisch nachgenerieren. Der AI Act gilt für alle KI-Systeme, die in Europa eingesetzt werden – auch für ausländische Unternehmen. Daher müssen sich auch US-Firmen wie Apple an die Regeln halten, was dazu führt, dass bestimmte KI-Funktionen im neuesten iPhone in Europa nicht verfügbar sind.

Wie können Unternehmen mit KI gerechter umgehen?

KI wird meistens eingesetzt, um Bestehendes zu automatisieren und effizienter, schneller zu gestalten. Da wir aber wissen, dass viele Prozesse extrem ungerecht sind – im Recruiting, in der Kreditvergabe, in der Medizin – sollten wir eigentlich eher überlegen, wie wir KI nutzen könnten, um Prozesse und Strukturen gerechter zu gestalten.

Es ist auch wichtig, dass es mehr Diversität in den Entwicklungsteams und vor allem auch auf Entscheidungsebenen gibt. Eine Möglichkeit wäre ein "Gremium der Vielfalt", in dem verschiedene diverse Personen, die von KI-Bias betroffen sind, Vetorechte oder eine beratende Funktion bekommen. Wenn es um Design von KI geht, kann mit Open-Source Anwendungen eine Demokratisierung geschaffen werden, indem ein breiter Zugang zu KI geschaffen und offenlegt wird, welche Daten genutzt wurden.

Die EU plant große Investitionen für die KI-Branche. Kann man auf eine Verbesserung der KI-Tools hoffen?

Ich würde mir wünschen, dass die EU versucht, Marktführerin in verantwortungsvoller KI zu werden – mit Fokus auf Datenqualität und Werteorientierung. Im Bereich großer Sprachmodelle werden wir vermutlich nicht dominieren, weil diese sehr teuer sind. Wir könnten aber führend darin sein, KI mit ethischen Werten zu gestalten. Das unterscheidet uns klar von den USA, die stark auf Wachstum und Kapitalismus setzen, und China, das auf Parteitreue und Autorität ausgerichtet ist. Beides entspricht nicht den Werten der EU.

Welche Rolle spielen die Nutzer:innen selbst, haben sie eine Chance gegen die Macht der KI-Anbieter zu wirken? Und bringt es Verbesserungen, wenn wir Feedback geben, dass die Ergebnisse Falschdarstellungen zeigen?

Nutzer:innen haben als Einzelne nur wenig Macht, das System zu verändern. Wir können aber gemeinsam Macht ausüben, wenn viele Menschen mitmachen. Es geht in erster Linie darum, dass wir selbst mit KI verantwortungsvoll umgehen. Zum Beispiel hilft ChatGPT, Texte zu generieren oder zu kürzen, aber es ist nicht das richtige Tool, um die Wahrheit zu erfragen. Auf jeden Fall hilft es, gute und schlechte KI-Ergebnisse zu teilen und auf Fehler hinzuweisen.

Heutzutage nutzen hauptsächlich Männer mit bestimmten sozioökonomischen Hintergründen Künstliche Intelligenz. Hier haben wir auch die Verantwortung, andere zu ermächtigen, KI zu nutzen und auf negative Ergebnisse zu reagieren, damit die Maschine lernt. Ich habe an einem Leitfaden für KI-Prompting [Anweisungen an die KI, Anm. d. Red.] mitgearbeitet. Darin steht, wie man fairer und diverser prompten kann.

Wie können Menschen beweisen, dass sie von KI-betriebenen Systemen diskriminiert oder ausgeschlossen werden?

Betroffene müssen erstmal wissen, dass KI im Prozess involviert war. Die Beweisführung wird bei KI eventuell sogar einfacher, als wenn Menschen diskriminieren. Ich glaube, in dem Fall werden eher Sammelklagen, die Medien und größere zivilgesellschaftlichen Organisationen helfen, Bias zu entdecken. Zum Beispiel hat die Kindergeldaffäre in den Niederlanden gezeigt, wie eine solche Allianz erfolgreich war und den Einsatz einer diskriminierenden KI stoppen konnte. Dort war eine KI-Anwendung im Einsatz, um staatlichen Behörden zu helfen Sozialhilfebetrug festzustellen. Das Tool hatte aber Personen mit Migrationshintergrund und alleinerziehende Mütter benachteiligt. Nach Medienrecherchen haben NGOs geklagt und Recht bekommen. Die Regierung musste ein Bußgeld in Millionenhöhe zahlen.

Kann KI auch Wahlen beeinflussen?

Die Präsidentschaftswahl in den USA wurde stark von KI beeinflusst, insbesondere durch Fake News mit KI-generierten Bildern. Auch in Deutschland zeigt sich ein unterschiedliches Nutzungsverhalten von KI in der politischen Kommunikation und ein unterschiedlicher Grad an Kennzeichnung. Es gab in den sozialen Netzwerken viele KI-generierte Bilder von der AfD, die nicht gekennzeichnet waren, obwohl es im AI Act der EU zukünftig verbindlich vorgeschrieben ist.

Sehen Sie ein Risiko, dass in Medien Hassnachrichten und Fake News von Politiker:innen reproduziert werden?

Einige etablierte Medien probieren gerade aus, sich mit Künstlicher Intelligenz die Arbeit einfacher zu machen und Sportnachrichten oder Liveticker zu erstellen. KI macht die Arbeit sicherlich schneller, wenn ein Mensch nur noch kurz drüber guckt. Wobei hier auch rassistische Kommentare durch die KI zustande kommen könnten, wenn Fußballspieler:innen zum Beispiel eine andere Hautfarbe haben.