Wenn wir uns vorstellen, wie die Welt in 50 oder 100 Jahren aussehen könnte, hegen nicht wenige die Hoffnung, dass uns die Künstliche Intelligenz (KI) retten könnte, weil nur sie vernunftbasiert und ohne Ressentiments Entscheidungen treffen kann, die der ganzen Menschheit dienen. Es gibt auch eine weit verbreitete Annahme, dass KI-bedingte Voreingenommenheit nur ein technischer Fehler sei, den man schnell beheben könne. Ein belgisches Forschungsteam argumentiert jedoch dagegen und warnt davor, dass KI zutiefst von der gesellschaftlichen Machtdynamik beeinflusst wird. Sie lerne zwar aus historischen Daten, die seien aber von menschlichen Voreingenommenheiten geprägt, und somit nähme die KI Diskriminierung auf, reproduziere sie und verstärke sie sogar.

„Unsere Studie zeigt Beispiele aus der realen Welt, in denen KI bestehende Vorurteile verstärkt hat“, sagt Prof. Bircan. „Ein bemerkenswerter Fall ist das KI-gesteuerte Einstellungsprogramm von Amazon, bei dem festgestellt wurde, dass es männliche Bewerber bevorzugt, was letztlich die Ungleichheiten zwischen den Geschlechtern auf dem Arbeitsmarkt verstärkt. Ebenso haben KI-Betrugserkennungssysteme der Regierung Familien, insbesondere Migrant:innen, fälschlicherweise des Betrugs bezichtigt, was für die Betroffenen schwerwiegende Folgen hatte. Diese Fälle zeigen, wie KI, anstatt Voreingenommenheit zu beseitigen, am Ende Diskriminierung verstärken kann, wenn sie nicht kontrolliert wird. Ohne Transparenz und Rechenschaftspflicht besteht die Gefahr, dass KI zu einem Instrument wird, das bestehende soziale Hierarchien verfestigt, anstatt sie in Frage zu stellen.“

Warum KI-Systeme Diskriminierung übernehmen

KI werde in einem breiteren Verbund entwickelt, in dem Unternehmen, Entwickler:innen und politische Entscheidungsträger:innen wichtige Entscheidungen über ihre Gestaltung und Verwendung treffen. Diese Entscheidungen bestimmten, ob KI die Ungleichheit verringert oder verschlimmert. Wenn sie mit Daten trainiert wird, die gesellschaftliche Vorurteile widerspiegeln, können KI-Systeme Diskriminierung in wichtigen Bereichen wie Personaleinstellung, Polizeiarbeit und Sozialleistung reproduzieren. Professor Bircan fordert darum, dass Kontrolle und Steuerung von KI über Technologieunternehmen und Entwickler hinausgehen muss. Da sich KI auf nutzergenerierte Daten stütze, müsse die Art und Weise, wie sie entwickelt, eingesetzt und reguliert wird, transparenter und inklusiver werden. Andernfalls vertiefe KI die digitale Kluft weiter und verstärke die gesellschaftlichen Ungleichheiten.

Allerdings gibt die Studie auch Anlass zur Hoffnung. „Anstatt die Mängel der KI als unvermeidlich hinzunehmen, plädieren wir mit unserer Arbeit für eine proaktive Politik und Rahmenbedingungen, die sicherstellen, dass KI der sozialen Gerechtigkeit dient, anstatt sie zu untergraben. Indem wir von Anfang an Fairness und Rechenschaftspflicht in die KI einbeziehen, können wir ihr Potenzial für positive Veränderungen nutzen, anstatt zuzulassen, dass sie systemische Ungleichheiten verstärkt“, fasst Prof. Bircan zusammen.