War ja nur der Algorithmus

Studie: Menschen regen sich weniger auf, wenn ein Algorithmus schuld an sexistischen Entscheidungen ist

Stell dir vor, du wirst bei einer Bewerbung abgelehnt, weil du eine Frau bist, obwohl du die gleiche oder eine bessere Qualifikation hast als ein männlicher Mitbewerber. Wärst du genauso sauer, wenn du erfährst, dass ein Algorithmus darüber entschieden hat oder würde dich mehr aufregen, wenn es ein Mensch war, der das so entschieden hat? Einer aktuellen Studie zufolge sind Menschen gegenüber der Diskriminierung durch Algorithmen toleranter und regen sich weniger auf, wenn ein künstliches System für derartige Entscheidungen verantwortlich ist.

In der Studie führten die Forscher_innen um Yochanan Bigman von der Yale University acht Experimente mit insgesamt mehr als 3.900 Freiwilligen aus den Vereinigten Staaten, Kanada und Norwegen durch. Für die Ergebnisse haben sie den Begriff "algorithmisches Empörungsdefizit" (“algorithmic outrage deficit”) geprägt, der verdeutlichen soll, dass wir uns über Sexismus durch Algorithmen weniger aufregen (und infolgedessen auch weniger bereit sind, etwas daegegen zu tun).

Den Teilnehmenden der Studie wurden verschiedene Szenarien über geschlechtsspezifische Diskriminierung bei Einstellungsentscheidungen vorgelegt, von denen ein Teil durch Algorithmen, ein Teil durch menschliche Entscheider_innen verursacht wurde. Dabei regten sich die Testpersonen weniger darüber auf, wenn die unfaire Entscheidung von Algorithmen getroffen wurden. Außerdem waren sie der Meinung, dass Unternehmen rechtlich weniger für Diskriminierung haften, wenn diese auf einen Algorithmus zurückzuführen ist.

"Es ist besorgniserregend, dass Unternehmen Algorithmen nutzen könnten, um sich vor Schuldzuweisungen und öffentlicher Kontrolle über diskriminierende Praktiken zu schützen", sagte der leitende Forscher Yochanan Bigman. Die Ergebnisse könnten weiterreichende Auswirkungen haben und sich auf die Bekämpfung von Diskriminierung auswirken, so Bigman.

*Wer sich weniger empört, ist weniger motiviert, etwas dagegen zu tun*
"Menschen sehen Menschen, die diskriminieren, als durch Vorurteile wie Rassismus oder Sexismus motiviert an, aber sie sehen Algorithmen, die diskriminieren, als durch Daten motiviert an, so dass sie weniger moralisch empört sind", sagte Bigman. "Moralische Empörung ist ein wichtiger gesellschaftlicher Mechanismus, um Menschen zu motivieren, gegen Ungerechtigkeiten vorzugehen. Wenn die Menschen weniger moralisch empört über Diskriminierung sind, dann sind sie vielleicht auch weniger motiviert, etwas dagegen zu tun".

*Bei anderen Diskriminierungsformen sieht es kaum besser aus*
Einige der Experimente basierten auf einem Szenario, das sich auf ein reales Beispiel einer angeblichen Algorithmus basierten geschlechtsspezifischen Diskriminierung durch Amazon bezog, bei der weibliche Bewerber_innen benachteiligt wurden. In einem der acht Experimente wurde außerdem überprüft, wie die Empörung bei Diskriminierung aufgrund des Alters oder der Abstammung ausfällt. Auch hier wurde den Algorithmen gnädiger begegnet.

Selbst wenn die Teilnehmenden über das Wesen künstlicher Intelligenz Bescheid wussten, änderte sich nichts. In einem Experiment mit mehr als 150 Tech-Mitarbeiter_innen in Norwegen waren Teilnehmende, die mehr über künstliche Intelligenz wussten, immer noch weniger empört über geschlechtsspezifische Diskriminierung durch Algorithmen.

*Können mehr Informationen über die Entstehung von Algorithmen trotzdem helfen?*
Immerhin: Wenn die Teilnehmenden mehr Informationen über einen bestimmten Algorithmus erfuhren, konnte sich das auf ihre Einstellung auswirken, fanden die Forscher_innen heraus. So waren die Teilnehmenden einer anderen Studie empörter, wenn sie erfuhren, dass ein Einstellungsalgorithmus, der geschlechtsspezifische Diskriminierung verursachte, von männlichen Programmierern in einem Unternehmen entwickelt wurde, das für sexistische Praktiken bekannt ist.

Programmierer_innen sollten sich bei der Entwicklung neuer Algorithmen der Möglichkeit unbeabsichtigter Diskriminierung bewusst sein, so Bigman. Öffentliche Aufklärungskampagnen könnten auch darauf hinweisen, dass durch Algorithmen verursachte Diskriminierung ein Ergebnis bestehender Ungleichheiten sein kann, sagte er.

Die Forschungsergebnisse wurden online im Journal of Experimental Psychology der American Psychological Association veröffentlicht.