Vorurteile und die KI

Menschen erkennen demnach mehr ihrer Vorurteile in den Entscheidungen als sie es ohne die KI könnten. Das gilt sogar dann, wenn diese Entscheidungen gleich ausfallen. Carey Morewedge und Everett W. Lord schlagen in den 'Proceedings of the National Academy of Sciences' Möglichkeiten vor, wie dieses Bewusstsein menschlichen Entscheidungsträgern dabei helfen könnte, ihre Vorurteile zu erkennen und zu korrigieren.

Gemeinsam mit Begüm Çeliktutan und Romain Cadario von der Erasmus University hat Morewedge eine Reihe von Experimenten entwickelt, um soziale Vorurteile wie zum Beispiel Rassismus, Sexismus und Altersdiskriminierung zum Vorschein zu bringen. Die Forscher verglichen also die Wahrnehmung der Teilnehmer, wie diese Vorurteile ihre eigenen Entscheidungen einfärbten, mit den Entscheidungen, die von einem Algorithmus getroffen wurden. Manchmal sahen die Teilnehmer die Entscheidungen eines tatsächlichen Algorithmus. In anderen Fällen handelte es sich bei den als angeblich vom Algorithmus stammenden Entscheidungen, versteckt um die Wahl, die die Teilnehmer selbst getroffen hatten.

Insgesamt erkannten die Teilnehmer Vorurteile eher in den Entscheidungen, die angeblich von den Algorithmen stammten als in ihren eigenen. Sie sahen jedoch auch in Entscheidungen des Algorithmus gleich viele Fehleinschätzungen wie bei Entscheidungen anderer Menschen. Es gelingt Menschen demnach allgemein besser, Fehleinschätzungen bei anderen zu erkennen als bei sich selbst. Dieses Phänomen ist als 'Bias Blind Spot' bekannt. Die Teilnehmer korrigierten die Verzerrungen in diesen Entscheidungen danach auch eher. Das könnte, so die Forscher, ein wichtiger Schritt zur Verringerung von Vorurteilen sein. Insgesamt wurden Experimente mit mehr als 6.000 Personen durchgeführt.

Im abschließenden Experiment sollten die Teilnehmer Fehleinschätzungen in ihren Beurteilungen oder jenen des Algorithmus korrigieren. Menschen waren eher bereit, die Entscheidungen des Algorithmus zu korrigieren. Damit verringerte sich auch die tatsächliche Verzerrung in diesen Bewertungen. Das ist laut Morewedge von entscheidender Bedeutung. Für jeden Mensch, der dazu bereit ist, seine Vorurteile zu verringern, ist die Fähigkeit, sie überhaupt wahrzunehmen, ein erster Schritt. Diese Forschungsergebnisse belegen, dass Algorithmen als eine Art Spiegel eingesetzt werden können. Dadurch wird es möglich, einen Bias zu identifizieren, auch wenn die Menschen dieses Falschurteil selbst gar nicht erkennen können.

Ihre Meinung dazu? Schreiben Sie hier!

#Vorurteile #KI #AI #Forschung

Newsticker per eMail oder RSS/Feed!

Auch interessant!
So wirken Zahlen und Sterne bei Bewertungen
Formen übertreffen Zahlen im Kampf um Online-Bewertungsnoten. Zu dem Schluss kommt eine aktuelle Studie d...

Finanzierung mit KI gerechter?
Künstliche Intelligenz (KI) kann Vorurteile abmildern und die Kreditvergabe für marginalisierte Kundschaf...

Vorurteile beim Chatbot
Menschen interagieren mit Agenten der Künstlichen Intelligenz (KI), wie etwa einem Chatbot, unterschiedli...

Gender-Lego
Der weltgrößte Spielzeughersteller Lego will seine Produkte künftig so gestalten, dass sie nicht mehr be...

KI bewertet über Jobchancen
Wer sich in nächster Zeit für einen neuen Job bewerben will, könnte womöglich nicht zu einem persönlichen...