Mensch und Maschine. Wer trifft die faireren Entscheidungen?
Der Einsatz von Algorithmen in Entscheidungssituationen (ADM – Automated Decision Making) und die Rolle, die Menschen dabei spielen, sind Gegenstand von kontroversen Diskussionen. Wie es um die Akzeptanz solcher Systeme steht, haben Prof. Dr. Florian Keusch (Professor of Social Data Science and Social Research Methods) von der Universität Mannheim und Prof. Dr. Frauke Kreuter (Institut für Statistik) von der LMU München untersucht. Das Projekt hat spannende Ergebnisse zu Tage gefördert.
Kooperation Mensch und Maschine
Grundlage der Studie ist eine Befragung von 4000 Teilnehmenden des German Internet Panels (GIP) im Juli 2021, denen verschiedene hypothetische Situationen vorgestellt wurden. Hinsichtlich der Frage, welche Entscheidungsinstanzen als fairer wahrgenommen werden, schnitten Algorithmen und Menschen jeweils für sich genommen schlechter ab als ein kombinierter Einsatz von Algorithmen und Menschen. Interessant ist, dass die Befragten offenbar in einer Kombination von künstlicher und menschlicher Aufsicht mehr Möglichkeiten sehen, Diskriminierungen zu reduzieren, Entscheidungen zu hinterfragen und gegebenenfalls zu korrigieren, als dies bei nur einer Entscheidungsinstanz der Fall wäre. Das Bedürfnis nach korrigierenden Instanzen scheint nicht nur bei Algorithmen, sondern auch bei Menschen groß zu sein. Der Mensch als alleinige Entscheidungsinstanz wird von den Studienteilnehmer*innen als weniger fair wahrgenommen. Die Studie rückt damit neben dem Algorithmus auch den Menschen als problematische Entscheidungsinstanz in den Mittelpunkt. Insgesamt aber wird der alleinige Einsatz von Algorithmen ohne menschliche Kontrolle als problematischer angesehen.
Automatisierte Entscheidungsfindung trifft auf wenig Verständnis
Die Befragten sollten den Einsatz von automatisierten Entscheidungen in vier Beispielsituationen danach beurteilen, welche von ihnen auf größere Akzeptanz stoßen. Zur Wahl stand die Vergabe eines Bankkredits, die Auswahl von Bewerber*innen in der Personalbeschaffung, Gefängnisstrafen oder Maßnahmen für Arbeitssuchende. Dabei stellte sich heraus, dass die große Mehrheit der Befragten den Einsatz solcher Systeme in allen vier Kontexten für nicht oder überhaupt nicht akzeptabel hielt.
Ergebnisse
Die Studie kommt zu dem Ergebnis, dass die Akzeptanz von ADM-Systemen im Wesentlichen von der Transparenz ihres Einsatzes abhängt. Das Wissen um die maßgeblichen Entscheidungsinstanzen und die Gewichtung einzelner Kriterien durch Algorithmen sind wesentliche Voraussetzungen dafür, ob ein Entscheidungssystem als fair beurteilt wird.