Fairness in automatischen Entscheidungssystemen (FairADM)

Fragestellung/Ziel: 

In der sich rasch entwickelnden Landschaft der algorithmischen Entscheidungsfindung (ADM) haben Fragen im Zusammenhang mit der möglichen Verstärkung sozialer Ungleichheit erhebliche Aufmerksamkeit erlangt. Dieses Projekt untersuchte kritische Aspekte von ADM und konzentrierte sich auf deren tiefgreifende Auswirkungen auf die Sozialwissenschaften und die breitere Gesellschaft.

Unser Hauptziel war es, die Beziehung zwischen ADM und seinen Auswirkungen auf soziale Ungleichheit, Fairness von Algorithmen und Verteilungsgerechtigkeit zu untersuchen. In einem ersten Beitrag unterstrichen wir das Potenzial der Sozialwissenschaften, den Diskurs über ADM zu bereichern, indem wir betonten, wie wichtig es ist, Verzerrungen in den Trainingsdaten aufzudecken und abzuschwächen, die Datenverarbeitung und -analyse zu verstehen und die sozialen Kontexte zu erforschen, in denen Algorithmen arbeiten. In einem zweiten Beitrag haben wir eine wichtige Unterscheidung zwischen algorithmischer Fairness und Verteilungsgerechtigkeit in der datengesteuerten Entscheidungsfindung eingeführt und eine systematische Untersuchung ihres Zusammenspiels gefördert. Wir schlugen das Konzept der "Fehlerfairness" als neues Maß für Fairness von Algorithmen vor und sprachen uns für die explizite Einbeziehung von Prinzipien der Verteilungsgerechtigkeit in Allokationsentscheidungen aus. In einem dritten Beitrag bewerteten wir die praktische Anwendung von ADM in der öffentlichen Arbeitsverwaltung und konzentrierten uns dabei auf die Vorhersage des Risikos der Langzeitarbeitslosigkeit bei Arbeitssuchenden. Wir betonten die Bedeutung transparenter Modellierungsentscheidungen und systematischer Evaluierung bei der Anwendung statistischer Profiling-Techniken.

Insgesamt unterstreichen diese Beiträge die entscheidende Rolle der Sozialwissenschaften zur Untersuchung der unbeabsichtigten Folgen von ADM. Ein ganzheitliches Verständnis von Fairness und Gerechtigkeit in Algorithmen, das über die reine Vorhersagegenauigkeit hinausgeht, ist notwendig. "Fehlerfairness" bietet eine neue Perspektive für die Bewertung der Fairness von Algorithmen und betont, dass sich Vorhersagefehler nicht systematisch zwischen Individuen unterscheiden sollten.

Zusammenfassend zeigt unser Projekt Wege auf, wie die Sozialwissenschaften zu einer gerechteren Nutzung von ADM beitragen können. Indem wir uns mit Vorurteilen auseinandersetzen, das Zusammenspiel von Fairness und Gerechtigkeit verstehen und die Transparenz betonen, liefern wir wertvolle Erkenntnisse für ein umfassendes Verständnis der sozialen Auswirkungen algorithmischer Entscheidungsfindung.

Fact sheet

Finanzierung: 
Baden-Württemberg Stiftung
Laufzeit: 
2020 bis 2023
Status: 
beendet
Datenart: 
administrative Arbeitsmarktdaten
Geographischer Raum: 
Deutschland

Veröffentlichungen