Soziale Auswirkungen KI-basierter Entscheidungen im Smart City Kontext

Fragestellung/Ziel: 

KI-Systeme schaffen Potenziale für die effizientere Verteilung von knappen öffentlichen Ressourcen und sind ein zentraler Treiber von Smart Cities. Allerdings können dieselben Systeme auch nicht-intendierte gesellschaftliche Konsequenzen zur Folge haben, insbesondere indem sie bestehende soziale Ungleichheiten verstärken oder neue schaffen. CAIUS untersucht, wie KI-basiertes Automated Decision-Making (ADM) in Smart Cities städtische Gesellschaften im Positiven wie im Negativen beeinflussen kann. Hierfür entwickeln wir eine innovative Methodik, die informatische und sozialwissenschaftliche Kompetenzen vereint. Mittels agentenbasierter Modellierung werden hierbei die Einstellungen und das Verhalten der städtischen Bevölkerung sowie die daraus resultierenden Konsequenzen simuliert.

Im Zuge dessen begleiten wir zwei von Industriepartnern geplante Smart-City-Anwendungen in der Metropolregion Rhein-Neckar wissenschaftlich: (1) Verkehrskontrolle durch Smart-Cameras und (2) dynamische Preissetzung von Parkgebühren. Die Datengrundlage für unsere agentenbasierten Modelle beziehen wir aus Open Government Data, digitalen Fußabdrücken und eigens dafür entwickelten Datenerhebungen. Im Rahmen unserer Anwendungsfälle werden die Ergebnisse der Simulationen zur Entscheidungsunterstützung der privaten und öffentlichen Partnerorganisationen verwendet. Die agentenbasierten Modelle werden hierbei abstrakt-generell entwickelt, um als Ressource für andere Projekte in verwandten Kontexten genutzt werden zu können. Abschließend werden wir aus den im Rahmen von CAIUS gewonnenen Erkenntnissen allgemeine Richtlinien zur Implementierung KI-basierter Entscheidungssysteme in städtischen Kontexten ableiten.

Arbeitsstand: 

Das Projektteam hat die relevante Literatur in Techniksoziologie, agenten-basierter Modellierung und Fair Machine Learning gesichtet und sich so die theoretischen Grundlagen erarbeitet. Außerdem wurde ein Framework für „Impact-Aware AI“ definiert. Anfang 2020 bot der Lehrstuhl Künstliche Intelligenz ein Seminar „Social Simulation“ an. Ein mit den Studierenden entwickeltes Simulationsmodell wird als Grundlage der Entwicklung von Verkehrsmodellen mit dynamischen Preissetzungsystemen dienen.

Im September 2020 wurden erste Ergebnisse des Projekts auf dem Kongress der Deutschen Gesellschaft für Soziologie vorgestellt. Darüber hinaus hat die VolkswagenStiftung Ende des Jahres 2020 im Rahmen der Initiative „Künstliche Gesellschaft – Ihre Auswirkungen auf die Gesellschaft von Morgen“ einen Förderantrag i.H.v. 1,5 Mio. Euro bewilligt.

Fact sheet

Finanzierung: 
MZES
Laufzeit: 
2019 bis 2023
Status: 
in Vorbereitung
Geographischer Raum: 
Metropolregion Rhein-Neckar

Veröffentlichungen