Die Deutsche Forschungsgemeinschaft (DFG) fördert das Projekt, welches die Perspektiven aus Rechtswissenschaften (Prof. Dr. Hannah Ruschemeier) und Philosophie (Prof. Dr. Rainer Mühlhoff) bündelt, mit rund 698.000 Euro über drei Jahre.

 Zum Hintergrund: Die Verbreitung vernetzter digitaler Medientechnik befeuert eine gesamtgesellschaftliche Umwälzung der Produktion und Verarbeitung von Wissen. Dadurch werden bestimmte Anwendungen künstlicher Intelligenz (KI) zu politisch, sozial und wirtschaftlich prägenden Faktoren, lassen sich doch aus den individuellen Daten, die in alltäglichen Interaktionen mit digitalen Medien anfallen, prognostische Modelle erstellen. Das Besondere an dieser verbreiteten Form datenbasierter KI: Das damit verbundene Risiko betrifft nicht nur die Individuen, auf deren Daten die Modelle trainiert werden, sondern beliebige Dritte. Es entsteht eine neue Form von informationeller Macht über Individuen und gesellschaftliche Gruppen. „Diese Entwicklung geht mit einer Erosion von Autonomie einher, weil Individuen die Kontrolle über ihnen zugeschriebene, sozial relevante Klassifikationen verlieren, was zu einer Veränderung sozialer, ökonomischer und politischer Beziehungen führt“, wie die Rechtswissenschaftlerin Prof. Ruschemeier ausführt. „Zugleich birgt es Gefahren für Demokratie und politische Öffentlichkeit und begünstigt eine allgegenwärtige Kommerzialisierung, was wiederum Ungleichbehandlungen, neue Diskriminierungsformen und nicht vorhersehbare Auswirkungen in zahlreichen Gesellschaftsbereichen mit sich bringt.“ Und der Philosoph Prof. Mühlhoff fügt hinzu: „Der Einsatz solcher Modelle ist häufig so weit gefasst, dass die technologischen Apparate selbst zu strukturellen Faktoren der Gesellschaft werden, und damit soziale Ungleichheiten noch verstärkt werden.“

Die Wissenschaftlerinnen und Wissneschaftler wollen systematisch die Gefahren prädiktiver KI-Technologien in den Blick nehmen und darüber hinaus effektive Regulierungsvorschläge verfassen, um die Chancen der Technologie zu fördern und ihre Gefahren zu minimieren. „In der engen Verzahnung von Philosophie und Rechtswissenschaft werden wir das Phänomen der prädiktiven Wissensproduktion theoretisch analysieren, um Grundlagen für die ethische und rechtliche Beurteilung der Auswirkungen zu beschreiben“, so Mühlhoff. „Grundsätzlich geht es um die Erosion von Privatheit in der Datengesellschaft, welche durch die flächendeckende Nutzung vorhergesagter Informationen auf neue Weise infrage gestellt wird: Die virulenteste Form der Verletzung von Privatheit liegt aktuell in der Vorhersage von persönlichen Informationen“, so Ruschemeier abschließend.

Weitere Informationen für die Redaktionen:
Prof. Dr. Hannah Ruschemeier, Universität Osnabrück
Fachbereich Rechtswissenschaften
 hannah.ruschemeier@uos.de

Prof. Dr. Rainer Mühlhoff, Universität Osnabrück
Institut für Kognitionswissenschaft
 rainer.muehlhoff@uos.de