Ethik der KI
Willkommen bei der Forschungsgruppe Ethik und kritische Theorien der KI!
Wir arbeiten an einer zeitgenössischen kritischen Philosophie des Digitalen. Diese beschäftigt sich damit, was in der KI-getriebenen Transformation unserer Gesellschaften sozial und politisch auf dem Spiel steht. Der von uns gewählte Ansatz integriert Ethik, Kritik, Sozialphilosophie, Technikphilosophie und Medienwissenschaft der KI. Unser Verständnis des Begriffs "Ethik" ist hierbei weit gefasst und fokussiert sich vor allem auf Strukturen von Macht und Ausbeutung. In unserem interdisziplinären Ansatz äußert sich Ethik in Form von Gesellschaftskritik, Kritik des digitalen Kapitalismus oder Kritik der Subjektivität in der digitalen Welt.
Neues DFG-Projekt bewilligt: Prädiktives Wissen ist Macht
Unser interdisziplinäres Forschungsprojekt „Prädiktives Wissen ist Macht: Ethik und Recht kollektiver Privatheit in der Datengesellschaft“ (mit Prof. Dr. Hannah Ruschemeier) wird für die nächsten drei Jahre von der DFG gefördert.
Das Projekt untersucht die gesellschaftlichen Risiken prädiktiver KI-Anwendungen – das sind Verfahren, mit denen aus großen Datenmengen Vorhersagen über Menschen und ihr Verhalten erstellt werden. Diese Technologien prägen zentrale Lebensbereiche wie Personalführung, Daseinsvorsorge, Polizeiarbeit oder nationale Sicherheit und verschieben damit Machtverhältnisse in unserer Gesellschaft.
Im Verbund von Philosophie und Rechtswissenschaft entwickeln wir eine ethische und rechtliche Analyse der Gefahren prädiktiver Wissensproduktion. Ziel ist es, kollektive Schutzinteressen sichtbar zu machen und konkrete Vorschläge für die Regulierung von KI-Systemen in die aktuellen Debatten zu Datenschutz, Ethik und Governance einzubringen.
Wer sind wir?
Für unsere Arbeitsgruppe ist eine integrative Arbeitsatmosphäre, Gleichstellung und die Berücksichtigung von junger Wissenschaftler:innen mit Kindern besonders wichtig.
Die Forschungsgruppe "Ethik und kritische Theorien der KI" besteht aus Prof. Rainer Mühlhoff und seinem Team. Einzelheiten zu Rainers laufenden Arbeiten finden Sie auch auf Rainers Website.
Aktuelle Themen in unserer Arbeitsgruppe sind:
- Strukturelle Auswirkungen von KI
- Geneologie und Ethik von Chatbots
- Privatsphäre und Datenschutz im Kontext von Big Data und KI
- Intersektionalität und Antidiskriminierung in der digitalen Gesellschaft
- KI-Kapitalismus und die digitale Ökonomie
- Poststrukturalismus und digitale Subjektivität
- kritische Medienphilosophie der Mensch-Maschine-Interaktion
Aktuelles
Constanze Kurz, Sprecherin des Chaos Computer Clubs, und Rainer Mühlhoff diskutieren gemeinsam in der Urania Berlin über sein neues Buch.
Am Tag der Veröffentlichung!
“KI und der neue Faschismus” – Reclam-Verlag.
Eintritt: 8 €, ermäßigt: 5 €, Mitglieder: 3 €
Infos zum Event + Tickets - Vorbestellung (print) beim Verlag - Verlagsvorschau (pdf)
Session für Schüler:innen ab 9. Klasse zur gemeinsamen Reflexion darüber, was ChatGPT mit uns macht!
ChatGPT ist zum Texteschreiben eine echte Hilfe, KI beim Lernen einzusetzen eine Erleichterung. Aber was bleibt von meinen eigenen Gedanken, meinen Ideen, meiner Persönlichkeit, wenn ich Sprache und gedankliche Inhalte aus der Hand gebe?
Mittwoch, 25. Juni 2025, 10:00 Uhr
COMEDIA Theater, Roter Saal, Vondelstraße 4–8, Köln-Südstadt
Es gibt keine KI-Ethik ohne Macht-Begriff.
In diesem Buch legt Rainer Mühlhoff die Grundlagen für eine machtbewusste Ethik der KI – indem er kritische Philosophie, Science and Technology Studies sowie Medientheorie miteinander verbindet, um die Ethik im Zeitalter der vernetzten Medien und datengestützten KI neu zu denken.
- er stellt das Konzept der Human-Aided AI vor
- untersucht, wie Macht, UX-Design und Subjektivierung miteinander verwoben sind
- geht der Entstehung von KI im Zusammenhang mit der Geschichte der Kybernetik nach
- kritisiert die Vorstellung, dass alle Biases durch technische Mittel “behoben” werden könnten
- betont die Relevanz kollektiver Ethik und kollektiver Verantwortung
- fordert eine stärkere Regulierung der KI
- und schließt mit einem “Manifesto for a Power-Aware Ethics of AI” ab
Open Access, veröffentlicht von Bristol University Press. PDF Volltext ebenfalls verfügbar.
Dieses Projekt entstand aus seiner Vorlesungsreihe an der Universität Osnabrück – herzlichen Dank an alle Studierenden für ihr unschätzbares Engagement und das begeisterte Feedback.
Was passiert, wenn Künstliche Intelligenz zur Steuerung staatlicher Prozesse eingesetzt wird - und demokratische Prinzipien zunehmend untergräbt?
In den USA sehen wir bereits den radikalen Umbau des Rechtsstaats: Zehntausende Staatsangestellte wurden entlassen, während nicht gewählte Tech-Milliardäre wie Elon Musk zunehmend die Kontrolle über politische und administrative Prozesse gewinnen.
Die AG "Ethik und kritische Theorien der Künstlichen Intelligenz" der Universität Osnabrück lädt ein zur Diskussion über den Schutz unserer Demokratie in Zeiten techno-autoritärer Politik. Beiträge aus Wissenschaft und Kunst beleuchten den Zusammenhang von KI und ultra-rechten Bewegungen.
Diskussion · Theater am Domhof, 19-21 Uhr
Eintritt frei, kostenlose Tickets über die Theaterkasse erforderlich.
Weitere Infos unter https://outreachlab.org/KI-und-Zukunft-der-Demokratie und https://rainermuehlhoff.de/KI-Zukunft-Demokratie-Event/
In dem toxischen Bündnis von Trump und Musk zeigt sich aktuell ein antidemokratischer Wille zur politischen Macht der Tech-Industrie. Diskurse um Superintelligenz und Transhumanismus schwappen nach Europa und beeinflussen auch hier die Startup- und Wirtschaftspolitik. Wir müssen dagegen halten!
Vortrag gemeinsam mit Aline Blankertz, 28.05.2025 17:30–18:00, Stage 5 STATION Berlin.
In den letzten Jahren haben große Technologie- und KI-Unternehmen viel Aufwand betrieben, um ihre Vision eines schnellen KI-Fortschritts als einzigen Weg in die Zukunft zu propagieren. Aber ist dies wirklich die einzige Option? Welche Interessen stehen hinter diesen großen Erzählungen, und welche alternativen Zukünfte werden verdrängt?
Dieser neue Artikel untersucht, wie die KI-Industrie kollektive Zukunftsvisionen formt, um ihre wirtschaftliche Macht zu stärken, und zieht Parallelen zu den Taktiken, die von den Unternehmen für fossile Brennstoffe im 20. Die von ihnen propagierten KI-gesteuerten Zukünfte führen häufig zu einer ausgrenzenden und nicht nachhaltigen „elitären Zukunft“, die durch Machtkonsolidierung und anhaltende Ungleichheiten gekennzeichnet ist. Darüber hinaus spiegeln diese Visionen das koloniale Erbe der extraktiven Expansion wider und stellen die Zukunft als eine zu erobernde Grenze dar.
Es ist dringend notwendig, zu entmystifizieren, wie die KI-Industrie diese kollektiven Zukunftsvisionen zu ihrem eigenen Vorteil konstruiert. Auf diese Weise können wir besser über transformative Maßnahmen informieren und eine wirklich nachhaltige und integrative Zukunft anstreben.
Witschas, Annemarie. Vorgefertigte Zukünfte: KI-Imaginarien zwischen elitären Visionen und sozialen Gerechtigkeitsansprüchen. Nomos Verlagsgesellschaft mbH & KG, 2025