Ethik der KI
Willkommen bei der Forschungsgruppe Ethik und kritische Theorien der KI!
Wir arbeiten an einer zeitgenössischen kritischen Philosophie des Digitalen. Diese beschäftigt sich damit, was in der KI-getriebenen Transformation unserer Gesellschaften sozial und politisch auf dem Spiel steht. Der von uns gewählte Ansatz integriert Ethik, Kritik, Sozialphilosophie, Technikphilosophie und Medienwissenschaft der KI. Unser Verständnis des Begriffs "Ethik" ist hierbei weit gefasst und fokussiert sich vor allem auf Strukturen von Macht und Ausbeutung. In unserem interdisziplinären Ansatz äußert sich Ethik in Form von Gesellschaftskritik, Kritik des digitalen Kapitalismus oder Kritik der Subjektivität in der digitalen Welt.
Neues DFG-Projekt bewilligt: Prädiktives Wissen ist Macht
Unser interdisziplinäres Forschungsprojekt „Prädiktives Wissen ist Macht: Ethik und Recht kollektiver Privatheit in der Datengesellschaft“ (mit Prof. Dr. Hannah Ruschemeier) wird für die nächsten drei Jahre von der DFG gefördert.
Das Projekt untersucht die gesellschaftlichen Risiken prädiktiver KI-Anwendungen – das sind Verfahren, mit denen aus großen Datenmengen Vorhersagen über Menschen und ihr Verhalten erstellt werden. Diese Technologien prägen zentrale Lebensbereiche wie Personalführung, Daseinsvorsorge, Polizeiarbeit oder nationale Sicherheit und verschieben damit Machtverhältnisse in unserer Gesellschaft.
Im Verbund von Philosophie und Rechtswissenschaft entwickeln wir eine ethische und rechtliche Analyse der Gefahren prädiktiver Wissensproduktion. Ziel ist es, kollektive Schutzinteressen sichtbar zu machen und konkrete Vorschläge für die Regulierung von KI-Systemen in die aktuellen Debatten zu Datenschutz, Ethik und Governance einzubringen.
Wer sind wir?
Für unsere Arbeitsgruppe ist eine integrative Arbeitsatmosphäre, Gleichstellung und die Berücksichtigung von junger Wissenschaftler:innen mit Kindern besonders wichtig.
Die Forschungsgruppe "Ethik und kritische Theorien der KI" besteht aus Prof. Rainer Mühlhoff und seinem Team. Einzelheiten zu Rainers laufenden Arbeiten finden Sie auch auf Rainers Website.
Aktuelle Themen in unserer Arbeitsgruppe sind:
- Strukturelle Auswirkungen von KI
- Geneologie und Ethik von Chatbots
- Privatsphäre und Datenschutz im Kontext von Big Data und KI
- Intersektionalität und Antidiskriminierung in der digitalen Gesellschaft
- KI-Kapitalismus und die digitale Ökonomie
- Poststrukturalismus und digitale Subjektivität
- kritische Medienphilosophie der Mensch-Maschine-Interaktion
Publikationen
Es gibt keine KI-Ethik ohne Macht-Begriff.
In diesem Buch legt Rainer Mühlhoff die Grundlagen für eine machtbewusste Ethik der KI – indem er kritische Philosophie, Science and Technology Studies sowie Medientheorie miteinander verbindet, um die Ethik im Zeitalter der vernetzten Medien und datengestützten KI neu zu denken.
- er stellt das Konzept der Human-Aided AI vor
- untersucht, wie Macht, UX-Design und Subjektivierung miteinander verwoben sind
- geht der Entstehung von KI im Zusammenhang mit der Geschichte der Kybernetik nach
- kritisiert die Vorstellung, dass alle Biases durch technische Mittel “behoben” werden könnten
- betont die Relevanz kollektiver Ethik und kollektiver Verantwortung
- fordert eine stärkere Regulierung der KI
- und schließt mit einem “Manifesto for a Power-Aware Ethics of AI” ab
Open Access, veröffentlicht von Bristol University Press. PDF Volltext ebenfalls verfügbar.
Dieses Projekt entstand aus seiner Vorlesungsreihe an der Universität Osnabrück – herzlichen Dank an alle Studierenden für ihr unschätzbares Engagement und das begeisterte Feedback.
Jetzt im Handel. Beim Verlag für 8,00 EUR bestellen (print). Ebook auf allen bekannten Plattformen.
»Sehr eindrücklich […]. Wahnsinnig spannend zu lesen, aber auch sehr beängstigend […].« – Benjamin Knödler ― Deutschlandfunk Kultur
»In seiner knappen, meinungsstarken Abhandlung zerlegt Mühlhoff nicht nur die Rhetorik der KI-Propheten, sondern entlarvt auch deren fragwürdige Ideologie.« – Matthias Dusini ― Falter
»Rainer Mühlhoff ist einer der interessantesten Denker der deutschen Technikphilosophie.« – Jana Ballweber ― KNA
Ankündigung des Verlags: Elon Musk und Donald Trump kündigen massenhaft Verwaltungsmitarbeitern, um einen KI-Staat zu errichten. Tech-CEOs verkaufen künstliche Intelligenz als Heilsbringer für die größten Probleme der Menschheit, obwohl die entsprechende Industrie auf Ausbeutung und Menschenverachtung beruht. Warum lässt sich die Öffentlichkeit durch Spekulation über Erlösung oder Auslöschung durch KI von den erheblichen Schäden durch KI in unserer Gegenwart ablenken? Wie erkennen wir die zunehmend faschistischen Tendenzen, die sich im Zusammenspiel von Tech-Industrie und der neuen Rechten bilden? Rainer Mühlhoff entwickelt Antworten und diskutiert Lösungsansätze.
Rainer Mühlhoff und Hannah Ruschemeier, International Journal of Law and Information Technology
In den letzten Jahren haben große Technologie- und KI-Unternehmen viel Aufwand betrieben, um ihre Vision eines schnellen KI-Fortschritts als einzigen Weg in die Zukunft zu propagieren. Aber ist dies wirklich die einzige Option? Welche Interessen stehen hinter diesen großen Erzählungen, und welche alternativen Zukünfte werden verdrängt?
Dieser neue Artikel untersucht, wie die KI-Industrie kollektive Zukunftsvisionen formt, um ihre wirtschaftliche Macht zu stärken, und zieht Parallelen zu den Taktiken, die von den Unternehmen für fossile Brennstoffe im 20. Die von ihnen propagierten KI-gesteuerten Zukünfte führen häufig zu einer ausgrenzenden und nicht nachhaltigen „elitären Zukunft“, die durch Machtkonsolidierung und anhaltende Ungleichheiten gekennzeichnet ist. Darüber hinaus spiegeln diese Visionen das koloniale Erbe der extraktiven Expansion wider und stellen die Zukunft als eine zu erobernde Grenze dar.
Es ist dringend notwendig, zu entmystifizieren, wie die KI-Industrie diese kollektiven Zukunftsvisionen zu ihrem eigenen Vorteil konstruiert. Auf diese Weise können wir besser über transformative Maßnahmen informieren und eine wirklich nachhaltige und integrative Zukunft anstreben.
Witschas, Annemarie. Vorgefertigte Zukünfte: KI-Imaginarien zwischen elitären Visionen und sozialen Gerechtigkeitsansprüchen. Nomos Verlagsgesellschaft mbH & KG, 2025
Rainer Mühlhoff, Verfassungsblog
Im Internet generieren wir täglich Daten, die wir oft für harmlos halten – unsere Likes, unseren Standort oder unseren Browser-Verlauf. Doch Firmen, die diese Daten besitzen, können mittels KI-Algorithmen intime Informationen daraus ableiten: Leiden wir an psychischen Krankheiten? Missbrauchen wir Substanzen? Sind wir reich oder arm? Solche Algorithmen werden dazu verwendet, Menschen automatisiert unterschiedlich zu behandeln: wenn es um den Preis für eine Versicherung geht, die Auswahl von Bewerber:innen bei Einstellungsverfahren, Entscheidungen über Kreditvergabe oder Einreisemöglichkeiten. Die Kombination von Big Data und KI bringt derzeit eine neue Technologie der Bevölkerungsverwaltung hervor. Sie führt zu einer neuen Form der Macht in unseren Gesellschaften, zu der wir alle durch unsere Daten beitragen und die wir deshalb kritisch und ethisch diskutieren müssen.
Events 2025
Constanze Kurz, Sprecherin des Chaos Computer Clubs, und Rainer Mühlhoff diskutieren gemeinsam in der Urania Berlin über sein neues Buch.
Am Tag der Veröffentlichung!
“KI und der neue Faschismus” – Reclam-Verlag.
Eintritt: 8 €, ermäßigt: 5 €, Mitglieder: 3 €
Infos zum Event + Tickets - Vorbestellung (print) beim Verlag - Verlagsvorschau (pdf)
Was passiert, wenn Künstliche Intelligenz zur Steuerung staatlicher Prozesse eingesetzt wird - und demokratische Prinzipien zunehmend untergräbt?
In den USA sehen wir bereits den radikalen Umbau des Rechtsstaats: Zehntausende Staatsangestellte wurden entlassen, während nicht gewählte Tech-Milliardäre wie Elon Musk zunehmend die Kontrolle über politische und administrative Prozesse gewinnen.
Die AG "Ethik und kritische Theorien der Künstlichen Intelligenz" der Universität Osnabrück lädt ein zur Diskussion über den Schutz unserer Demokratie in Zeiten techno-autoritärer Politik. Beiträge aus Wissenschaft und Kunst beleuchten den Zusammenhang von KI und ultra-rechten Bewegungen.
Diskussion · Theater am Domhof, 19-21 Uhr
Eintritt frei, kostenlose Tickets über die Theaterkasse erforderlich.
Weitere Infos unter https://outreachlab.org/KI-und-Zukunft-der-Demokratie und https://rainermuehlhoff.de/KI-Zukunft-Demokratie-Event/
-
Invited presentation “Denke ich noch selbst? KI, ChatGPT & Co.” — phil.cologne 2025, session for students grade 9 and up. Wednesday, 25 June 2025, 10:00, COMEDIA Theater, Roter Saal, Vondelstraße 4–8, Cologne-Südstadt.
-
Invited panelist, podium discussion “Künstliche Intelligenz als Lehrkraft? Feedback und Bewertung durch die Maschine” — Europa-Universität Flensburg, 19 June 2025.
-
Invited talk “Updating Purpose Limitation for AI – a normative approach to AI regulation” (with Hannah Ruschemeier) at the Oxford Internet Institute, University of Oxford. Monday, 16 June 2025, 12:00–13:00 UK / 13:00–14:00 CET.
-
Invited keynote “Vom Mythos zur Machtfrage: Die gesellschaftliche Bedeutung von KI” — HSBI KI-Kongress 2025 “Chancen und Herausforderungen durch KI”, Hochschule Bielefeld, 3 June 2025.
-
Invited talk “The AI State: Why We Need To Save The Rule Of Law From ‘Effectiveness’” (with Hannah Ruschemeier) — IViR Lecture Series, University of Amsterdam, 16 May 2025.
-
Invited presentation “Hausaufgaben mit KI korrigieren!?” (with Marte Henningsen) — University Future Festival 2025, 14 May 2025. video
-
re:publica 25, Berlin — Talk “Digitaler Faschismus: Wie KI-Ideologie die Demokratie untergräbt und wie wir sie verteidigen können” (with Aline Blankertz), 28 May 2025, 17:30–18:00, Stage 5.
-
Invited keynote “Die Macht der künstlichen Intelligenz” — Humboldt-Lecture 2025, Humboldt-Gymnasium, Berlin, 24 March 2025.
-
Invited panelist, Session 3.3 “Chancen und Risiken von Künstlicher Intelligenz – Sichere Nutzung intelligenter Technologien” — Nationale Konferenz IT-Sicherheitsforschung 2025, BMBF (Bundesministerium für Bildung und Forschung), 19 March 2025, 10:45–12:15.
-
Conference presentation “Prediction Power and Cybernetic AI” (with Hannah Ruschemeier) — STS-Hub 25, Berlin, 11 March 2025.
-
Invited talk “Reading as Assessing. Automated Homework Grading With LLMs” — Workshop “New Reading Scenes: On Machine Reading and Reading Machine Learning Research”, Institute for Advanced Study in the Humanities (KWI) Essen, in cooperation with SFB Virtuelle Lebenswelten, Ruhr-Universität Bochum, organized by Katia Schwerzmann. Bochum, 28 February 2025.