Ethik der KI
Willkommen bei der Forschungsgruppe Ethik und kritische Theorien der KI!
Rainer Mühlhoff leitet die Arbeitsgruppe Ethics and critical theories of AI am Institut für Kognitionswissenschaft der Universität Osnabrück. Als Arbeitsgruppe entwickeln wir neue Ansätze für eine zeitgenössische kritische Philosophie des Digitalen und nutzen unser Kolloquium für inhaltliche Diskussionen.
Unsere Arbeitsgruppe bietet guten Studierenden und Promovierenden ein motiviertes Umfeld für kritische Philosophie, Ethik und Sozialtheorie der digitalen Gesellschaft – etwa im Rahmen von Bachelor- und Masterarbeiten sowie von Promotionsprojekten.
Gemeinsam trägt das Team zum Lehrangebot an der Universität Osnabrück bei. Unsere Veranstaltungen finden grundsätzlich in englischer Sprache und meist in hybriden Formaten (online/offline) statt, so dass sie auch für auswärtige Gäste zugänglich sind.
Neues DFG-Projekt: Prädiktives Wissen ist Macht
DFG-Projekt "Prädiktives Wissen ist Macht"
Laufzeit 2026–2029, gemeinsam mit Prof. Dr. Hannah Ruschemeier.
Neues BMFTR-Projekt: KI und Demokratie
BMFTR-Projekt "KI und Demokratie: Rechtsstaat, Teilhabe, Nachhaltigkeit"
Laufzeit: 1.1.–31.12.2026.
Neues VW Projekt: The Dangers of Open AI
VW-Projekt: "The Dangers of Open AI: Toward Ethical Data Sharing Through Purpose Limitation"
VW-Stiftung, Programmlinie Aufbruch. Laufzeit: 1.10.2026–31.03.2028, gemeinsam mit Prof. Dr. Hannah Ruschemeier.
Kooperationspartner der Evangelischen Schulstiftung
Kooperationspartner im Projekt " AI-Literacy für Kollegien an evangelischen Schulen", Evangelische Schulstiftung, Laufzeit: 1.1.2026–31.12.2027.
Wer sind wir?
Besonders wichtig sind uns eine inklusive Arbeitsatmosphäre, Geschlechtergerechtigkeit und die Berücksichtigung der Bedürfnisse junger Wissenschaftler:innen mit Kindern.
Die Forschungsgruppe "Ethik und kritische Theorien der KI" besteht aus Prof. Rainer Mühlhoff und seinem Team. Einzelheiten zu Rainers laufenden Arbeiten finden Sie auch auf Rainers Website.
Aktuelle Themen in unserer Arbeitsgruppe sind:
- Ethik und Sozialphilosophie der Künstlichen Intelligenz,
- Ethik und Kritik angesichts struktureller Handlungseffekte,
- Datenschutz und Privatheit im Kontext von Big Data,
- Intersektionalität und Antidiskriminierung im Kontext digitaler Technologie,
- kritische Medienphilosophie der Mensch-Maschine-Interaktion und des digitalen Kapitalismus.
Publikationen
Jetzt im Handel. Beim Verlag für 8,00 EUR bestellen (print). Ebook auf allen bekannten Plattformen.
»Sehr eindrücklich […]. Wahnsinnig spannend zu lesen, aber auch sehr beängstigend […].« – Benjamin Knödler ― Deutschlandfunk Kultur
»In seiner knappen, meinungsstarken Abhandlung zerlegt Mühlhoff nicht nur die Rhetorik der KI-Propheten, sondern entlarvt auch deren fragwürdige Ideologie.« – Matthias Dusini ― Falter
»Rainer Mühlhoff ist einer der interessantesten Denker der deutschen Technikphilosophie.« – Jana Ballweber ― KNA
Ankündigung des Verlags: Elon Musk und Donald Trump kündigen massenhaft Verwaltungsmitarbeitern, um einen KI-Staat zu errichten. Tech-CEOs verkaufen künstliche Intelligenz als Heilsbringer für die größten Probleme der Menschheit, obwohl die entsprechende Industrie auf Ausbeutung und Menschenverachtung beruht. Warum lässt sich die Öffentlichkeit durch Spekulation über Erlösung oder Auslöschung durch KI von den erheblichen Schäden durch KI in unserer Gegenwart ablenken? Wie erkennen wir die zunehmend faschistischen Tendenzen, die sich im Zusammenspiel von Tech-Industrie und der neuen Rechten bilden? Rainer Mühlhoff entwickelt Antworten und diskutiert Lösungsansätze.
Es gibt keine KI-Ethik ohne Macht-Begriff.
In diesem Buch legt Rainer Mühlhoff die Grundlagen für eine machtbewusste Ethik der KI – indem er kritische Philosophie, Science and Technology Studies sowie Medientheorie miteinander verbindet, um die Ethik im Zeitalter der vernetzten Medien und datengestützten KI neu zu denken.
- er stellt das Konzept der Human-Aided AI vor
- untersucht, wie Macht, UX-Design und Subjektivierung miteinander verwoben sind
- geht der Entstehung von KI im Zusammenhang mit der Geschichte der Kybernetik nach
- kritisiert die Vorstellung, dass alle Biases durch technische Mittel “behoben” werden könnten
- betont die Relevanz kollektiver Ethik und kollektiver Verantwortung
- fordert eine stärkere Regulierung der KI
- und schließt mit einem “Manifesto for a Power-Aware Ethics of AI” ab
Open Access, veröffentlicht von Bristol University Press. PDF Volltext ebenfalls verfügbar.
Dieses Projekt entstand aus seiner Vorlesungsreihe an der Universität Osnabrück – herzlichen Dank an alle Studierenden für ihr unschätzbares Engagement und das begeisterte Feedback.
Rainer Mühlhoff und Hannah Ruschemeier, International Journal of Law and Information Technology
In den letzten Jahren haben große Technologie- und KI-Unternehmen viel Aufwand betrieben, um ihre Vision eines schnellen KI-Fortschritts als einzigen Weg in die Zukunft zu propagieren. Aber ist dies wirklich die einzige Option? Welche Interessen stehen hinter diesen großen Erzählungen, und welche alternativen Zukünfte werden verdrängt?
Dieser neue Artikel untersucht, wie die KI-Industrie kollektive Zukunftsvisionen formt, um ihre wirtschaftliche Macht zu stärken, und zieht Parallelen zu den Taktiken, die von den Unternehmen für fossile Brennstoffe im 20. Die von ihnen propagierten KI-gesteuerten Zukünfte führen häufig zu einer ausgrenzenden und nicht nachhaltigen „elitären Zukunft“, die durch Machtkonsolidierung und anhaltende Ungleichheiten gekennzeichnet ist. Darüber hinaus spiegeln diese Visionen das koloniale Erbe der extraktiven Expansion wider und stellen die Zukunft als eine zu erobernde Grenze dar.
Es ist dringend notwendig, zu entmystifizieren, wie die KI-Industrie diese kollektiven Zukunftsvisionen zu ihrem eigenen Vorteil konstruiert. Auf diese Weise können wir besser über transformative Maßnahmen informieren und eine wirklich nachhaltige und integrative Zukunft anstreben.
Witschas, Annemarie. Vorgefertigte Zukünfte: KI-Imaginarien zwischen elitären Visionen und sozialen Gerechtigkeitsansprüchen. Nomos Verlagsgesellschaft mbH & KG, 2025
Rainer Mühlhoff, Verfassungsblog
Im Internet generieren wir täglich Daten, die wir oft für harmlos halten – unsere Likes, unseren Standort oder unseren Browser-Verlauf. Doch Firmen, die diese Daten besitzen, können mittels KI-Algorithmen intime Informationen daraus ableiten: Leiden wir an psychischen Krankheiten? Missbrauchen wir Substanzen? Sind wir reich oder arm? Solche Algorithmen werden dazu verwendet, Menschen automatisiert unterschiedlich zu behandeln: wenn es um den Preis für eine Versicherung geht, die Auswahl von Bewerber:innen bei Einstellungsverfahren, Entscheidungen über Kreditvergabe oder Einreisemöglichkeiten. Die Kombination von Big Data und KI bringt derzeit eine neue Technologie der Bevölkerungsverwaltung hervor. Sie führt zu einer neuen Form der Macht in unseren Gesellschaften, zu der wir alle durch unsere Daten beitragen und die wir deshalb kritisch und ethisch diskutieren müssen.
Events 2025
Constanze Kurz, Sprecherin des Chaos Computer Clubs, und Rainer Mühlhoff diskutieren gemeinsam in der Urania Berlin über sein neues Buch.
Am Tag der Veröffentlichung!
“KI und der neue Faschismus” – Reclam-Verlag.
Eintritt: 8 €, ermäßigt: 5 €, Mitglieder: 3 €
Infos zum Event + Tickets - Vorbestellung (print) beim Verlag - Verlagsvorschau (pdf)
Was passiert, wenn Künstliche Intelligenz zur Steuerung staatlicher Prozesse eingesetzt wird - und demokratische Prinzipien zunehmend untergräbt?
In den USA sehen wir bereits den radikalen Umbau des Rechtsstaats: Zehntausende Staatsangestellte wurden entlassen, während nicht gewählte Tech-Milliardäre wie Elon Musk zunehmend die Kontrolle über politische und administrative Prozesse gewinnen.
Die AG "Ethik und kritische Theorien der Künstlichen Intelligenz" der Universität Osnabrück lädt ein zur Diskussion über den Schutz unserer Demokratie in Zeiten techno-autoritärer Politik. Beiträge aus Wissenschaft und Kunst beleuchten den Zusammenhang von KI und ultra-rechten Bewegungen.
Diskussion · Theater am Domhof, 19-21 Uhr
Eintritt frei, kostenlose Tickets über die Theaterkasse erforderlich.
Weitere Infos unter https://outreachlab.org/KI-und-Zukunft-der-Demokratie und https://rainermuehlhoff.de/KI-Zukunft-Demokratie-Event/
-
Invited presentation “Denke ich noch selbst? KI, ChatGPT & Co.” — phil.cologne 2025, session for students grade 9 and up. Wednesday, 25 June 2025, 10:00, COMEDIA Theater, Roter Saal, Vondelstraße 4–8, Cologne-Südstadt.
-
Invited panelist, podium discussion “Künstliche Intelligenz als Lehrkraft? Feedback und Bewertung durch die Maschine” — Europa-Universität Flensburg, 19 June 2025.
-
Invited talk “Updating Purpose Limitation for AI – a normative approach to AI regulation” (with Hannah Ruschemeier) at the Oxford Internet Institute, University of Oxford. Monday, 16 June 2025, 12:00–13:00 UK / 13:00–14:00 CET.
-
Invited keynote “Vom Mythos zur Machtfrage: Die gesellschaftliche Bedeutung von KI” — HSBI KI-Kongress 2025 “Chancen und Herausforderungen durch KI”, Hochschule Bielefeld, 3 June 2025.
-
Invited talk “The AI State: Why We Need To Save The Rule Of Law From ‘Effectiveness’” (with Hannah Ruschemeier) — IViR Lecture Series, University of Amsterdam, 16 May 2025.
-
Invited presentation “Hausaufgaben mit KI korrigieren!?” (with Marte Henningsen) — University Future Festival 2025, 14 May 2025. video
-
re:publica 25, Berlin — Talk “Digitaler Faschismus: Wie KI-Ideologie die Demokratie untergräbt und wie wir sie verteidigen können” (with Aline Blankertz), 28 May 2025, 17:30–18:00, Stage 5.
-
Invited keynote “Die Macht der künstlichen Intelligenz” — Humboldt-Lecture 2025, Humboldt-Gymnasium, Berlin, 24 March 2025.
-
Invited panelist, Session 3.3 “Chancen und Risiken von Künstlicher Intelligenz – Sichere Nutzung intelligenter Technologien” — Nationale Konferenz IT-Sicherheitsforschung 2025, BMBF (Bundesministerium für Bildung und Forschung), 19 March 2025, 10:45–12:15.
-
Conference presentation “Prediction Power and Cybernetic AI” (with Hannah Ruschemeier) — STS-Hub 25, Berlin, 11 March 2025.
-
Invited talk “Reading as Assessing. Automated Homework Grading With LLMs” — Workshop “New Reading Scenes: On Machine Reading and Reading Machine Learning Research”, Institute for Advanced Study in the Humanities (KWI) Essen, in cooperation with SFB Virtuelle Lebenswelten, Ruhr-Universität Bochum, organized by Katia Schwerzmann. Bochum, 28 February 2025.