Ethik der KI
Willkommen bei der Forschungsgruppe Ethik und kritische Theorien der KI!
Rainer Mühlhoff leitet die Arbeitsgruppe Ethics and critical theories of AI am Institut für Kognitionswissenschaft der Universität Osnabrück. Als Arbeitsgruppe entwickeln wir neue Ansätze für eine zeitgenössische kritische Philosophie des Digitalen und nutzen unser Kolloquium für inhaltliche Diskussionen.
Unsere Arbeitsgruppe bietet guten Studierenden und Promovierenden ein motiviertes Umfeld für kritische Philosophie, Ethik und Sozialtheorie der digitalen Gesellschaft – etwa im Rahmen von Bachelor- und Masterarbeiten sowie von Promotionsprojekten.
Gemeinsam trägt das Team zum Lehrangebot an der Universität Osnabrück bei. Unsere Veranstaltungen finden grundsätzlich in englischer Sprache und meist in hybriden Formaten (online/offline) statt, so dass sie auch für auswärtige Gäste zugänglich sind.
AKTUELLES
Neuer Open-Access-Artikel : Was heißt „Delegation“ bei der Benutzung von LLMs? Und was für ethische Abstufungen gibt es?
Der neue Artikel von Rainer Mühlhoff „From delegation to moral abdication: classifying large language model uses by judgment and epistemic control“ ist in AI & Society erschienen und steht Open Access zur Verfügung.
Der Artikel entwickelt eine gebrauchsspezifische Taxonomie für den Einsatz großer Sprachmodelle. Statt Anwendungen nur nach Sektoren, Aufgaben oder abstrakten Risikoklassen zu ordnen, richtet sich das Framework auf die Untersuchung konkreter Prompting-Praktiken und Workflows entlang zweier Dimensionen: Wie viel Urteilsleistung wird an ein Sprachmodell delegiert? Und wie viel epistemische Kontrolle verbleibt bei den Nutzer:innen?
Annemarie Witschas : Neues Essay
Wie fair sind Technologien, die auf prekärer Arbeit und ökologischer Aneignung beruhen, um westliche Profite zu sichern? Solche Machtgefälle sind das Erbe kolonialer Abhängigkeiten, die heute durch Patente und Monopole gesichert werden. Doch der Weg in eine faire digitale Zukunft führt nicht über den Wettkampf um einen besseren Platz in diesem System, sondern über dessen Überwindung. In ihrem Essay für das SUPERR Lab untersucht Annemarie Witschas, wie Länder ihre Ressourcen und Kapazitäten zugunsten einer bedarfsorientierten Entwicklung zurückgewinnen können.
Paul Schütze : Neue Publikationen
"The Transhumanist Anthropocene: From the climate crisis to upgrading humanity" https://doi.org/10.1177/20530196261453840 - zum Abstract
"AI and the climate crisis: power, ideology, and the politics of collapse" https://doi.org/10.4337/9781035342204.00044 - zum Abstract
KI und Demokratie: Rechtsstaat, Teilhabe, Nachhaltigkeit
Symposium mit öffentlicher Paneldiskussion
1. Oktober 2026 | 9:00-16:45 Uhr Vorträge, 17:00-18:30 Uhr Paneldiskussion
Veranstaltungsort: Einstein Center Digital Future, Robert-Koch-Forum, Wilhelmstraße 67, 10117 Berlin
Registrierung: per Email an symposium@ethikderki.de
Kontakt: symposium@ethikderki.de
Aktuelle Informationen und Updates
KI-Technologien halten zunehmend Einzug in zentrale Bereiche des politischen Entscheidens – von Verwaltung und Umweltpolitik bis hin zu Grenzregimen und ökonomischer Steuerung. Dabei verändern sie nicht nur Verfahren; es verschieben sich Machtkonstellationen, Verantwortung und politische Handlungsspielräume.
Das Symposium diskutiert KI als systemische Herausforderung für Demokratie und Rechtsstaat. Ausgehend von einer kurzen Einführung in verschiedene Schwerpunkte unserer Forschung bieten wir eine kollaborative Plattform zur Analyse und Diskussion der systemischen Kosten algorithmischer Governance für demokratische Strukturen. Damit schaffen wir einen offenen Raum für einen Austausch mit politischen Entscheidungsträger:innen, Vertreter:innen von NGOs, Forschenden sowie allen, die an der Zukunft unserer digitalen Gesellschaft interessiert sind.
Veranstaltung im Rahmen des Projekts „KI und Demokratie: Rechtsstaat, Teilhabe, Nachhaltigkeit“ an der Universität Osnabrück, AG Prof. Rainer Mühlhoff, gefördert von Bundesministerium für Forschung, Technologie und Raumfahrt. In Kooperation mit dem Einstein Center Digital Future, Berlin.
Frühjahr 2027 - Transcript Verlag : Neuerscheinung: Sammelband „KI und Krise. Technologische Macht als Gefahr für liberale Demokratien“, Paul Schütze und Rainer Mühlhoff (Hrsg.)
Der Band untersucht grob entlang dreier Themenfelder – Klimakrise, staatliche Souveränität und autoritäre Politik –, wie aktuelle KI-Technologien autoritäre Machtstrukturen stärken, politische und ökonomische Verantwortlichkeiten verschleiern und demokratische Entscheidungen unter Druck setzen. Die Beiträge liefern eine theoretisch fundierte Bestandsaufnahme des Zusammenhangs von KI, autoritärer Politik und globaler Krisendynamik. Das Buch richtet sich an eine breite Öffentlichkeit und alle, die verstehen wollen, warum liberale Demokratien in der größten Krise seit Jahrzehnten befinden, und was KI-Technologien damit zu tun haben.
Mit Beiträgen von: Anja Breljak, Daniela Hombach, Nora Lindemann, Roland Meyer, Peter Remmers, Hannah Ruschemeier, Eugenia Stamboliev, und Annemarie Witschas
Wer sind wir?
Besonders wichtig sind uns eine inklusive Arbeitsatmosphäre, Geschlechtergerechtigkeit und die Berücksichtigung der Bedürfnisse junger Wissenschaftler:innen mit Kindern.
Die Forschungsgruppe "Ethik und kritische Theorien der KI" besteht aus Prof. Rainer Mühlhoff und seinem Team. Einzelheiten zu Rainers laufenden Arbeiten finden Sie auch auf Rainers Website.
Aktuelle Themen in unserer Arbeitsgruppe sind:
- Ethik und Sozialphilosophie der Künstlichen Intelligenz,
- Ethik und Kritik angesichts struktureller Handlungseffekte,
- Datenschutz und Privatheit im Kontext von Big Data,
- Intersektionalität und Antidiskriminierung im Kontext digitaler Technologie,
- kritische Medienphilosophie der Mensch-Maschine-Interaktion und des digitalen Kapitalismus.
Events 2026
KI und Demokratie: Rechtsstaat, Teilhabe, Nachhaltigkeit
Symposium mit öffentlicher Paneldiskussion
1. Oktober 2026 | 9:00-16:45 Uhr Vorträge, 17:00-18:30 Uhr Paneldiskussion
Veranstaltungsort: Einstein Center Digital Future, Robert-Koch-Forum, Wilhelmstraße 67, 10117 Berlin
Registrierung: per Email an symposium@ethikderki.de
Kontakt: symposium@ethikderki.de
Aktuelle Informationen und Updates
KI-Technologien halten zunehmend Einzug in zentrale Bereiche des politischen Entscheidens – von Verwaltung und Umweltpolitik bis hin zu Grenzregimen und ökonomischer Steuerung. Dabei verändern sie nicht nur Verfahren; es verschieben sich Machtkonstellationen, Verantwortung und politische Handlungsspielräume.
Das Symposium diskutiert KI als systemische Herausforderung für Demokratie und Rechtsstaat. Ausgehend von einer kurzen Einführung in verschiedene Schwerpunkte unserer Forschung bieten wir eine kollaborative Plattform zur Analyse und Diskussion der systemischen Kosten algorithmischer Governance für demokratische Strukturen. Damit schaffen wir einen offenen Raum für einen Austausch mit politischen Entscheidungsträger:innen, Vertreter:innen von NGOs, Forschenden sowie allen, die an der Zukunft unserer digitalen Gesellschaft interessiert sind.
Veranstaltung im Rahmen des Projekts „KI und Demokratie: Rechtsstaat, Teilhabe, Nachhaltigkeit“ an der Universität Osnabrück, AG Prof. Rainer Mühlhoff, gefördert von Bundesministerium für Forschung, Technologie und Raumfahrt. In Kooperation mit dem Einstein Center Digital Future, Berlin.
Dieses Programm wird fortlaufend aktualisiert und erweitert.
| Vorläufiges Programm | |
|---|---|
| 09:15 - 10:00 | Eröffnung: Prof. Dr. Rainer Mühlhoff (Universität Osnabrück) |
| 10:15 - 11:30 | Bürokratie als Ethos: Über die Grenzen der Automatisierbarkeit öffentlicher Verwaltung Prof. Dr. Michael Bauer (European University Institute, Florenz), Nora Freya Lindemann (Eberhard-Karls Universität Tübingen) & Prof. Dr. Rainer Mühlhoff (Universität Osnabrück), |
| 11:45 - 13:00 | KI an den Grenzen der EU Anja Breljak (Universität Potsdam) & Matthias Monroy (Freier Journalist) |
| 13:15 - 14:15 | Mittagspause |
| 14:15 - 15:30 | Scale, expand, accelerate: Wie KI Wachstumsparadigmen verstärkt Dr. Steffen Lange (Universität Siegen) & Annemarie Witschas (Universität Osnabrück) |
| 15:30 - 16:45 | Nachhaltige Technopolitik und der Neue Autoritarismus Paul Schütze (Universität Osnabrück), Sandra Sieron (WZB Berlin/ HU Berlin) & Dr. Marie Wuth (KU Eichstätt-Ingolstadt) |
| 17:00 - 18:30 | Paneldiskussion Dr. Andreas Antić, Dr. Arian Henning, Prof. Dr. Rainer Mühlhoff, Dr. Dorothea Winter |
In dieser Aktionswoche fanden an vielen Universitäten in Deutschland Veranstaltungen und Aktionen statt, um die Verantwortung der Wissenschaft im Kampf gegen den Aufstieg autoritärer Politik und des Faschismus zu betonen.
Wir von der Gruppe „Ethik und kritische Theorien der KI“ waren an den Aktionen mit zwei Veranstaltungen dabei:
Rainer Mühlhoff : Vortrag "Faschismus und KI"
Mittwoch, 3. Juni 2026, 19 Uhr, Raum 22/B01
Film screening "Ghost in the Machine"
Der Film beleuchtet, wie rechtes Gedankengut, von sozialer Selektion bis Eugenik, tief mit der Entwicklungsgeschichte von KI-Technologie verwoben ist. Der Film wurde auf Englisch gezeigt.
Donnerstag, 4. Juni, 19 Uhr – 21 Uhr, in 15/E10 (EW Gebäude)
Anlässlich der Ausstellung „Computer Says No“ der !Mediengruppe Bitnik im Kirchenschiff der Kunsthalle Osnabrück stellte Rainer Mühlhoff sein 2025 erschienenes Buch „KI und der neue Faschismus“ vor.
Das neue Buch untersucht die gefährliche Verbindung zwischen Tech-Firmen und rechter Politik. Das Buch stellt Fragen: Welche Rolle spielt KI in dieser Entwicklung? Wie können wir frühzeitig merken, wenn sich diese Entwicklungen gegen die Demokratie richten – oder sogar faschistisch werden? In den USA genauso wie hier in Europa.
Nach einer kurzen Einführung sprach Rainer Mühlhoff gemeinsam mit den Künstler:innen der !Mediengruppe Bitnik über Künstliche Intelligenz, Macht und Widerstand im digitalen Zeitalter.
-
Invited presentation “Denke ich noch selbst? KI, ChatGPT & Co.” — phil.cologne 2025, session for students grade 9 and up. Wednesday, 25 June 2025, 10:00, COMEDIA Theater, Roter Saal, Vondelstraße 4–8, Cologne-Südstadt.
-
Invited panelist, podium discussion “Künstliche Intelligenz als Lehrkraft? Feedback und Bewertung durch die Maschine” — Europa-Universität Flensburg, 19 June 2025.
-
Invited talk “Updating Purpose Limitation for AI – a normative approach to AI regulation” (with Hannah Ruschemeier) at the Oxford Internet Institute, University of Oxford. Monday, 16 June 2025, 12:00–13:00 UK / 13:00–14:00 CET.
-
Invited keynote “Vom Mythos zur Machtfrage: Die gesellschaftliche Bedeutung von KI” — HSBI KI-Kongress 2025 “Chancen und Herausforderungen durch KI”, Hochschule Bielefeld, 3 June 2025.
-
Invited talk “The AI State: Why We Need To Save The Rule Of Law From ‘Effectiveness’” (with Hannah Ruschemeier) — IViR Lecture Series, University of Amsterdam, 16 May 2025.
-
Invited presentation “Hausaufgaben mit KI korrigieren!?” (with Marte Henningsen) — University Future Festival 2025, 14 May 2025. video
-
re:publica 25, Berlin — Talk “Digitaler Faschismus: Wie KI-Ideologie die Demokratie untergräbt und wie wir sie verteidigen können” (with Aline Blankertz), 28 May 2025, 17:30–18:00, Stage 5.
-
Invited keynote “Die Macht der künstlichen Intelligenz” — Humboldt-Lecture 2025, Humboldt-Gymnasium, Berlin, 24 March 2025.
-
Invited panelist, Session 3.3 “Chancen und Risiken von Künstlicher Intelligenz – Sichere Nutzung intelligenter Technologien” — Nationale Konferenz IT-Sicherheitsforschung 2025, BMBF (Bundesministerium für Bildung und Forschung), 19 March 2025, 10:45–12:15.
-
Conference presentation “Prediction Power and Cybernetic AI” (with Hannah Ruschemeier) — STS-Hub 25, Berlin, 11 March 2025.
-
Invited talk “Reading as Assessing. Automated Homework Grading With LLMs” — Workshop “New Reading Scenes: On Machine Reading and Reading Machine Learning Research”, Institute for Advanced Study in the Humanities (KWI) Essen, in cooperation with SFB Virtuelle Lebenswelten, Ruhr-Universität Bochum, organized by Katia Schwerzmann. Bochum, 28 February 2025.
Publikationen
In ihrem Essay für das SUPERR Lab untersucht unser Team Mitglied Annemarie Witschas, wie Länder ihre Ressourcen und Kapazitäten zugunsten einer bedarfsorientierten Entwicklung zurückgewinnen können.
Wie fair sind Technologien, die auf prekärer Arbeit und ökologischer Aneignung beruhen, um westliche Profite zu sichern? Solche Machtgefälle sind das Erbe kolonialer Abhängigkeiten, die heute durch Patente und Monopole gesichert werden. Doch der Weg in eine faire digitale Zukunft führt nicht über den Wettkampf um einen besseren Platz in diesem System, sondern über dessen Überwindung.
Der neue Artikel von Rainer Mühlhoff „From delegation to moral abdication: classifying large language model uses by judgment and epistemic control“ ist in AI & Society erschienen und steht Open Access zur Verfügung.
Der Artikel entwickelt eine gebrauchsspezifische Taxonomie für den Einsatz großer Sprachmodelle. Statt Anwendungen nur nach Sektoren, Aufgaben oder abstrakten Risikoklassen zu ordnen, richtet sich das Framework auf die Untersuchung konkreter Prompting-Praktiken und Workflows entlang zweier Dimensionen: Wie viel Urteilsleistung wird an ein Sprachmodell delegiert? Und wie viel epistemische Kontrolle verbleibt bei den Nutzer:innen? Zusammengenommen dienen diese Dimensionen dazu, Formen des cognitive offloading (der kognitiven Auslagerung) voneinander abzugrenzen, die auf der Ebene des Interfaces ähnlich erscheinen können, sich in ihren ethischen Implikationen jedoch deutlich unterscheiden. Prompts werden dabei als „Delegationsartefakte“ analysiert, in denen die Verteilung kognitiver und normativer Arbeit zwischen Mensch und System sichtbar wird.
Anhand zweier Fallstudien – automatisierter Leistungsbewertung in der Schule und der Prüfung von Vertragskündigungen in der öffentlichen Verwaltung – zeigt der Artikel, wie Interfaces und institutionelle Rahmungen weitreichende Urteilsdelegation und damit verbundene Verantwortungslücken verdecken können.
Die zentrale normative These lautet: Ein ethisch vertretbarer Einsatz von Sprachmodellen muss als Werkzeuggebrauch strukturiert bleiben. Dafür müssen Menschen epistemische Kontrolle über die zugrunde liegende Wissensbasis, eigenständige Urteilskraft und die Fähigkeit behalten, Entscheidungen zu begründen und zu verantworten. Wo diese Bedingungen fehlen, droht aus Delegation moralische Abdankung (moral abdication) zu werden.
Unser Team Mitglied Paul Schütze hat folgenden Artikel veröffentlicht:
"The Transhumanist Anthropocene: From the climate crisis to upgrading humanity"
https://doi.org/10.1177/20530196261453840
Abstract: This paper identifies a significant shift in the current dynamics of the Anthropocene driven by transhumanism. While the Anthropocene has traditionally emphasized humanity’s impact on Earth’s systems, transhumanist visions now direct this transformative force toward the biological and cognitive constitution of the human. This has two main implications for the Anthropocene dynamics: first, it marks an expansion of human action toward the technical control of human biological and cognitive capacities; second, it generates unprecedented living conditions that redefine what it means to be human. To capture this development, we introduce the notion of the “Transhumanist Anthropocene.” With it, we point to a novel trajectory within the overall Anthropocene dynamics. This is characterized by a reinforced anthropocentrism, the rise of a techno-religion shaped by transhumanist thought, a reduction of the perceived urgency of the climate crisis, and an increasing reliance on techno-solutionist models of environmental governance. We argue that this significantly complicates efforts toward a sustainable future in the face of the climate crisis.
Citation: Schütze, P., & Latzer, M. (2026). The Transhumanist Anthropocene: From the climate crisis to upgrading humanity. The Anthropocene Review, 0(0).
Unser Team Mitglied Paul Schütze hat folgenden Artikel veröffentlicht:
"AI and the climate crisis: power, ideology, and the politics of collapse"
https://doi.org/10.4337/9781035342204.00044
Abstract: In this chapter I argue that AI's climate impact extends beyond its material footprint. Its ideological influence is equally critical. I show this by looking at two cases: First, I show how AI technologies enable a continuation of the status quo of climate breakdown by promoting a false sense of security and control. This is the result of what I call AI futurism, an ideology focused on technological solutions to climate issues while distracting from necessary societal changes. Second, I explore how AI reproduces the power structures and the logics of racial capitalism. AI advances a system of division and exploitation that undermines genuine societal, political, or economic relations. Both AI's false promise of control and its racial capitalist character hinder effective politics addressing planetary collapse.
Citation: Schütze, P. (2026). "30: AI and the climate crisis: power, ideology, and the politics of collapse". In Handbook on Anthropology and Artificial Intelligence. Cheltenham, UK: Edward Elgar Publishing. Retrieved Aug 17, 2026.
Wir testen zwei verbreitete Tools
KI-Tools versprechen, Lehrkräfte bei Korrektur, Feedback und Bewertung von Schülertexten zu entlasten. In unserem neuen Open-Access-Artikel in SEMINAR – Lehrerbildung und Schule testen Sean Quägwer und ich zwei verbreitete Systeme für automatisiertes Feedback und KI-gestützte Leistungsbewertung: FelloFish und Edaira.
Die Untersuchung knüpft an unsere frühere Studie zur Fobizz-Korrekturhilfe an und fragt, ob die dort beobachteten Probleme nur ein einzelnes Tool betreffen oder strukturell mit Bewertungssystemen auf Basis großer Sprachmodelle zusammenhängen. Das Ergebnis ist deutlich: Auch bei FelloFish und Edaira zeigen sich erhebliche Schwankungen bei identischen Eingaben, mangelnde Reproduzierbarkeit von Bewertungen und problematische Effekte bei der Überarbeitung von Texten anhand automatisierter Rückmeldungen. Besonders kritisch ist, dass wortgetreue Übernahmen automatisch vorgeschlagener Formulierungen teils besser bewertet werden als eigenständige, inhaltlich gleichwertige Verbesserungen.
Unsere Schlussfolgerung: Solche Tools können gegenwärtig nicht als eigenständige Systeme der Leistungsbewertung empfohlen werden. Wenn sie eingesetzt werden, dann allenfalls unterstützend, transparent und unter kritischer menschlicher Kontrolle.
Rainer Mühlhoff und Sean Quägwer, 2026. „Automatisierte Korrektur mit KI? Wir testen zwei verbreitete Tools“. SEMINAR – Lehrerbildung und Schule 2/2026: 62–76. doi:10.3278/SEM2602W007. Materialanhang (PDF, 6,72 MB) und Volltext sind verfügbar.
Unser Team Mitglied Peter Remmers hat mit zwei Mit-Autorinnen dieses Kapitel im Handbuch der künstlichen Intelligenz veröffentlicht.
Preisverleihung
Das Buch wurde mit dem diesjährigen Preis „Das politische Buch“ der Friedrich-Ebert-Stiftung ausgezeichnet. Die Preisverleihung fand am 21. Mai 2026 in Berlin statt.
Jetzt im Handel. Beim Verlag für 8,00 EUR bestellen (print). Ebook auf allen bekannten Plattformen.
»Sehr eindrücklich […]. Wahnsinnig spannend zu lesen, aber auch sehr beängstigend […].« – Benjamin Knödler ― Deutschlandfunk Kultur
»In seiner knappen, meinungsstarken Abhandlung zerlegt Mühlhoff nicht nur die Rhetorik der KI-Propheten, sondern entlarvt auch deren fragwürdige Ideologie.« – Matthias Dusini ― Falter
»Rainer Mühlhoff ist einer der interessantesten Denker der deutschen Technikphilosophie.« – Jana Ballweber ― KNA
Ankündigung des Verlags: Elon Musk und Donald Trump kündigen massenhaft Verwaltungsmitarbeitern, um einen KI-Staat zu errichten. Tech-CEOs verkaufen künstliche Intelligenz als Heilsbringer für die größten Probleme der Menschheit, obwohl die entsprechende Industrie auf Ausbeutung und Menschenverachtung beruht. Warum lässt sich die Öffentlichkeit durch Spekulation über Erlösung oder Auslöschung durch KI von den erheblichen Schäden durch KI in unserer Gegenwart ablenken? Wie erkennen wir die zunehmend faschistischen Tendenzen, die sich im Zusammenspiel von Tech-Industrie und der neuen Rechten bilden? Rainer Mühlhoff entwickelt Antworten und diskutiert Lösungsansätze.
Es gibt keine KI-Ethik ohne Macht-Begriff.
In diesem Buch legt Rainer Mühlhoff die Grundlagen für eine machtbewusste Ethik der KI – indem er kritische Philosophie, Science and Technology Studies sowie Medientheorie miteinander verbindet, um die Ethik im Zeitalter der vernetzten Medien und datengestützten KI neu zu denken.
- er stellt das Konzept der Human-Aided AI vor
- untersucht, wie Macht, UX-Design und Subjektivierung miteinander verwoben sind
- geht der Entstehung von KI im Zusammenhang mit der Geschichte der Kybernetik nach
- kritisiert die Vorstellung, dass alle Biases durch technische Mittel “behoben” werden könnten
- betont die Relevanz kollektiver Ethik und kollektiver Verantwortung
- fordert eine stärkere Regulierung der KI
- und schließt mit einem “Manifesto for a Power-Aware Ethics of AI” ab
Open Access, veröffentlicht von Bristol University Press. PDF Volltext ebenfalls verfügbar.
Dieses Projekt entstand aus seiner Vorlesungsreihe an der Universität Osnabrück – herzlichen Dank an alle Studierenden für ihr unschätzbares Engagement und das begeisterte Feedback.
Rainer Mühlhoff und Hannah Ruschemeier, International Journal of Law and Information Technology
In den letzten Jahren haben große Technologie- und KI-Unternehmen viel Aufwand betrieben, um ihre Vision eines schnellen KI-Fortschritts als einzigen Weg in die Zukunft zu propagieren. Aber ist dies wirklich die einzige Option? Welche Interessen stehen hinter diesen großen Erzählungen, und welche alternativen Zukünfte werden verdrängt?
Dieser neue Artikel untersucht, wie die KI-Industrie kollektive Zukunftsvisionen formt, um ihre wirtschaftliche Macht zu stärken, und zieht Parallelen zu den Taktiken, die von den Unternehmen für fossile Brennstoffe im 20. Die von ihnen propagierten KI-gesteuerten Zukünfte führen häufig zu einer ausgrenzenden und nicht nachhaltigen „elitären Zukunft“, die durch Machtkonsolidierung und anhaltende Ungleichheiten gekennzeichnet ist. Darüber hinaus spiegeln diese Visionen das koloniale Erbe der extraktiven Expansion wider und stellen die Zukunft als eine zu erobernde Grenze dar.
Es ist dringend notwendig, zu entmystifizieren, wie die KI-Industrie diese kollektiven Zukunftsvisionen zu ihrem eigenen Vorteil konstruiert. Auf diese Weise können wir besser über transformative Maßnahmen informieren und eine wirklich nachhaltige und integrative Zukunft anstreben.
Witschas, Annemarie. Vorgefertigte Zukünfte: KI-Imaginarien zwischen elitären Visionen und sozialen Gerechtigkeitsansprüchen. Nomos Verlagsgesellschaft mbH & KG, 2025
Rainer Mühlhoff, Verfassungsblog
Im Internet generieren wir täglich Daten, die wir oft für harmlos halten – unsere Likes, unseren Standort oder unseren Browser-Verlauf. Doch Firmen, die diese Daten besitzen, können mittels KI-Algorithmen intime Informationen daraus ableiten: Leiden wir an psychischen Krankheiten? Missbrauchen wir Substanzen? Sind wir reich oder arm? Solche Algorithmen werden dazu verwendet, Menschen automatisiert unterschiedlich zu behandeln: wenn es um den Preis für eine Versicherung geht, die Auswahl von Bewerber:innen bei Einstellungsverfahren, Entscheidungen über Kreditvergabe oder Einreisemöglichkeiten. Die Kombination von Big Data und KI bringt derzeit eine neue Technologie der Bevölkerungsverwaltung hervor. Sie führt zu einer neuen Form der Macht in unseren Gesellschaften, zu der wir alle durch unsere Daten beitragen und die wir deshalb kritisch und ethisch diskutieren müssen.