Handlungsempfehlung zur Verwendung agentischer KI

^{Stand: 03.08.2026}

Die Weiterentwicklung von KI-Technologie erfolgt in einem hohen Tempo und stellt Nutzende vor die Herausforderung, die persönliche KI-Kompetenz immer wieder zu hinterfragen und ggf. zu erweitern. Die Universität Osnabrück unterstützt diesen Prozess der Kompetenzerweiterung durch zielgruppenorientierte Weiterbildungsangebote sowie online zugängliche Informationen zu universitätsinternen Regelungen und Empfehlungen. Die vorliegende Handlungsempfehlung befasst sich mit den Merkmalen und Risiken agentischer KI und soll Orientierung im Umgang mit dieser Technologie bieten.

Da der für eine effektive Nutzung erforderliche Umfang des Zugriffs auf Daten, Quellen und Werkzeuge u. a. ein erhebliches Sicherheits- und Datenschutzrisiko mit sich bringt, wird empfohlen, autonome KI-Browser und jede andere Art von kognitiven KI-Agenten an der UOS nicht zu verwenden.

Wird ein Einsatz solcher Systeme entgegen dieser Empfehlung beabsichtigt, ist eine Genehmigung durch die Stabsstelle Datenschutz und den IT-Sicherheitsbeauftragten der UOS einzuholen.

Sofern autonome KI-Agenten eingesetzt werden sollen, sind zuvor umfassende Maßnahmen zum Schutz der IT-Sicherheit und des Datenschutzes zu ergreifen. Hierzu gehört u. a. eine detaillierte Dokumentation hinsichtlich der eingesetzten Produkte, des Einsatzbereichs und der Zugriffsrechte des autonomen KI-Agenten. Dabei muss sichergestellt sein, dass die Kontrolle bei den Einsetzenden verbleibt; d. h., es muss transparent sein, auf welche lokalen sowie universitären Daten der autonome KI-Agent Zugriff hat. Zudem ist bei der Verarbeitung personenbezogener Daten die Erstellung einer Datenschutzfolgeabschätzung (DSFA) sowie bei der Verwendung externer autonomer KI-Agenten der Abschluss eines Auftragsverarbeitungsvertrags (AVV) mit dem jeweiligen Anbieter des KI-Agenten erforderlich. Ergänzend ist eine Risikoanalyse in Bezug auf die IT-Sicherheit und deren Schutzziele – Vertraulichkeit, Integrität und Verfügbarkeit – zu erstellen.

Hintergrund der Empfehlung

Wenngleich die Nutzung von autonomen KI-Browsern und kognitiven KI-Agenten vielfältige Arbeitserleichterungen verspricht, stehen die Risiken derzeit in keinem vertretbaren Verhältnis zu ihrem Nutzen. Zu den Risiken zählen insbesondere:

ein unbemerkter und unkontrollierter Datenabfluss (z. B. von Personaldaten oder Forschungsergebnissen), die unbefugte Weitergabe sowie die missbräuchliche Verwendung von Daten (z. B. personenbezogene Daten oder Passwörter),
Fehlentscheidungen autonom agierender Agenten (z. B. bei Terminbuchungen, dem E-Mail-Versand oder Finanztransaktionen),
Die Ausnutzung von Schwachstellen (z. B. Code-Injection zum Einschleusen von Schadsoftware, die Daten manipulieren oder unerwünschte Aktionen ausführen kann, etwa durch versteckte Anweisungen auf Webseiten, die den KI-Browser dazu veranlassen, gegen die Interessen der Nutzenden zu agieren).

Zudem stellt sich bei der Verwendung autonomer KI-Agenten die Haftungsfrage bei potentiellen Rechtsverletzungen und ggf. verursachten Schäden.

Möglichkeiten des KI-Kompetenzerwerbs

Da die notwendige Software zur Nutzung von KI-Browsern bzw. kognitiven KI-Agenten derzeit noch aktiv von den Nutzenden heruntergeladen werden muss, ist eine versehentliche Verwendung bis auf Weiteres ausgeschlossen. Nutzende sollten jedoch mit den Vorgaben der UOS zur Verwendung von KI vertraut sein und den Umfang ihrer persönlichen KI-Kompetenz regelmäßig überprüfen.

Informationen und Angebote zum KI-Kompetenzerwerb

Handlungsempfehlungen zum Umgang mit KI-basierten Anwendungen

Infoportal Lehre: Themenbereich KI in der Lehre

Begrifflichkeiten

Künstliche Intelligenz (KI) lässt sich grob einteilen in analytische KI, die Muster erkennt und Kategorisierungen vornimmt, generative KI, die mit Nutzenden interagiert und Inhalte erstellt, sowie agentische KI, die eigenständig mit anderen Systemen und Programmen interagiert, um komplexe Aufgaben zu erfüllen.

Generative KI-Systeme (Chatbots etc.) erzeugen Inhalte auf Anfragen von Nutzenden. Dies geschieht auf Basis von Datensätzen, mit denen die jeweiligen KI-Modelle des KI-Systems trainiert wurden. Durch gezielte Instruktionen (Prompts) und die Bereitstellung zusätzlicher Datenquellen (z. B. hochgeladene Dokumente) lassen sich entsprechend kontextualisierte Inhalte generieren. Nutzende können hierfür oft selbst KI-Assistenten erstellen, die wiederholt mit den zusätzlichen Daten und Instruktionen arbeiten.

Die Grenze zwischen den Bezeichnungen „KI-Assistent“ und „KI-Agent“ verschwimmt im allgemeinen Sprachgebrauch häufig, so dass beide sowohl für die oben beschriebene einfache Unterstützung verwendet werden, als auch für die im Folgenden beschriebene risikoreichere Variante.

KI-Agenten im engeren Sinne ist es möglich, vorgegebene Ziele selbstständig zu verfolgen und dabei autonom mit anderen Systemen und digitalen Werkzeugen zu interagieren. Je höher der Grad an Autonomie, desto höher ist auch das Risiko. Unterscheiden lassen sich reaktive KI-Agenten, die festen vorgegebenen Regeln folgen, und kognitive KI-Agenten, die durch komplexe Entscheidungsalgorithmen gesteuert werden.

Kognitive KI-Agenten können die von Nutzenden zugänglich gemachten Daten nicht nur speichern, sondern auch zur eigenständigen Weiterentwicklung ihrer Funktionsweise verwenden. Solche lernenden Agenten greifen eigenständig auf alle ihnen zugänglichen Quellen und Werkzeuge zu, ohne dass eine kontinuierliche äußere Steuerung durch Nutzende erforderlich ist.

Klassische Webbrowser bieten mittlerweile oft eine optionale KI-Unterstützung der Suchfunktion, deren Verwendung i. d. R. zulässig ist. KI-Browser (auch Agentic Browser genannt) verfügen über integrierte autonome KI-Agenten, deren nicht deaktivierbare Funktionen ein Risiko darstellen können. Dazu gehören u. a. der Zugriff auf Konten, Datenbanken und andere Ressourcen sowie die Verwendung digitaler Werkzeuge, sofern ihnen der Zugang hierzu einmal gewährt wurde. Beispiele für KI-Browser sind Atlas von ChatGPT oder Comet von Perplexity.

Darüber hinaus ist spezielle Agenten-Software erhältlich, die auf Basis autonomer Entscheidungen und im Namen der Nutzenden mit ihrer Umgebung interagiert. Ein Beispiel hierfür ist die Software OpenClaw, die auf einem Rechner installiert und mit einem Kommunikationsdienst, z. B. einem Chatprogramm, sowie einem KI-Modell verbunden wird.