Jeder verkauft Dir gerade Agenten. Was steckt dahinter?

Wenn Du in den vergangenen Monaten mit Softwareanbietern gesprochen hast, ist Dir das Wort vermutlich mehrfach begegnet. Alles heißt inzwischen Agent. Der Chatbot im Kundenportal ebenso wie das Textwerkzeug im Schreibprogramm.

Das ist ein Problem beim Einkaufen. Wenn ein Begriff alles bezeichnet, sagt er nichts mehr darüber aus, was Du bekommst und wofür Du am Ende haftest. Das Fraunhofer-Forschungszentrum für Hybride Künstliche Intelligenz, eine gemeinsame Einrichtung der Institute IAIS und IAO, hat im Februar eine Studie veröffentlicht, die hier aufräumt. Sie ist frei verfügbar und der Ausgangspunkt für unsere neue Serie.

Teil 1 unserer Serie: „Agenten im Realitätscheck".

Der Aha-Effekt: Autonomie ist eine Skala

Die Studie führt einen Begriff ein, der die Diskussion sortiert: Den Agentic Level. Dahinter steckt ein Bewertungsraster, das misst, wie stark ein System die typischen Agenteneigenschaften tatsächlich ausprägt. Damit wird aus der Ja-Nein-Frage eine Abstufung und auf einer Abstufung lässt sich sauber vergleichen, was ein Anbieter verspricht, was das System im Betrieb wirklich tut und wie viel Kontrolle Du beim Einsatz aus der Hand gibst. Denn Nutzen und Risiko wachsen auf dieser Skala gemeinsam.

Vier Fragen, die den Grad bestimmen

Die Studie beschreibt Agenten als zielgerichtete Systeme, die ihre Umgebung wahrnehmen, lernen, eigenständig handeln, mit Menschen und anderen Systemen zusammenarbeiten sowie komplexe Aufgaben planen und entscheiden. Daraus lassen sich vier Fragen ableiten, die Du jedem Anbieter stellen kannst.

Nimmt das System seine Umgebung wahr? Ein Textwerkzeug bekommt eine Eingabe und gibt eine Ausgabe zurück. Ein Agent greift von sich aus auf Kalender, Postfach, Datenbank oder Dateiablage zu und arbeitet mit dem, was er dort vorfindet. Frage konkret nach, auf welche Quellen das System zugreift und ob es das selbst entscheidet.

Handelt und entscheidet es eigenständig? Hier trennt sich Vorschlagen von Ausführen und das ist der wichtigste Punkt der ganzen Liste. Zwischen einem System, das eine Rechnung zur Freigabe vorlegt, und einem System, das dieselbe Rechnung eigenständig freigibt und die Zahlung anstößt, liegen haftungsrechtlich Welten. Im Gespräch mit dem Anbieter sollte deshalb klar werden, an welcher Stelle im Ablauf ein Mensch zustimmen muss.

Plant es über mehrere Schritte? Einfache Werkzeuge erledigen genau eine Aufgabe. Wird daraus ein Agent, zerlegt er ein Ziel selbstständig in Teilschritte, arbeitet sie nacheinander ab und ändert den Plan, sobald ein Schritt fehlschlägt. Mit dieser Fähigkeit werden Systeme leistungsfähig und gleichzeitig schwer nachvollziehbar.

Lernt es aus dem Verlauf? Manche Systeme verhalten sich morgen anders als heute, weil sie sich merken, was funktioniert hat. Für die Qualität ist das oft gut. Für die Dokumentation und die Nachvollziehbarkeit gegenüber einer Aufsicht wird es dadurch allerdings aufwendiger.

Warum der Grad auch rechtlich zählt

Die Einordnung ist keine akademische Übung. Seit dem 2. August greifen die Transparenzpflichten der KI-Verordnung, über die wir im Juli ausführlich geschrieben haben. Je eigenständiger ein System handelt, desto eher berührt es Bereiche, in denen eine Aufsicht wissen möchte, wer eine Entscheidung getroffen hat und wie sie zustande kam. Bei einem Vorschlagswerkzeug stellen sich solche Fragen kaum. Sobald ein System ohne Rückfrage Kundenzusagen macht oder Zahlungen auslöst, werden sie unvermeidlich. Wer den Agentic Level seines Systems benennen kann, beantwortet sie im Zweifel in fünf Minuten statt in fünf Sitzungen.

Warum die Frage nach dem Grad Geld spart

Anbieter preisen ihre Systeme gern als vollwertige Agenten an, obwohl darunter oft eine schlichte Automatisierung mit Sprachoberfläche steckt. Umgekehrt kaufen Unternehmen manchmal hohe Autonomie ein, wo eine einfache Vorschlagsfunktion gereicht hätte und zahlen anschließend für Kontrollmechanismen, die sie ohne die Autonomie nie gebraucht hätten. Beides lässt sich mit den vier Fragen oben in einem einzigen Gespräch klären, bevor irgendein Vertrag unterschrieben ist.