Experten-Rat von Philipp Grill: Was Künstliche Intelligenz mit James Bond zu tun hat

Was hat nun Künstliche Intelligenz mit James Bond zu tun? Nicht viel. Außer, dass es neben Agenten im Dienste ihrer Majestät auch welche im Dienste der KI gibt.Eine klassische KI-Anwendung wie ChatGPT macht meist eines: Sie antwortet auf deine Frage. Dem Agenten hingegen gibst du ein Ziel und er geht den Weg dorthin selbst. Er macht einen Schritt, schaut sich das Ergebnis an, bessert nach und fährt fort, bis er das Ziel für erreicht hält. Das Besondere ist nicht das Endprodukt, sondern, dass er den Weg allein findet, statt jeden Schritt vorgesetzt zu bekommen. Diese Schleife macht ihn autonom.Der Agent braucht einen klaren Auftrag: Wer er ist, was er bewirken soll und was nicht. Zudem das Wissen, wie bestimmte Dinge funktionieren und den Zugang zu verschiedenen Werkzeugen: z. B. zum Postfach oder zur Datenbank. Ohne Auftrag fehlt ihm die Richtung, ohne Wissen trifft er falsche Annahmen und ohne Werkzeuge kann er nichts ausführen.Wie eigenständig er arbeitet, ist die eine Sache. Was ihn startet, die andere. Meist öffnest du ihn, er erledigt die Aufgabe und gibt an dich zurück. Er kann aber auch rund um die Uhr von alleine aktiv werden, sobald es etwas zu tun gibt. Das eine sagt nichts über das andere: Ein Agent kann sehr selbständig Aufgaben erledigen, ohne sie autonom zu starten.

Grenzen setzen

Je mehr er unabhängig erledigen darf, desto wichtiger sind seine Grenzen. Die gefährlichsten Fähigkeiten der Modelle, das Ausnutzen von Schwachstellen etwa, sind dabei schon eingeschränkt und die Anbieter halten ihre Modelle hier bewusst an der kurzen Leine. Aber was du dem Agenten erlaubst, wird er irgendwann tun. Zugang zum Postfach heißt, dass Mails rausgehen, die du nicht gelesen hast. Schreibrechte, dass Daten verschwinden können. Die Frage ist deshalb nicht, was er kann, sondern was im schlimmsten Fall passiert und wann du als „Human in the Loop“ selbst entscheidest. Ein Agent geht den Weg selbst und verfolgt dein Ziel auf seine Weise und dabei nicht immer so, wie du es meinst. Was richtig ist und wer gerade steht, bleibt bei dir.