Agent Memory

Agent Memory, das Gedächtnis eines Agenten, sind die Mechanismen, mit denen ein KI-Agent Informationen über einen einzelnen Aufruf des Sprachmodells hinaus behält. Der Begriff umfasst drei verschiedene Dinge: den Zustand des laufenden Vorgangs, stabiles Wissen über euer Unternehmen und eure Systeme, und das, was der Agent aus früheren Vorgängen gelernt hat. Ein Modell allein hat keines der drei.

Warum braucht ein Agent überhaupt ein Gedächtnis?

Ein Large Language Model ist zustandslos. Jeder Aufruf beginnt bei null, und was das Modell über euer Unternehmen zu wissen scheint, kam mit der Anfrage im Kontextfenster an. Das ist der mechanische Grund, warum Teams denselben Hintergrund in jeden Chat kopieren: Das Werkzeug hat kein Gedächtnis, also übernimmt ein Mensch diese Rolle.

Memory ist die Ingenieursarbeit, die das Kopieren beendet. Das System legt dem Modell für jeden Vorgang die richtigen Informationen vor. Niemand tippt sie ein, und niemand vergisst sie.

Welche Arten von Gedächtnis gibt es?

Das Arbeitsgedächtnis ist der Zustand des laufenden Vorgangs: was der Agent gelesen hat, welche Werkzeuge er aufgerufen hat, was er bisher entschieden hat. Es lebt im Kontextfenster und im Zustand des Agent-Graphen und wird verworfen, wenn der Vorgang endet.

Das Langzeitwissen ist das, was über Vorgänge hinweg gilt: Produktdokumentation, Preislisten, Richtlinien, der Aufbau eurer Systeme. Es liegt außerhalb des Modells und wird bei Bedarf abgerufen, meist über Retrieval-Augmented Generation auf einem Dokumentenspeicher.

Das Erfahrungsgedächtnis ist das, was der Agent aus früheren Vorgängen gelernt hat: Ergebnisse, Korrekturen durch einen Menschen, Vorlieben eines bestimmten Kunden. Es liegt als strukturierte Einträge vor und wird abgerufen, wenn ein ähnlicher Vorgang auftaucht.

Getrennt von allen dreien steht das Trainingswissen des Modells. Ihr kontrolliert es nicht, es hat ein Stichdatum, und für irgendetwas über euer Unternehmen solltet ihr euch nicht darauf verlassen.

Warum ist das für ein Unternehmen relevant?

„Der Agent vergisst alles" ist die Beschwerde hinter vielen Pilotprojekten, die nicht am Modell gescheitert sind. Sie scheitern daran, dass niemand entworfen hat, was der Agent zu Beginn eines Vorgangs weiß, woher dieses Wissen kommt, wer es pflegt und was passiert, wenn ein Mensch den Agenten korrigiert.

Der letzte Punkt entscheidet, ob ein Agent im Betrieb besser wird. Läuft eine Korrektur ins Leere, kommt derselbe Fehler morgen wieder. Landet sie im Erfahrungsgedächtnis, wird der Agent besser, ohne dass jemand irgendetwas neu trainiert.

Zu Fine-Tuning wird an dieser Stelle oft gegriffen, und es ist meist das falsche Werkzeug. Es brennt Wissen in Modellgewichte ein, die ihr weder einsehen noch am Dienstagnachmittag aktualisieren noch löschen könnt, wenn sich ein Fakt ändert. Gedächtnis außerhalb des Modells ist eine Datei oder ein Datensatz. Ihr könnt es lesen, ändern und entfernen.

Beispiel und Grenzen

Nehmt einen Agenten für Support-Triage. Sein Arbeitsgedächtnis ist das Ticket mit Anhängen und den letzten drei Tickets desselben Kunden, beim Öffnen des Vorgangs aus dem Helpdesk geholt. Sein Langzeitwissen ist die Produktdokumentation, pro Frage abgerufen. Sein Erfahrungsgedächtnis enthält Einträge wie „wenn dieser Kunde über Rechnungen schreibt, an die Buchhaltung leiten, nicht an den Support", angelegt, nachdem ein Mensch die Zuordnung zweimal korrigiert hat.

Die Grenze: Gedächtnis ist Daten, und Daten haben einen Eigentümer. Ein falscher Fakt im Gedächtnis ist eine Halluzination mit Aktenzeichen. Der Agent wiederholt ihn mit voller Überzeugung, bis jemand ihn entfernt. Jeder Gedächtnisspeicher braucht deshalb drei Antworten. Wer darf hineinschreiben. Wann verfallen Einträge oder werden geprüft. Wo fallen personenbezogene Daten darin unter eure Datenschutzregeln.

Diese Antworten gehören in die KI-Governance, und sie sind vor dem ersten produktiven Agenten leichter zu klären als nach der ersten Beschwerde. Bei den Agenten, die wir bauen, sind die Gedächtnisspeicher Teil des gelieferten Systems und bleiben im Stack des Kunden, siehe Agents.