Langzeitgedächtnis von Agenten

Ausführliche Erklärung

Große Sprachmodelle sind von ihrer Architektur her zustandslos: Nach jeder Sitzung beginnen sie wieder bei null, ohne Erinnerung an vorherige Gespräche oder Entscheidungen. Für KI-Agenten, die über längere Zeiträume eigenständig arbeiten oder wiederholt mit denselben Nutzerinnen und Nutzern interagieren sollen, ist diese Eigenschaft ein fundamentales Problem. Hier setzt das Langzeitgedächtnis an, das es Agenten ermöglicht, Kontext dauerhaft zu bewahren und aus vergangenen Erfahrungen zu lernen.

In der Praxis wird Langzeitgedächtnis meist durch Vektordatenbanken realisiert. Relevante Informationen aus Interaktionen werden dabei in semantische Vektoren umgewandelt und persistent gespeichert. Wenn der Agent eine neue Aufgabe erhält, kann er durch eine Ähnlichkeitssuche passende frühere Informationen abrufen und in seine Entscheidungsfindung einbeziehen. Moderne Implementierungen nutzen häufig spezialisierte Datenbanksysteme wie Pinecone, Weaviate oder Chroma, aber auch PostgreSQL mit der Erweiterung pgvector wird zunehmend eingesetzt.

Für KMU ist diese Technologie relevant, wenn Agenten wiederkehrende Aufgaben über Tage oder Wochen hinweg bearbeiten sollen, etwa bei der automatisierten Kundenkommunikation, im Projektmanagement oder bei der Analyse von Geschäftsdaten. Ein Agent mit Langzeitgedächtnis kann sich an Präferenzen bestimmter Kundinnen und Kunden erinnern, bereits erledigte Teilschritte eines Projekts berücksichtigen oder aus früheren Fehlern lernen, ohne dass diese Informationen bei jedem Neustart manuell eingegeben werden müssen.

Die Implementierung erfordert jedoch sorgfältige Planung: Es muss definiert werden, welche Informationen gespeichert werden sollen, wie diese strukturiert und indexiert werden, und wann sie wieder gelöscht werden müssen. Auch datenschutzrechtliche Aspekte spielen eine Rolle, da personenbezogene Daten unter Umständen längerfristig gespeichert werden. Zudem ist zu klären, wie mit veralteten oder widersprüchlichen Informationen umgegangen wird, die im Gedächtnis des Agenten vorhanden sind.