WorldEvolver verbessert die Voraussicht von KI-Agenten ohne Training
WorldEvolver lässt das Weltmodell eines LLM-Agenten über Gedächtnis statt Training aus Fehlprognosen lernen. Die Vorhersagen wurden viel genauer, der Aufgabenerfolg stieg weniger.
TL;DR
- WorldEvolver lässt das Weltmodell eines LLM-Agenten aus eigenen Fehlprognosen lernen, indem es den Prompt-Kontext anpasst, ohne Modellgewichte zu ändern [^1].
- In zwei textbasierten Testumgebungen stieg die Vorhersagegenauigkeit stark, der Aufgabenerfolg aber weniger und beim stärkeren Modell nur in einigen Szenarien [^1].
Hintergrund
Ein Weltmodell lässt einen Agenten vorab sehen, was eine Aktion bewirken wird; die Autoren nennen diese Vorhersagen Foresight, also Voraussicht [^1]. In diesem Paper ist das Weltmodell ein Sprachmodell, das die nächste Beobachtung vorhersagen soll, und in den Planungstests ist es dasselbe Modell, das auch den Agenten steuert [^1]. Die Autoren argumentieren, dass ein eingefrorenes Weltmodell danebenliegt, wenn sich Umgebungen ändern, und dass Nachtraining bei jedem Fehler in LLM-Größe teuer ist und katastrophales Vergessen riskiert [^1].
Was passiert ist
Xuan Zhang, Wenxuan Zhang, See-Kiong Ng und Yang Deng von der National University of Singapore, der Singapore University of Technology and Design und der Singapore Management University haben WorldEvolver am 29. Juni auf arXiv veröffentlicht [^1]. Das Verfahren lässt den Agenten und alle Modellgewichte unverändert und ändert nur, was das Weltmodell zu sehen bekommt, über drei Module [^1]. Das episodische Gedächtnis speichert jeden echten Übergang (Beobachtung, Aktion, nächste Beobachtung) und ruft die früheren Übergänge ab, deren Aktionen die meisten Wörter mit der geplanten teilen [^1]. Das semantische Gedächtnis zerlegt jede Vorhersage und jedes echte Ergebnis in einfache Fakten wie („fridge 1“, „is“, „open“); weichen sie ab, formuliert ein LLM-Kritiker eine Regel in Textform, die nur im Prompt bleibt, solange ihr Evidenzwert, der bei 1 beginnt, positiv ist [^1]. Selective Foresight bewertet jede Vorhersage nach dem geometrischen Mittel ihrer Token-Wahrscheinlichkeiten und zeigt sie dem Agenten nur oberhalb eines Schwellenwerts [^1].
Zuerst maß das Team die Vorhersagegenauigkeit auf dem Benchmark Word2World mit je 195 Testverläufen aus ALFWorld und ScienceWorld, zwei textbasierten Umgebungen [^1]. Mit Gemma-4-26B-A4B stieg die exakte Trefferquote auf ALFWorld von 3,60 Prozent ohne Beispiele auf 52,88 Prozent, gegenüber 20,06 für die stärkste Vergleichsmethode RAWM-ϕ; auf ScienceWorld ging sie von 0,41 auf 51,55 [^1]. Den Großteil leistete das episodische Gedächtnis: Ohne es fiel der ALFWorld-Wert auf 7,53 [^1]. Qwen3.5-9B und Gemma-4-31B zeigten dasselbe Muster [^1].
Der Aufgabenerfolg, gemessen auf AgentBoard mit 134 ALFWorld- und 90 ScienceWorld-Aufgaben, fünf Versuchen pro Aufgabe und höchstens 30 Schritten pro Versuch, bewegte sich weniger [^1]. WorldEvolver war in allen acht Szenarien die beste Weltmodell-Methode, während die beiden Vergleichsmethoden oft schlechter abschnitten, als dem Agenten gar keine Vorhersage zu geben [^1]. Mit Gemma-4-26B-A4B als ReAct-Agent auf ScienceWorld stieg die Erfolgsquote von 44,44 Prozent ohne Weltmodell auf 52,22 Prozent [^1]. Mit GPT-5.4-mini schlug WorldEvolver die Variante ohne Weltmodell nur in zwei von vier Szenarien und lag in den anderen um 2,99 und 2,23 Punkte zurück [^1]. Auf Gemma-4-26B-A4B stieg die Laufzeit von 1,05 auf 1,48 Sekunden pro Übergang [^1].
Warum es wichtig ist
Der Kern des Papers: Voraussicht hilft nur, wenn sie gut genug ist, und eine schlechte Vorhersage kann schlimmer sein als keine. In einem Vorabtest der Autoren senkte verrauschte Voraussicht die Treffsicherheit der Aktionen eines Agenten, während perfekte Voraussicht sie verbesserte, und die Vergleichsmethoden zeigten denselben Effekt in den Planungsläufen [^1]. WorldEvolver setzt an beiden Stellen an: Das Gedächtnis verbessert die Vorhersagen, und die Konfidenzschwelle hält die wackeligen zurück. Mit der Schwelle war das Ergebnis in jedem Planungsszenario gleich gut oder besser als ohne [^1]. Weil das System sein Gelerntes als Fälle und Regeln im Klartext ablegt, sehen die Autoren darin eine überprüfbare Alternative zu wiederholten Gewichtsanpassungen [^1].
Die Grenzen benennt das Paper selbst. Getestet wurde in zwei kontrollierten Textumgebungen, nicht bei Webnavigation, Codegenerierung, Robotik oder multimodalen Aufgaben [^1]. Die Schwelle braucht Token-Wahrscheinlichkeiten, die manche geschlossenen Modell-APIs nicht herausgeben [^1]. Und beim stärkeren Modell schrumpfte der Nutzen; laut den Autoren ließ die bessere Planung von GPT-5.4-mini weniger Raum für Hilfe durch Voraussicht [^1]. Die Belege für genauere Vorhersagen sind also stark, der Schritt zu deutlich besseren Agenten fällt bisher bescheiden aus.
Ein Beispiel aus der Praxis
Angenommen, Ines baut einen Agenten für einen textbasierten Haushaltssimulator wie ALFWorld, mit Gemma-4-26B-A4B als Agent und zugleich als Weltmodell, wie in den Planungstests des Papers [^1]. Die Aufgabe: einen gekühlten Apfel auf den Tisch legen. Vor jedem Schritt entwirft der Agent eine Aktion, und das Weltmodell sagt voraus, was passieren wird [^1].
Gleich zu Beginn plant der Agent, den Apfel aus dem Kühlschrank zu nehmen. Das Weltmodell sagt Erfolg voraus, doch der Kühlschrank ist zu, und nichts passiert. WorldEvolver zerlegt beide Texte in Fakten, erkennt die Abweichung, und der Kritiker schreibt eine Regel etwa dieser Art: einen geschlossenen Behälter erst öffnen, bevor man etwas herausnimmt [^1]. Die Regel startet mit dem Evidenzwert 1 und bleibt im Prompt, solange spätere Beobachtungen sie stützen [^1]. Der echte Übergang landet außerdem im episodischen Gedächtnis, sodass das Weltmodell bei einer ähnlichen Aktion später sieht, was beim letzten Mal tatsächlich passiert ist [^1].
Später ist sich das Weltmodell unsicher, was das Kühlen des Apfels bewirkt. Die Konfidenz liegt unter der Schwelle, also bekommt der Agent keine Vorhersage und entscheidet selbst, statt einer Vermutung zu folgen [^1]. Gewichte ändern sich dabei nie, und beide Gedächtnisse bleiben für spätere Aufgaben in derselben Umgebung erhalten [^1].
Der Haken für Ines: Mit GPT-5.4-mini fand das Paper nur in einigen Szenarien Verbesserungen, und eine geschlossene API ohne Token-Wahrscheinlichkeiten bräuchte eine andere Methode, um die Konfidenz zu schätzen [^1].
Passende Produkte
Wir empfehlen dieses Buch, weil es die Ideen erklärt, auf denen dieses Paper aufbaut: Agenten, die planen, indem sie die Folgen ihrer Aktionen vorhersagen, und Lernen aus dem, was tatsächlich passiert.