inferwire
/
KI·2 Min. Lesezeit

AEWM: Ein Weltmodell, das Fehlentscheidungen von Agenten korrigiert

Ein Weltmodell der Renmin University bewertet die Schritte eines Agenten und schreibt verrauschte um, statt Tool-Ausgaben vorherzusagen. Auf sechs Benchmarks stiegen die Werte um 3,2 bis 6,7 Punkte.

TL;DR

  • Forschende der Renmin University of China schlagen das Agent-Editing World Model (AEWM) vor, das Entscheidungen eines Agenten bewertet und verrauschte bearbeitet, statt Umgebungsausgaben vorherzusagen [^1].
  • Kombiniert mit echter Ausführung verbesserte es die durchschnittlichen Werte über sechs Benchmarks und drei Agenten-Modelle um 3,2 bis 6,7 Punkte gegenüber der stärksten Vergleichsmethode [^1].

Hintergrund

Weltmodelle für Sprach-Agenten sagen meist Beobachtungen der Umgebung voraus, etwa die Ausgabe eines Tool-Aufrufs [^1]. Die Autoren halten es für wenig hilfreich, solche schwer vorhersagbaren Tool-Antworten nachzubilden, wenn ohnehin echtes Feedback verfügbar ist. Außerdem leiden Agenten unter einer Verunreinigung des Aufgabenzustands: Unbelegte Annahmen und veraltete Pläne bleiben im Verlauf stehen und verzerren spätere Entscheidungen [^1].

Was passiert ist

AEWM modelliert, wie Überlegungen und Aktionen eines Agenten den weiteren Fortschritt einer Aufgabe prägen [^1]. Es verbindet einen Action Judge, der Entscheidungen als kritisch, explorativ oder verrauscht einordnet, mit State Revision, die verrauschte Fortsetzungen aus Überlegung und Aktion auf Basis desselben Verlaufs umschreibt [^1]. Ein System namens EditAct verbindet beides mit echter Ausführung und verändert den Zustand, auf dem spätere Entscheidungen beruhen, statt nur Kritik zu liefern [^1]. Trainiert wurde AEWM auf Such-, Terminal- und Softwareentwicklungs-Aufgaben [^1].

AEWM erreichte auf dem Action-Judge-Benchmark der Autoren 70,5 Prozent Macro-F1, 10,6 Punkte über dem stärksten Frontier-Modell als Vergleich [^1]. EditAct verbesserte die Durchschnittswerte über sechs Benchmarks und drei Agenten-Modelle um 3,2 bis 6,7 Punkte [^1]. Agenten auf geprüften EditAct-Abläufen nachzutrainieren, eine Variante namens AEWM-RFT, brachte 2,2 bis 2,6 Punkte mehr als Selbsttraining, ohne dass AEWM zur Laufzeit nötig war [^1].

Warum es wichtig ist

Lange laufende Agenten scheitern weniger an einzelnen schlechten Schritten als an schlechten Schritten, die in ihrem Verlauf bleiben und alles Weitere prägen. Eine Komponente, die erkennt, welche Schritte Rauschen waren, und sie umschreibt, packt genau dieses Problem an. Dass die Verbesserungen auch bei Agenten ankamen, die nur auf den bereinigten Abläufen trainiert wurden, ohne laufendes Weltmodell, deutet darauf hin, dass der Ansatz Agenten selbst verbessern kann, statt sie nur zu beaufsichtigen [^1].

Ein Beispiel aus der Praxis

Angenommen, ein Coding-Agent vermutet früh, dass ein Fehler in der Datenbankschicht steckt, was falsch ist, und liest weiter Datenbankdateien. In einem Aufbau wie EditAct würde der Judge diesen Schritt als verrauscht markieren und die Revision ihn umschreiben, sodass spätere Entscheidungen nicht mehr an der falschen Annahme hängen [^1].

Passende Produkte

Wir empfehlen diesen Klassiker, da er das grundlegende Verständnis der strukturellen Logik vermittelt, das erforderlich ist, um Agenten zu bauen, die zuverlässig innerhalb komplexer Systemarchitekturen arbeiten.

WerbungAmazon

Design Patterns: Elements of Reusable Object-Oriented Software

Quellen

  1. [1]arXiv — Agent-Editing World Model: Rethinking World Modeling for LLM Agents