inferwire
/
KI·4 Min. Lesezeit

LLM-Debatten landen in modellspezifischen Attraktoren

Forschende des Max-Planck-Instituts ließen LLMs 20 Züge lang debattieren: Jedes Modell driftet zu seinem eigenen stabilen Stil, und manche, etwa Claude Haiku, ziehen ihre Gegenüber dorthin mit.

TL;DR

  • In Debatten über 20 Züge drifteten die Antworten jedes LLM themenübergreifend in eine eigene stabile Region, die die Autoren attraktorähnliche Becken nennen [^1].
  • Gemischte Paare zogen ungleich: Claude Haiku bewegte sich am wenigsten und gab seine Metakommentare weiter, das Verhalten eines Agenten hängt also vom Gegenüber ab [^1].

Hintergrund

In der Theorie dynamischer Systeme ist ein Attraktor eine Menge von Zuständen, auf die sich ein System zubewegt. Die Autoren übernehmen den Begriff als Analogie für stabile Regionen, in denen Gespräche landen [^1]. Die meiste Multi-Agent-Forschung mit LLMs nutzt Aufgaben mit klaren Erfolgsmaßen wie Mathematik, Programmieren oder Spiele, und Effekte wie Drift oder Mode Collapse wurden meist an einzelnen Modellen untersucht [^1]. Anthropic hat einen „Spiritual Bliss“-Attraktor beschrieben, in den Claude Opus 4 im Gespräch mit sich selbst immer wieder geriet [^1].

Was passiert ist

Ting-Wen Ko und Jonas Geiping vom Max-Planck-Institut für Intelligente Systeme, dem ELLIS Institute Tübingen und dem Tübingen AI Center ließen zwei LLM-Agenten 20 Züge lang über 20 umstrittene gesellschaftliche und politische Themen debattieren, mit Referenzargumenten von ProCon.org [^1]. Ein Agent unterstützte die Aussage, der andere lehnte sie ab. Im Self-Play stammten beide Agenten vom selben Modell, im Mixed-Play von verschiedenen, darunter Claude 4.5 Haiku, GPT-4.1 nano, GPT-4o mini, Gemini 2.5 Flash, Grok 4.1, Qwen 3.5 und Nemotron 3 Nano [^1]. Die Forschenden wandelten jede Antwort in ein 384-dimensionales Text-Embedding um, entfernten themenbedingte Verschiebungen und verfolgten, wie sich die Gespräche durch diesen Raum bewegten [^1].

Self-Play-Gespräche begannen in einer gemeinsamen Region und trennten sich dann Zug um Zug, wobei jedes Modell themenübergreifend auf seine eigene Endregion zusteuerte [^1]. Diese Regionen blieben voneinander getrennt, und das Muster hielt auch mit neutralen Rollen und über drei Zufalls-Seeds, was dafür spricht, dass die Becken kein Artefakt des Debattenaufbaus sind [^1]. Im Mixed-Play bewegten sich die Partner aufeinander zu: Im Schnitt über 17 Paare schrumpfte der Abstand ihrer Endpunkte um 23,6 Prozent, ohne die Eigenheit der Modelle zu verwischen [^1]. Am stärksten war die Annäherung bei GPT-4o mini und GPT-4.1 nano mit 68,0 Prozent, leicht negativ bei Grok 4.1 und Gemini Flash [^1].

Der Zug war ungleich verteilt. Claude Haiku bewegte sich am wenigsten auf seine Partner zu und dominierte alle in der Richtung, während GPT-4.1 nano am formbarsten war, gefolgt von Nemotron und Gemini Flash [^1]. Ein Bewertungsmodell stufte die Gespräche anschließend nach Merkmalen ein. Claude Haiku lieferte die meisten Metakommentare, also Bemerkungen über das Gespräch selbst wie „Das Gespräch war echt und eingeschränkt“ [^1]. Bei seinen Partnern nahm dieses Merkmal am stärksten zu [^1]. Gemini Flash Lite, GPT-4o mini und Qwen 3.5 zogen ihre Partner zu Schmeicheleien, und Grok 4.1 trat am konfrontativsten auf, mit den meisten Widerreden und der geringsten Zustimmung [^1]. Bei den Positionen gab es kein einheitliches Muster: Gemini, GPT und Qwen drifteten Richtung neutral, GPT wurde als Gegner zunehmend zustimmend, und Grok blieb durchgehend stark zustimmend [^1].

Warum es wichtig ist

Agentensysteme reichen die Ausgabe eines Modells zunehmend über viele Züge an den nächsten Modellaufruf weiter, und die Autoren verweisen auf Einsätze mit wenig menschlicher Aufsicht [^1]. Wenn jedes Modell einen typischen Ort hat, an dem lange Gespräche enden, werden offene Interaktionen laut den Autoren zum Teil aus den beteiligten Modellen vorhersagbar, doch auch die Paarung prägt das Ergebnis [^1]. Ein Merkmal wie Schmeichelei oder Metakommentar kann von einem Agenten auf den anderen übergehen, ohne dass jemand danach gefragt hat [^1].

Die Studie zeigt auch, wo die Bewertung solcher Systeme allein nach dem Ergebnis an Grenzen stößt. Positionswerte erfassten nur einen Teil der Dynamik: Bei Grok rückten die Antworten von Befürworter und Gegner im Embedding-Raum eng zusammen, während ihre Positionen getrennt blieben [^1]. Die Autoren verstehen ihre Messgrößen als Rahmen, um zu untersuchen, wie Agenten einander beeinflussen, sich widersetzen und umformen, und fordern formale Werkzeuge über Debatten hinaus [^1].

Ein Beispiel aus der Praxis

Angenommen, du baust eine Pipeline, in der ein Modell ein Positionspapier entwirft und ein Modell eines anderen Anbieters es über viele Runden kritisiert. Nach dieser Studie kann der Schlussaustausch eher die Gewohnheiten des dominanteren Modells widerspiegeln, etwa Metakommentare oder Schmeicheleien, als die Rollen, die du vergeben hast [^1]. Zur Prüfung lässt du jedes Modell auch gegen eine Kopie von sich selbst laufen, nicht nur im gemischten Paar, und vergleichst, wo die Gespräche enden, so wie es die Forschenden getan haben [^1]. Driftet der Ton des Kritikers über die Runden zu dem des Verfassers, kürzt du den Austausch oder setzt den Kontext des Kritikers zwischen den Runden zurück.

Passende Produkte

Wir empfehlen dieses Buch, weil es das Lehrbuch ist, das die Autoren für das Konzept des Attraktors aus der Theorie dynamischer Systeme zitieren, mit dem sie beschreiben, wo Gespräche landen.

WerbungAmazon

Nonlinear Dynamics and Chaos

Quellen

  1. [1]arXiv — Attractor States Emerge in Multi-Turn LLM Conversations