Künstliche Intelligenz: Wie KI-Agenten Gruppen bilden

Mehrheitskraft wirkt auch auf künstliche Intelligenzen

Die Tests ergaben: Ähnlich wie wir Menschen neigten auch die künstlichen Intelligenzen dazu, sich der Mehrheitsentscheidung anzuschließen. „Was uns überrascht hat, war nicht, dass KI-Agenten der Mehrheit folgen, sondern wie präzise sie dies tun“, berichtet De Marzo. „Jedes getestete Modell folgt demselben mathematischen Gesetz.“ Dabei beschreibt eine einfache Formel wie stark die Neigung ist, sich einer Mehrheit anzuschließen, ausgedrückt durch die sogenannte Mehrheitskraft β.

Wie groß diese Mehrheitskraft bei den KI-Agenten ist, hängt allerdings von mehreren Faktoren ab. Der erste ist die Leistungsstärke des KI-Modells: Fortgeschrittene Modelle wie Claude 3 Opus oder GPT-4 Turbo kamen deutlich schneller zu einer Einigung innerhalb ihrer Gruppe als schwächere KI-Modelle. „Diese zeigten beim Versuch der Koordination ein erratisches Verhalten und kamen in keinem der Durchgänge zu einer Einigung“, berichtet das Team.

Dunbar-Limit höher als beim Menschen

Ein weiterer Faktor ist die Gruppengröße – sie spielt auch bei der Kooperation in menschlichen Gruppen eine wichtige Rolle. Studien zeigen, dass sich Menschen mit maximal 150 bis 200 Personen koordinieren können, ohne dass starre Regeln nötig sind. Je größer die Gruppen werden, desto höher ist die Wahrscheinlichkeit, dass man sich nicht einigen kann. Diese Grenze wird auch als Dunbar-Limit oder Dunbar-Zahl bezeichnet.

Die Tests mit künstlicher Intelligenz ergaben: Auch KI-Systeme haben eine solche Dunbar-Zahl. „Bei fortgeschrittenen Sprachmodellen wie GPT-4 Turbo oder Claude 3.5 Sonnet lag die kritische Gruppengröße bei mehr als 1000 KI-Agenten – das ist substanziell höher als die Dunbar-Zahl des Menschen“, berichten De Marzo und seine Kollegen. Dabei steigt das Dunbar-Limit exponentiell mit der Leistungsfähigkeit der künstlichen Intelligenz: Die einfachsten KI-Modelle im Test scheiterten schon bei mehr als 30 Mitagenten.

Bis zu welcher Gruppengröße sich KI-Modelle einigen und koordinieren können, hängt von der Leistungsfähigkeit der Modelle ab. Die besten KI-Agenten erreichen dabei eine größere Dunbar-Zahl als wir Menschen. — © Giordano De Marzo/ KI-assistiert (Claude Design, Anthropic)

„Damit demonstriert unsere Studie, dass schon grundlegende Koordinationsmechanismen eine beträchtliche emergente Dynamik bei KI-Agenten auslösen können“, schreiben die Forschenden. „Wir müssen dieses kollektive Verhalten der lernfähigen Maschinen verstehen, wenn wir die Entwicklung multiagentischer KI-Systeme verantwortungsvoll vorantreiben wollen.“ Künstliche Intelligenz folgt demnach zumindest bei Entscheidungen in der Gruppe bis zu einem gewissen Grad ähnlichen Gesetzmäßigkeiten wie wir Menschen.

Wenn KI-Konsens zum Risiko wird

Doch das mehrheitsfolgende Verhalten der KI birgt auch ein Risiko: Der Hang zum Konsens kann dazu führen, dass sich eine Gruppe von KI-Agenten auf eine Fehlentscheidung einigt. „Das ist wie beim Menschen: Jeder für sich genommen entscheidet meist vernünftig, eine Gruppe kann sich aus Kompromissgründen aber am Ende auf etwas einigen, das kein Beteiligter allein für sich selbst so gewählt hätte“, erklärt De Marzo. „Schnell werden dann Mehrheitsentscheidungen zur Norm, die keiner mehr hinterfragt.“

Im Extremfall könnte dies dazu führen, dass KI-Agenten sich darauf einigen, gegen menschliche Normen zu verstoßen. „Weil KI-Modelle immer leistungsfähiger und Multi-Agenten-Systeme gängiger werden, gewinnen die Charakterisierung, Vorhersage und Steuerung kollektiver KI-Verhaltensweisen zunehmend an Bedeutung – sowohl um Chancen zu nutzen als auch um Risiken zu minimieren“, schreiben die Forschenden.

Quelle: Giordano De Marzo (Universität Konstanz) et al., Science Advances, 2026; doi: 10.1126/sciadv.aea6091