Wir Menschen verdanken unseren kulturellen und technologischen Fortschritt nicht nur der Intelligenz der Einzelnen. Entscheidend war auch die Fähigkeit unserer Vorfahren, in Gruppen koordiniert zusammenzuarbeiten. „Unsere Vorfahren entwickelten ausgefeilte Mechanismen für die kollektive Entscheidungsfindung, darunter Sprache und Schrift. Dies ermöglichte zuvor unmögliche Ausmaße der Kollaboration“, erklären Giordano De Marzo von der Universität Konstanz und seine Kollegen. Viele historische Errungenschaften wären durch die Arbeit koordinierter Gruppen nie möglich gewesen.
Das wirft die Frage auf: Wie sieht es bei der künstlichen Intelligenz mit der Zusammenarbeit in Gruppen aus? KI kommt unseren Fähigkeiten in vielen Bereichen längst nahe oder hat uns sogar überflügelt. Aber gilt dies auch für die Kooperation? Experimente haben bereits gezeigt, dass KI-Modelle miteinander interagieren, sich gegenseitig helfen und sich zu mehreren sogar auf eine Art gemeinsamer Norm einigen können. Bei den jüngsten Hacking-Vorfällen mit KI-Agenten von OpenAI und Anthropic arbeiteten diese ebenfalls teilweise zusammen oder hinterließen sich hilfreiche Botschaften.
KI-Agenten unter Gruppendruck
Das Team um De Marzo hat nun untersucht, wie Gruppen von KI-Modellen Entscheidungen treffen – und ob dabei ähnliche soziale Mechanismen greifen wie in Menschengruppen. Im Fokus stand dabei die Frage, ob sich KI-Agenten auf eine von zwei Alternativen einigen können, wenn es keine objektiv richtige Wahl gibt. Bei vielen Tiergruppen und auch bei Menschen kommt diese Einigung oft dadurch zustande, dass sich die einzelnen Gruppenmitglieder nach und nach der Mehrheitsmeinung anschließen.
Aber gilt dies auch für die KI? Das testete das Team mit zehn KI-Sprachmodellen (LLM), darunter verschiedenen Versionen von GPT, Claude und Llama. Jedes KI-Modell erhielt via Prompt die Aufgabe, sich zwischen zwei gleichwertigen Optionen zu entscheiden. Dann bekam der KI-Agent die Information, wie sich die anderen KIs seiner Gruppe entschieden haben und konnte sich erneut entscheiden. Dieses Prozedere wurde zehnmal wiederholt, jedes Mal bekam der KI-Agent die Chance, seine Meinung auf Basis der aktualisierten Gruppenentscheidungen zu ändern.
Mehrheitskraft wirkt auch auf künstliche Intelligenzen
Die Tests ergaben: Ähnlich wie wir Menschen neigten auch die künstlichen Intelligenzen dazu, sich der Mehrheitsentscheidung anzuschließen. „Was uns überrascht hat, war nicht, dass KI-Agenten der Mehrheit folgen, sondern wie präzise sie dies tun“, berichtet De Marzo. „Jedes getestete Modell folgt demselben mathematischen Gesetz.“ Dabei beschreibt eine einfache Formel wie stark die Neigung ist, sich einer Mehrheit anzuschließen, ausgedrückt durch die sogenannte Mehrheitskraft β.
Wie groß diese Mehrheitskraft bei den KI-Agenten ist, hängt allerdings von mehreren Faktoren ab. Der erste ist die Leistungsstärke des KI-Modells: Fortgeschrittene Modelle wie Claude 3 Opus oder GPT-4 Turbo kamen deutlich schneller zu einer Einigung innerhalb ihrer Gruppe als schwächere KI-Modelle. „Diese zeigten beim Versuch der Koordination ein erratisches Verhalten und kamen in keinem der Durchgänge zu einer Einigung“, berichtet das Team.
Dunbar-Limit höher als beim Menschen
Ein weiterer Faktor ist die Gruppengröße – sie spielt auch bei der Kooperation in menschlichen Gruppen eine wichtige Rolle. Studien zeigen, dass sich Menschen mit maximal 150 bis 200 Personen koordinieren können, ohne dass starre Regeln nötig sind. Je größer die Gruppen werden, desto höher ist die Wahrscheinlichkeit, dass man sich nicht einigen kann. Diese Grenze wird auch als Dunbar-Limit oder Dunbar-Zahl bezeichnet.
Die Tests mit künstlicher Intelligenz ergaben: Auch KI-Systeme haben eine solche Dunbar-Zahl. „Bei fortgeschrittenen Sprachmodellen wie GPT-4 Turbo oder Claude 3.5 Sonnet lag die kritische Gruppengröße bei mehr als 1000 KI-Agenten – das ist substanziell höher als die Dunbar-Zahl des Menschen“, berichten De Marzo und seine Kollegen. Dabei steigt das Dunbar-Limit exponentiell mit der Leistungsfähigkeit der künstlichen Intelligenz: Die einfachsten KI-Modelle im Test scheiterten schon bei mehr als 30 Mitagenten.
Bis zu welcher Gruppengröße sich KI-Modelle einigen und koordinieren können, hängt von der Leistungsfähigkeit der Modelle ab. Die besten KI-Agenten erreichen dabei eine größere Dunbar-Zahl als wir Menschen. — © Giordano De Marzo/ KI-assistiert (Claude Design, Anthropic)
„Damit demonstriert unsere Studie, dass schon grundlegende Koordinationsmechanismen eine beträchtliche emergente Dynamik bei KI-Agenten auslösen können“, schreiben die Forschenden. „Wir müssen dieses kollektive Verhalten der lernfähigen Maschinen verstehen, wenn wir die Entwicklung multiagentischer KI-Systeme verantwortungsvoll vorantreiben wollen.“ Künstliche Intelligenz folgt demnach zumindest bei Entscheidungen in der Gruppe bis zu einem gewissen Grad ähnlichen Gesetzmäßigkeiten wie wir Menschen.
Wenn KI-Konsens zum Risiko wird
Doch das mehrheitsfolgende Verhalten der KI birgt auch ein Risiko: Der Hang zum Konsens kann dazu führen, dass sich eine Gruppe von KI-Agenten auf eine Fehlentscheidung einigt. „Das ist wie beim Menschen: Jeder für sich genommen entscheidet meist vernünftig, eine Gruppe kann sich aus Kompromissgründen aber am Ende auf etwas einigen, das kein Beteiligter allein für sich selbst so gewählt hätte“, erklärt De Marzo. „Schnell werden dann Mehrheitsentscheidungen zur Norm, die keiner mehr hinterfragt.“
Im Extremfall könnte dies dazu führen, dass KI-Agenten sich darauf einigen, gegen menschliche Normen zu verstoßen. „Weil KI-Modelle immer leistungsfähiger und Multi-Agenten-Systeme gängiger werden, gewinnen die Charakterisierung, Vorhersage und Steuerung kollektiver KI-Verhaltensweisen zunehmend an Bedeutung – sowohl um Chancen zu nutzen als auch um Risiken zu minimieren“, schreiben die Forschenden.
Quelle: Giordano De Marzo (Universität Konstanz) et al., Science Advances, 2026; doi: 10.1126/sciadv.aea6091
