Was passiert, wenn sich unterschiedliche Künstliche Intelligenzen auf etwas verständigen müssen? Streiten sie sich oder beginnen sie, wirres Zeug zu reden? In einer faszinierenden neuen Studie haben Forscher sogenannte KI-Agenten dabei beobachtet, wie sie gemeinsam soziale Konventionen entwickeln. Anstatt einem Skript oder Muster zu folgen, scheinen sie sich spontan abstimmen zu können – ähnlich wie Menschen in Gruppen.

Die Studie, erschienen in der Fachzeitschrift Science Advances, wirft laut den Autoren ein neues Licht auf die Dynamik von KI-Agenten – und die potenziellen Folgen für eine Zukunft mit KI. Für die Untersuchung arbeiteten Forscher der University of London und der IT University of Copenhagen zusammen.

Auch interessant

Wie Google mit KI gegen Betrugs-Nachrichten vorgehen wird

KI im Gespräch mit KI: In der Zukunft könnte der Mensch wegfallen

KI-Agenten sind autonome künstliche Intelligenzen, die Aufgaben eigenständig ausführen können – oft in einer Umgebung, in der sie Entscheidungen treffen, mit anderen Agenten oder Menschen interagieren und dabei bestimmte Ziele verfolgen. Anders als herkömmliche Software folgen sie nicht nur starren Befehlen, sondern können aus Erfahrungen lernen, ihr Verhalten anpassen und eigenständig handeln.

Im Zentrum der Untersuchung standen große Sprachmodelle (Large Language Models, LLMs), also KI-Systeme, die menschliche Sprache verstehen und erzeugen können. Am bekanntesten darunter: ChatGPT. In der Vergangenheit seien solche Modelle meist isoliert untersucht worden, heißt es in der Studie.

Doch Studienleiter Ariel Flint Ashery findet das nicht mehr zeitgemäß: „Reale KI-Systeme werden zunehmend viele interagierende Akteure umfassen“, zitiert eine Pressemitteilung den Doktoranden an der University of London. „Wir wollten wissen: Können diese Modelle ihr Verhalten koordinieren, indem sie Konventionen bilden, die Bausteine ​​einer Gesellschaft?“

Auch interessant

Experten warnen: KI-generierte Studien fluten Fachjournale

KI-Agenten müssen sich auf „Namen“ einigen

Um dies zu testen, passte das Forschungsteam ein bewährtes Modell aus der Sozialforschung – das sogenannte „Namensspiel“ – für KI-Agenten an. In Simulationen wurden Gruppen von 24 bis 200 Sprachmodellen gebildet, in denen jeweils zwei Agenten zufällig aufeinandertrafen und gemeinsam einen „Namen“ (z. Bsp. ein Buchstabe oder eine zufällige Symbolfolge) aus vorgegebenen Optionen auswählen sollten. Nur bei Übereinstimmung gab es eine Belohnung, bei abweichender Wahl eine Strafe – und die Möglichkeit aus dem Fehler zu lernen.

Bemerkenswert: Die Agenten hatten kein Wissen von der Gruppe als Ganzes und nur begrenzte Erinnerung an vergangene Interaktionen. Dennoch entwickelte sich in vielen Durchläufen eine gemeinsame Namenskonvention – ohne zentrale Steuerung. Ganz wie in menschlichen Gesellschaften, wo Normen ebenfalls „von unten“ entstehen, wie die Wissenschaftler erklären.

Bei der Analyse der Experimente kamen die Forscher noch zu einem überraschenden Befund. „Vorurteile kommen nicht immer von innen,“ erläutert Andrea Baronchelli, Professor für Komplexitätsforschung und Co-Autor der Studie. „Wir waren überrascht zu sehen, dass sie sich zwischen Agenten entwickeln können – allein durch deren Interaktion.“ Dieser Umstand sei ein blinder Fleck in den meisten aktuellen Forschungsarbeiten zur KI-Sicherheit, die sich auf einzelne Modelle konzentrieren.

Auch interessant

„Danke“ und „bitte“ kosten wohl Millionen – was die KI dazu sagt

KI-Agenten können andere manipulieren

Auch wie stabil solche gemeinsamen Konventionen sind, wurde untersucht: Kleine, aber entschlossene Untergruppen von KI-Agenten konnten demnach die gesamte Gruppe zur Übernahme einer neuen Konvention bringen – ein Phänomen, das als Kipppunkt oder „kritische Masse“ aus der Sozialforschung bekannt sei.

Die Ergebnisse fielen konstant aus, auch wenn die Forscher unterschiedliche KI-Modelle als Vorlage für die KI-Agenten nutzten. Die Studienautoren hoffen, dass ihre Forschung ein Ansatz sein könnte, um die Entstehung von Vorurteilen in KI-Systemen besser zu verstehen und zu verhindern.

„Diese Studie eröffnet neue Horizonte für die KI-Sicherheitsforschung“, betont Professor Baronchelli. „Sie zeigt die Tragweite dieser neuen Spezies von Agenten, die begonnen haben, mit uns zu interagieren – und unsere Zukunft mitgestalten werden.“ Zu verstehen, wie sie funktionieren, sei der Schlüssel zu einem harmonischen Zusammenleben mit KI, anstatt ihr unterworfen zu sein, fügt er hinzu. „Wir betreten eine Welt, in der KI nicht nur redet – sie verhandelt, stimmt sich ab und widerspricht manchmal gemeinsamen Verhaltensweisen, genau wie wir.“