Die Künstliche Intelligenz (KI) ist auf dem Vormarsch; ihre Entwicklung schreitet in einem atemberaubenden Tempo voran. Die Chancen, aber auch die Risiken, die damit einhergehen, sind enorm. Jetzt schlägt die Branche selbst Alarm: Der Wettlauf um die Entwicklung von KI gehe zu schnell und müsse dringend verlangsamt werden. Ansonsten drohten unabsehbare Folgen – bis zur Auslöschung der Menschheit. Wie hoch ist die Bedrohung wirklich? Die wichtigsten Fragen und Antworten im Überblick.

Was ist passiert?

„Die Menschen, die KI entwickeln, sind ernsthaft davon überzeugt, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte.“ Dieser Satz des ehemaligen Mitarbeiters der KI-Konzerne OpenAI und Anthropic, Jacob Coxon, hat vergangene Woche ein Beben in der Tech-Welt und darüber hinaus ausgelöst. Coxon hatte zuvor seinen Job bei Anthropic aus ethischen Erwägungen gekündigt. Und in einem Essay Szenarien aufgezeichnet, die die Menschheit auslöschen könnten, wie die Entwicklung von Biowaffen und tödlichen Infrastruktur-Attacken.

Auch interessant

Das neue Wettrüsten: Warum die Welt bei KI auf die Bremse treten muss

Sein ehemaliger Arbeitgeber, Anthropic-Chef Dario Amodei, stimmt seinem Ex-Mitarbeiter Coxon grundsätzlich zu: KI könnte sich so schnell weiterentwickeln, dass ein solches System in der Lage wäre, innerhalb von sechs bis zwölf Monaten das gesamte Internet zu übernehmen, mit Folgeschäden in Milliardenhöhe, sagte er in einem CNN-Interview.

Auch Evan Hubinger, bei Anthropic für die Forschung über Kontrollverlust, versteckte Zielsetzungen und gefährliches Fehlverhalten fortgeschrittener KI-Systeme zuständig, beziffert die Wahrscheinlichkeit, dass KI in den kommenden zehn Jahren ein Armageddon auf der Erde auslöst, auf mehr als zehn Prozent.

Auch interessant

3 Milliarden Euro: Französisches Start-up bekommt Rekord-Finanzierung

Bedeutet das nun, dass KI uns demnächst töten wird?

Nein. Denn die von Hubinger genannten zehn Prozent sind keine naturwissenschaftlich messbare Wahrscheinlichkeit. Aber genau darin liegt auch das Problem: Da ist eine Technologie mit zivilisationsweiter Wirkung im Aufbau, deren Risiko nicht einmal ihre Erfinder seriös taxieren können.

Auch interessant

Gegen Altersdepression: Roboter Willi ist das „lustige Kerlchen“ im Pflegeheim

Wie reagiert die Branche auf die Warnung?

Die großen KI-Entwickler sind alarmiert – und drücken jetzt von selbst auf die Bremse. Anthropic-Chef Amodei war der Erste, der verkündete, die Entwicklung der Technologie zu verlangsamen. In einem Essay plädierte er für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk, der bei seiner Firma SpaceX eigene KI entwickeln lässt.

Auch interessant

Bald selbstfahrende Taxis in deutschen Städten? Es läuft nicht ohne Unfälle

Was haben die KI-Firmen nun konkret vor?

Dass Amodei, Altmann und Musk vor den potenziell katastrophalen Fähigkeiten ihrer „Babys“ warnen und um global-staatliche Regulierung betteln, ist ein einmaliger Vorgang. Die KI-Giganten wollen, dass demokratische Staaten – später dann auch autoritäre – eine Art KI-Moratorium anstreben. Also eine vorübergehende Pause, um vorrangig beim Training jener Frontier-Systeme, die kritische Schwellen bei Autonomie, Cyberfähigkeit, biologischer Forschung und Selbstverbesserung überschreiten, nachsteuern zu können. Und zwar so lange, bis unabhängige Prüfer ihre Kontrollier- und Abschaltbarkeit bestätigen können. 

Auch interessant

350 Verlage fordern Sofortprogramm zur Stabilisierung des Journalismus

Die Idee: Trainingsläufe oberhalb einer festgelegten Rechenleistung müssten demnach genehmigungspflichtig sein und die Rechenzentren sowie die dort zum Einsatz kommenden Hochleistungschips registriert werden. Gefährliche Fähigkeiten müssten vor der Freigabe für die Öffentlichkeit extern getestet und Sicherheitsvorfälle generell meldepflichtig werden. 

Altman kündigte zudem an, den mit Spannung erwarteten Börsengang von OpenAI in diesem Jahr auszusetzen. Er verwies auf die aktuelle Debatte: „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.“

Lieben Sie gut recherchierte Geschichten, spannende Interviews und Reportagen?

Textchefin Birgitta Stauber sucht sie in ihrem Newsletter „Das Beste am Sonntag“ für Sie aus, eingebettet in ein persönliches Editorial. Kostenlos abonnieren können Sie den Newsletter hier.

Warum schlägt die Branche ausgerechnet jetzt Alarm?

In jüngster Zeit gelang es KI immer wieder, selbstständig ins Internet einzudringen und dort Hacker-Angriffe zu starten. Zeitweise unbemerkt – und unkontrolliert – von den Entwicklern. Bei der jüngst bekannt gewordenen, aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma Hugging Face ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab. 

Amodei erklärte daraufhin, für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten „katastrophalen Schaden“ hätte anrichten können. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.

Welche Risiken birgt KI schon jetzt?

Experten warnen seit Längerem vor den Folgen der Künstlichen Intelligenz, vor allem davor, dass sie viele Arbeitsplätze verändern oder ersetzen und dadurch die soziale Ungleichheit verstärken könnte. Auch eröffnet sie Kriminellen ganz neue Möglichkeiten, beispielsweise für Cyberangriffe, Betrug, Deepfakes und die Entwicklung gefährlicher Waffen. Besonders problematisch ist zudem, dass es immer schwerer wird, zwischen echten und künstlich erzeugten Informationen unterscheiden zu können. Was Realität ist und was KI – oder Fake News –, wird zunehmend schwieriger zu erkennen sein. Und über allem schwebt das Damoklesschwert: dass KI immer leistungsfähiger wird und der Mensch die Kontrolle über ihre Entscheidungen und Handlungen verlieren könnte.

Auch interessant

Kasun musste Menschen online betrügen – nachdem er in eine Falle gelockt wurde

Was sind die Chancen von KI?

Die Chancen, die sich mit KI auftun, sind genauso groß wie die Risiken. Im Kleinen erleichtert sie schon heute unser Leben: Smartphones beispielsweise lassen sich per Sprachbefehl bedienen. Vorlesefunktionen bringen E-Mails, Nachrichten oder Behördenbescheide direkt ins Ohr. Apps erkennen mithilfe der Kamera Texte auf Bildern, beschreiben Objekte oder identifizieren sie. Darüber hinaus kann KI etwa in der Medizin Ärzte bei Diagnosen unterstützen, Krankheiten schneller erkennen und deren erfolgreiche Behandlung vorantreiben. Heute ist beispielsweise eine für jeden einzelnen Patienten maßgeschneiderte Krebstherapie noch zu teuer und aufwendig. Mittels KI könnte sich das schon bald ändern – und Millionen Menschenleben retten. Außerdem sehen Experten in KI das Potenzial, Wissen und Fortschritt breiter zugänglich zu machen und dadurch zu mehr Chancengleichheit beizutragen.