„Ich konnte da Würgereiz nur mühsam unterdrücken“, sagt Sascha Lobo am Dienstagabend bei „Markus Lanz“. Auslöser seiner Übelkeit ist ausgerechnet Microsoft-Mitgründer Bill Gates. Der hatte in einem Interview mit dem US-Sender NBC davor gewarnt, dass Künstliche Intelligenz Ereignisse auslösen könnte, bei denen bis zu eine Milliarde Menschen sterben. Eine Aussage, die auch Markus Lanz gehörig gegen den Strich geht. „Mein Reflex ist: Das regt mich wahnsinnig auf“, erklärt der Moderator.
Mit KI-Forscher Hans Uszkoreit, Medizinethikerin Alena Buyx, KUKA-Chef Christoph Schell und Digitalexperte Sascha Lobo sitzen vier Gäste am Dienstagabend am Tisch, die die technologische Revolution aus unterschiedlichen Perspektiven betrachten. Es geht um intelligente Maschinen, autonome Cyberangriffe und die Frage, ob der Mensch die Kontrolle über seine eigenen Entwicklungen verliert.
Sascha Lobo kritisiert Bill Gates für Warnungen vor Technologie-Risiken
„Wir unterhalten uns in Deutschland viel weniger über Fortschritt als darüber, wie man regulieren kann. Das steht in einem gewissen Widerspruch“, kritisiert Schell gleich zu Beginn. Dass die Frage nach Kontrolle durchaus ihre Berechtigung hat, wird im Laufe des Abends deutlich.
Lesen Sie auch: Kann KI die Menschheit auslöschen? „Vielleicht schon in einem Jahr“
„Das ist blanke Panikmache“, urteilt Lobo über Gates‘ Warnung. Gleich zwei Dinge seien es, gegen die er „eine gewisse Allergie“ habe. Zum einen sei Gates über Jahrzehnte zu einer Verkörperung der Digitalisierung geworden. Dass ausgerechnet ein Mann, der mit Technologie Milliarden verdient hat, nun vor einer möglichen Katastrophe warne, stößt ihm bitter auf.
„Wenn jemand, der in der Öffentlichkeit bekannt ist als Technologie-Großversteher, von einer Milliarde Toten spricht, dann sind auch alle Sätze davor oder danach egal“, kritisiert er. „Dann ist das schiere Panikmache.“
Auch interessant
KI-Konkurrenz aus China setzt US-Tech-Konzerne unter Druck
Doch Lobo hat noch einen zweiten Verdacht. „Es gibt einen zweiten Aspekt, der nicht so oft diskutiert wird“, erklärt er. Elon Musk, OpenAI-Chef Sam Altman und Anthropic-Chef Dario Amodei seien plötzlich erstaunlich einig, wenn es darum gehe, die Entwicklung von KI stärker zu kontrollieren. Dabei würden sich die Konkurrenten ansonsten „in Vollzeit hassen“, spottet Lobo. „Ein paar Wochen vorher wollten sie sich auf der Bühne nicht die Hände schütteln.“ Was steckt also dahinter?
Lobos Erklärung: die Konkurrenz aus China. Chinesische KI-Modelle würden immer leistungsfähiger und seien teilweise kostenlos verfügbar. „Die waren am Anfang, sagen wir mal, zweiter Sieger“, erklärt er. Inzwischen werde der technologische Vorsprung der amerikanischen Unternehmen auf maximal neun bis zehn Monate geschätzt. „Maximal“, bestätigt Uszkoreit. „Das heißt, die spüren den heißen Atem aus China“, fasst Lanz zusammen.
KI-Forscher Uszkoreit: Maschinen sind Menschen bereits überlegen
„Was ich dann tun möchte, ist zum einen Ausflippen“, beschreibt Lobo die Perspektive der amerikanischen Konzerne. Das hätten sie ja bereits mehrfach getan. „Zum anderen aber ein Szenario herstellen, wo die Regierung unbedingt eingreifen muss.“
„Die müssen dringend Geld verdienen“, ergänzt Lobo. Schließlich hätten die US-Konzerne enorme Summen investiert und müssten diese nun wieder erwirtschaften. Seiner Einschätzung nach hätten die Unternehmen deshalb ein Interesse daran, staatliche Kontrollen zu etablieren, deren Anforderungen chinesische Open-Source-Modelle kaum erfüllen könnten.
„Die jetzige Künstliche Intelligenz ist wirklich superintelligent, viel intelligenter noch, als die meisten glauben“, erklärt Hans Uszkoreit. Der Informatiker gehört zu den Pionieren der deutschen KI-Forschung. „Wenn man mit den Mitteln der Intelligenzmessung drangeht, dann schlägt die KI den Menschen in den Kernbereichen der Intelligenz bei Weitem“, sagt er.
„Intelligenz im Sinne von Verstehen?“, hakt Lanz nach. Uszkoreit stimmt zu und bleibt bei seiner Einschätzung. „Sie würden noch viel besser landen, wenn die Aufgaben schwieriger wären“, betont er. Aber sie seien eben für Menschen gemacht.
Auch interessant
Warum Alena Buyx die europäischen KI-Regeln verteidigt
„Man lebt in zwei Welten“, beschreibt Medizinethikerin Alena Buyx die aktuelle Entwicklung. Auf der einen Seite gebe es „tolle und schnelle Entwicklungen“, etwa in der Medizin. Gleichzeitig würden immer wieder „relativ katastrophale Untergangsszenarien“ beschrieben. Und manche Gefahren seien bereits Realität: „Da fallen schon Kinder in den Brunnen, jetzt gerade“, warnt Buyx.
„KI soll das Leben von Menschen besser machen und nicht schlechter.“ Dass selbst der chinesische Staatspräsident vor einem möglichen Kontrollverlust warne, finde sie „schon relativ bemerkenswert“. Umso mehr schätzt Buyx die europäischen Vorgaben: „Ich bin momentan froh, dass ich in der EU lebe.“
Wenn KI sich selbst verbessert: Buyx warnt vor Kontrollverlust
Besonders große Sorgen bereitet der Medizinethikerin die sogenannte rekursive Selbstverbesserung. Dahinter steht die Möglichkeit, dass KI-Systeme zunehmend an ihrer eigenen Weiterentwicklung mitwirken. Buyx verweist auf ein Beispiel des US-Journalisten Ezra Klein: Während Unternehmen wie OpenAI oder Anthropic für die Parkplätze vor ihren Entwicklungslaboren Genehmigungen benötigten, könnten sie bei der Entwicklung entsprechender KI-Systeme weitgehend eigenständig voranschreiten.
„Das heißt: Die KI programmiert sich selbst“, vereinfacht Lanz. „Wir haben es hier mit einem Bereich zu tun, wo es ganz wenig Beschränkungen gibt“, warnt Buyx. „Aus ethischer Perspektive macht mir das ganz große Sorgen.“
Uszkoreit hält dagegen vor allem technische Sicherheitsmechanismen für entscheidend. „Wir werden in der Zukunft sehen, dass man keiner einzigen KI alleine vertrauen kann“, erklärt Uszkoreit. Stattdessen müssten mehrere unabhängig entwickelte Systeme einander kontrollieren. „Ich finde, man muss verlangen, dass die Unternehmen das demonstrieren“, fordert Buyx. Die Frage ist schließlich nicht nur, ob sich eine Technologie absichern lässt, sondern auch, wer dafür die Verantwortung übernimmt.
KI-Agenten hacken Hugging Face: „Es entfaltet sich ein Krimi“
Wie unvorhersehbar autonome KI-Systeme handeln können, soll ein Vorfall vom Juli 2026 verdeutlichen. Bei einem Sicherheitstest gelang es KI-Agenten, technische Beschränkungen zu umgehen, miteinander zu kommunizieren und in Systeme der KI-Plattform „Hugging Face“ einzudringen.
Mehr Politik-News
„Es entfaltet sich ein Krimi“, kommentiert Lobo. Die Agenten seien eigentlich voneinander abgeschirmt gewesen, hätten jedoch Wege gefunden, Informationen auszutauschen. „In kürzester Zeit ergibt sich ein geheimes, verborgenes Kommunikationssystem zwischen den Agenten, und sie fangen an, im Schwarm zu arbeiten“, schildert er.
Geheime Kommunikation: Wie KI-Agenten Sicherheitsgrenzen umgingen
Ein OpenAI-Mitarbeiter habe die auffälligen Nachrichten zunächst gelöscht, ohne das gesamte Geschehen zu durchschauen. „Die machen etwas, was sie eigentlich als Aufgabenstellung gar nicht durften“, stellt Lanz fest. Lobo berichtet sogar davon, dass Beobachter von einer eigenen „KI-Agenten-Zivilisation“ gesprochen hätten.
„Diese Agenten haben kein Bewusstsein“, widerspricht KUKA-Chef Schell. „Das liegt am Prompt“, erklärt er und verweist damit auf die menschlichen Anweisungen an KI-Systeme. „Technologie ist im Ursprung neutral“, betont Schell. Buyx lässt sich davon nicht beruhigen: „Es entsteht eine ganz neue Form von Intelligenz.“ Eine, die nicht dasselbe Bild von der Welt habe wie Menschen. „Und die kann uns schaden.“
Auch interessant
Welche Arbeit sollte Künstliche Intelligenz dem Menschen überlassen?
Während Schell vor allem die Chancen der Technologie betont, etwa für den Wirtschaftsstandort Deutschland und die Robotik, stellt Buyx deren gesellschaftliche Folgen in den Mittelpunkt. Auch die Veränderungen der Arbeitswelt kommen zur Sprache. Lobo warnt vor Menschen, die ihren Arbeitsplatz durch KI bereits verloren haben.
Buyx plädiert dafür, bestimmte Tätigkeiten bewusst nicht an Maschinen abzugeben. Fortschritt allein beantwortet schließlich noch nicht die Frage, wer von ihm profitiert. Oder, wie Schell zu Beginn kritisiert hatte: Deutschland diskutiert lieber über Regulierung. Nach den geschilderten Sicherheitsvorfällen erscheint das allerdings nicht unbedingt als die schlechteste Angewohnheit.
