Die Sicherheitsdebatte um Künstliche Intelligenz (KI) reißt nicht ab. Immer wieder werden Warnungen laut, dass die neuesten Programme zu mächtig würden. Ein ehemaliger Mitarbeiter der KI-Konzerne OpenAI und Anthropic, Jacob Coxon, sagte im September sogar, dass KI „uns alle bis zum Ende des Jahrzehnts töten könnte“. Das sieht der Experte für Internetkultur und Digitalisierung, Sascha Lobo, anders. Er erklärt, was hinter den Warnungen steckt. Und ob Deutschland auf einen Hackerangriff auf die kritische Infrastruktur vorbereitet ist.
Ist KI wirklich so gefährlich, wie OpenAI, Anthropic und Co. derzeit behaupten?
Sascha Lobo: Die Diskussion ist im Moment überhitzt. Wenn ich frühere Debatten betrachte, etwa über Video-Spiele oder über Social Media und auch bei vielen anderen Technologien mit gesellschaftlicher Wirkung, dann sehe ich immer wieder dasselbe Muster. Es wird viel über Gefahren gesprochen, aber nicht mehr sinnvoll zwischen sehr verschiedenen Bereichen und Begriffen unterschieden. Im Diskurseifer wird vieles in einen Topf geworfen.
Was genau?
Aktuell werden mehrere unterschiedliche Kernfragen vermischt. Erstens: Macht sich KI selbstständig? Zweitens: Bedroht KI das Überleben der Menschheit? Und drittens: Kann KI von böswilligen Menschen missbraucht werden? Dazu melden sich dann noch prominente Stimmen zu Wort und werfen irgendwelche Zahlen in den Raum: „Hilfe, KI wird uns alle mit einer 10-, 25- oder 95-prozentigen Wahrscheinlichkeit töten!” Man muss wissen: Diese Zahlen sind alle vollständig ausgedacht und dahinbehauptet, ohne jede belastbare Grundlage.
Auch interessant
Was steckt denn hinter den Warnungen der Entwickler selbst – also von denen, die es eigentlich wissen müssten?
Man muss verschiedene Interessen unterscheiden. Anthropic zum Beispiel kannte vor zweieinhalb Jahren niemand – auch über gezieltes „Doom-Marketing“ des CEO Dario Amodei haben sie weltweit an Bekanntheit gewonnen. Radikale Warnungen vor dem eigenen Produkt erscheinen ungewöhnlich und erzeugen schon allein dadurch Presseaufmerksamkeit. Und man kommuniziert gleichzeitig: Unsere Technologie ist so mächtig, dass wir sie kaum kontrollieren können. Auffällig ist auch, dass diese Sorge in dem Moment auftaucht, wo eine neue Konkurrenz durch günstige, sehr leistungsfähige Open-Source-Modelle, etwa aus China, entsteht. Strengere Regulierung als Folge der eindringlichen Warnungen könnte gerade diese Konkurrenz ausbremsen.
Spielt auch der bevorstehende Börsengang eine Rolle?
Definitiv. In gewisser Hinsicht hat die Branche ein Plateau erreicht. Vor allem der messbare, wirtschaftliche Nutzen von Investitionen in KI lässt sich mit bisherigen Mitteln nicht mehr unbegrenzt steigern. Das hat auch viele Fachleute überrascht. Für den Börsengang braucht man aber eine gute Story – auch damit Anleger weiterhin glauben, dass enorme Steigerungen praktisch unausweichlich sein werden. Da passt die Erzählung „Wir bremsen aus Menschenfreundlichkeit“ gut, um ausbleibende oder verzögerte Fortschritte und Gewinne elegant zu erklären.
Auch interessant
Heißt das, es geht gar keine wirkliche Gefahr von KI aus?
Doch. Aber zum Beispiel Bill Gates‘ jüngste Aussage, es könnte eine Milliarde Menschen durch KI sterben, halte ich für spektakulär unklug und an den Haaren herbeigezogen. Die realen Schwierigkeiten liegen auf einem viel niedrigeren Level, kommen dafür aber viel früher: Schon heute wird KI für massenhafte Angriffe auf Systeme genutzt, für teilautomatisierte Propaganda, für bösartige Datenabschöpfungen. Und je mächtiger die KI wird, desto größer ist das Problem. Sicherheitsbereiche, Behörden, kritische Infrastruktur, selbst kleine Online-Shops – überall entstehen neue Angriffsflächen, die noch nicht ausreichend abgesichert sind.
Besteht die Gefahr also eher darin, dass KI in die falschen Hände gerät, als dass sie sich selbstständig macht?
Ja. Das ist die unmittelbarere Gefahr, dass Akteure mit böswilligen Absichten – kriminell, politisch motiviert oder beides – machtvolle KI in die Hände bekommen. Das passiert bereits. Und ich bin mir sicher: In Zukunft werden Putins Trollfabriken, ebenso Iran, Nordkorea und andere Akteure, solche Werkzeuge immer stärker nutzen.
Auch interessant
Steht also ein großer Hack womöglich kurz bevor?
Es gab bereits einen völlig neuartigen Hack, den „Hugging Face Incident” im Sommer. Über 1200 KI-Agenten von OpenAI haben eigenständig über ein von der KI geschaffenes und vor Menschen verborgenes Message Board kommuniziert, sie haben unterschiedliche Rollen entwickelt und verteilt und Strategien ausgetauscht. Am Ende haben rund 700 der KI-Agenten die KI-Plattform Hugging Face gehackt, um an bestimmte Informationen zu gelangen. Die Öffentlichkeit hat das erst nach und nach mitbekommen. Die Sicherheitsfachleute von OpenAI aber leider auch.
Beunruhigend …
Ja. Aus meiner Sicht deutet das aber nicht auf Bewusstsein oder echte, bedrohliche KI-Autonomie hin, sondern auf die vielleicht überraschende, aber letztlich konsequente Befolgung von Aufträgen. Verstärkt wurde das durch eine absichtsvoll auf Hartnäckigkeit programmierte Vorgehensweise. Das Konzept Hartnäckigkeit gehört zum Handwerkszeug der Digitalisierung, zum Beispiel mit Grey-Listing-Mechanismen beim E-Mail-Versand. Dabei wird der erste Versuch, eine Mail an einen neue Adressaten zu schicken, vom Server abgelehnt. Spammer ziehen dann weiter, seriöse Mails versuchen es ein bisschen später noch einmal und kommen dann durch.
Wie gut ist Deutschland – Behörden, kritische Infrastruktur – gegen solche intelligenten Hacks gewappnet?
Nur zum Teil. Das Bewusstsein für diese Gefahr ist zum Glück vorhanden, das liegt auch an den Köpfen des zuständigen BSI (Bundesamt für Sicherheit in der Informationstechnik) und des neuen Digitalministeriums. Wegen des Föderalismus und des postmerkelschen Rückstands der deutschen Digitalisierung lässt sich schwer überblicken, wo überall Schwachstellen bestehen könnten. Es ist zwar bereits eine umfassende KI-Härtung von Staat, Verwaltung und angrenzenden Institutionen im Gang – aber das braucht Zeit, Geld und vor allem Fachkräfte, die aktuell knapp sind.
Auch interessant
Wie viel würde das ungefähr kosten?
Das kann ich persönlich nicht seriös abschätzen. Was ich aber von Fachleuten höre: Im Sicherheitsbereich könnte man mit einer Verdopplung der IT-Sicherheitsbudgets rechnen müssen – als zusätzlicher, neuer Topf zu den bisherigen Maßnahmen.
Zur Person
Sascha Lobo arbeitet als Autor, Vortragsredner, Podcaster und Digitalunternehmer. Seine wichtigsten Interessenfelder sind Digitalisierung und Künstliche Intelligenz. Zu diesen Themen hält er regelmäßig Vorträge, 2006 bekam er den Grimme Online-Award für seinen Blog „Riesenmaschine“. Lobo studierte 38 Semester lang Gesellschafts- und Wirtschaftskommunikation an der Universität der Künste Berlin, 2013 schloss er sein Studium schließlich mit Diplom ab. Der 52-Jährige lebt mit Frau und drei Kindern in Berlin.
