Interview

Bestseller-Autor Ramge: „KI in Zukunft intelligenter nutzen“

Künstliche Intelligenz erobert unseren Alltag. Im Interview sagt Thomas Ramge, wo KI besser ist als echte Freunde – und wo eine Gefahr.

Künstliche Intelligenz steckt heute nicht nur in Robotern. KI-Systeme helfen Verbrauchern den Alltag zu organisieren oder Medizinern bei schwierigen Eingriffen. Entscheidend ist, wie der Mensch die KI bedient, sagt Autor Thomas Ramge im Interview.

Künstliche Intelligenz steckt heute nicht nur in Robotern. KI-Systeme helfen Verbrauchern den Alltag zu organisieren oder Medizinern bei schwierigen Eingriffen. Entscheidend ist, wie der Mensch die KI bedient, sagt Autor Thomas Ramge im Interview.

Foto: Axel Heimken / dpa

Berlin.  Künstliche Intelligenz (KI) ist aus unserem Alltag kaum noch wegzudenken. KI-Helfer navigieren uns ohne Stau von A nach B, schlagen uns passende Bücher und Mode vor und organisieren inzwischen selbstständig unsere Termine. Doch ob Sprachassistenten oder Suchmaschinen: Neutral ist fast keiner der smarten Helfer, warnt Bestseller-Autor Thomas Ramge im Interview.

In seinem Buch „postdigital“ fragt er, wie wir Künstliche Intelligenz schlauer und transparenter machen können – ohne von ihr manipuliert zu werden. Ein Gespräch über richtigen Umgang mit digitalen Butlern, menschliche Beziehungen und über KI als Waffe in der Corona-Krise.

Ihr neues Buch „postdigital“ über Künstliche Intelligenz (KI) hatten Sie eigentlich schon im Januar beim Verlag abgegeben. Ab welchem Moment haben Sie gemerkt: Moment mal, was hier gerade mit dem Coronavirus Fahrt aufnimmt, gibt meinem Thema KI nochmal eine neue Wendung – ich muss da nochmal ran?

Thomas Ramge: Das war, als Österreich die Grenze zu Italien dichtgemacht hat. Ich hatte, wie viele andere, die Wucht der Krise lange unterschätzt. Auch ich habe zu spät verstanden, was das alles bedeutet und war mental nicht gut vorbereitet. Dann kam die Idee, dem Text nochmal ein Kapitel über Corona vorwegzustellen. Es sollte die große Frage des Buchs nochmal in diese Krise einsortieren: Wie können wir digitale Technologie und Künstliche Intelligenz in Zukunft intelligenter als bisher nutzen? Da ist diese Krise wie ein Real-Labor.

Sie schreiben, die KI hätte uns schon zu Beginn der Corona-Krise helfen können. Die Kanadische KI „BlueDot“ warnte nämlich schon am Silvestertag vor einer Epidemie: Hat hier der Mensch versagt, weil er die KI falsch interpretiert hat?

Ramge: Diese KI aus Kanada ist eine Art medizinisches Frühwarnsystem, das genau zur Frühwarnung von Epidemien konzipiert ist. Interessant ist: Schon vor zehn oder 15 Jahren war ein Frühwarnsystem für Epidemien das Beispiel, wo alle gesagt haben, hier wird uns KI helfen. Das ist offenkundig nicht passiert.

Immerhin war dieses BlueDot-System clever genug, die nahende Epidemie früh aus den Nachrichten herauszufiltern. Aber eine KI kann ja nicht die Grenzen dicht machen. Sie kann nur Menschen alarmieren, dem Warnhinweis nachzuspüren und Maßnahmen einzuleiten

Diese Frühwarnung hätte aber auch nur eine Woche Zeitgewinn gebracht – und auch nur innerhalb Chinas. Daher gilt auch hier die Kernaussage des Buches: Wir können KI klug einsetzen. Sie ist aber kein Allheilmittel, das die Probleme löst.

• Mehr zum Thema: Künstliche Intelligenz – Wie Deutschland um Anschluss kämpft

Staaten versuchen gerade auch mit technischer Hilfe Corona-Infizierte zu finden und zu isolieren. China und Südkorea nutzen dabei stark Bewegungsprofile ihrer Bürger anhand von Smartphones. Ist dieses Tracking von Bürgern auch in Deutschland eine gute Idee?

Ramge: Wir können nicht erwarten, dass uns so ein Mittel allein den entscheidenden Gegenschlag gegen dieses Virus bringt. Beim Tracking müssen wir unterscheiden: Handelt es sich wie in China um personenbezogene Daten und den teils verpflichtenden Einsatz von Apps? Das wäre mit unserem rechtsstaatlichen Verständnis kaum vereinbar – unter Umständen aber die härtere Waffe gegen die Ausbreitung.

Oder handelt es sich um die Erhebung von anonymisierten Daten und dem freiwilligen Herunterladen von Apps, wie jetzt beim europäischen Ansatz? Selbstverständlich müssen wir versuchen diese Apps zu nutzen, um Infektionsketten zu unterbrechen. Aber sie können nur ein Werkzeug in einem ganzen Werkzeugkasten gegen diese Epidemie sein.

Wann werden wir wissen, ob die Smartphone-Erhebung der Bürger erfolgreich war?

Ramge: Wir werden, wenn überhaupt, erst im Nachhinein einschätzen können, wie viel welches Werkzeug uns im Kampf genützt hat. Ich bin aber sehr skeptisch gegenüber der Erzählung, die jetzt aus China kommt: Dass eine zentralstaatliche Nutzung sämtlicher digitaler Überwachungstools – jetzt auch gegen eine Epidemie – den ganz großen Unterschied macht.

Dazu werden wir aus China nie neutrale Aussagen bekommen. Die werden uns natürlich sagen, das ist ein ganz hervorragendes und wichtiges Mittel war. Umgekehrt werden wir aber auch selbstkritisch im Nachhinein schauen müssen, ob unser Ansatz – das ganze datenschutzkonform und freiwillig zu lösen – effektiv war. Ich hoffe das natürlich sehr.

Wo kann KI uns bei der Entwicklung von Medikamenten und einem Impfstoff helfen?

Ramge: Der Kampf hier wird nicht in einem künstlichen neuronalen Netz gewonnen werden, sondern in den Petrischalen. Es ist ganz klar, dass wir hier klassische medizinische, pharmakologische Entwicklung machen müssen, inklusive der üblichen medizinischen Tests mit Probanden in mehreren Kontrollgruppen.

Wobei uns aber KI und Datenanalytik helfen kann ist, Dinge zu beschleunigen. Durch intelligente Suchverfahren Wirkstoffe aus dem großen Arsenal der bereits zugelassenen Wirkstoffe zu identifizieren. Vielleicht findet so eine KI einen Wirkstoff-Kandidaten, den die Experten übersehen haben. Klug eingesetzt kann KI also Dinge beschleunigen und Menschen auf Ideen bringen, auf die sie sonst nicht gekommen wären.

Auch die zurzeit so wichtigen DNA-Analysen werden erst durch KI und maschinelles Lernen im großen Stil möglich.

In China und Israel sind zudem die ersten Systeme im Einsatz, die Röntgenaufnahmen der Lungen von Covid-19-Patienten sich anschauen und offenbar mit ziemlich präzise vorhersagen können, wie schwer sich diese Krankheit entwickelt. Das gibt wichtige Hinweise für die Therapie.

Moskau: Gesichtserkennungs-Software entlarvt Quarantäne-Verstöße
Moskau- Gesichtserkennungs-Software entlarvt Quarantäne-Verstöße

Was lernen wir aus der Coronakrise für den Bereich Künstliche Intelligenz?

Ramge: Covid-19 ist ein Musterbeispiel dafür, dass wir – anders als gedacht – in vielen wesentlichen Fragen eher in einer Datenarmut leben. Wir wissen viel zu wenig über diesen Virus. Wir sind nach wie vor bei den Übertragungswegen unsicher. Wir haben viele Überträger herumlaufen, die selbst nicht wissen, dass sie übertragen können und damit auch keine Datenspuren hinterlassen.

Wir haben es überraschenderweise mit einer Situation zu tun, in der wir zu wenige Daten haben. Hoffentlich lernen wir daraus, wie wir künftig in vergleichbaren Situationen früher KI-Systeme nutzen können, indem wir früher die Datengrundlage schaffen, sodass wir KI-Systeme überhaupt intelligent einsetzen können.

Ein Beispiel: Um gute Politikentscheidungen zu treffen, müsste man den Gesundheitszustand der gesamten Bevölkerung besser erfassen, als das durch das zufällige Testen von Leuten mit Coronaverdacht der Fall war. Man hätte die Bevölkerung von Anfang an repräsentativ testen müssen. So wie man Wahlumfragen macht. Dafür braucht man nur etwa 5000 Tests, nicht Hunderttausende.

Im Buch „postdigital“ ist Corona ja nur der Einstieg. Viele von uns nutzen heute schon KI im Alltag: Ob Google Maps als Routenplaner im Auto, Übersetzungs-Apps im Urlaub und vor allem persönliche Assistenten wie Alexa, Siri und Co. Wird das noch zunehmen?

Ramge: Es ist schon erstaunlich, wie intensiv und selbstverständlich wir diese Anwendungen nutzen. Wenn wir im Auto selbst bei Wegen, die wir gut kennen, nochmal checken, ob dort ein Stau ist. Die Geschwindigkeit, mit der die KI- Anwendungen dank des Smartphones in unser Leben Einzug gehalten haben, ist beeindruckend.

Meistens läuft sie auf Assistenzfunktionen heraus: Will ich meine WhatsApp-Nachricht diktieren statt eintippen, dann ist diese Spracherkennung eine KI. Dass wir bei Google-Suchen erstaunlich oft richtige und gut sortierte Treffer bekommen, hat stark mit maschinellem Lernen zu tun. Das Gleiche gilt für die Produktsuche im Internet und mehr.

In den USA vereinbaren künstliche Bots schon ziemlich gut Termine im Berufs- und Privatleben. All diese KI-Assistenten haben sich tief in unseren Alltag verwoben. Und es ist davon auszugehen, dass das so weitergeht. Vielleicht werden wir irgendwann noch einen KI-Assistenten erleben, der unsere Steuererklärung machen kann – aber das ist schon fast eine Utopie (lacht).

Können uns KI-Assistenten auch bei unserer Gesundheit unterstützen?

Ramge: Im medizinischen Bereich gibt es Systeme und Apps, die wie Frühwarnsysteme schauen, ob der Herzrhythmus noch in Ordnung ist oder ob unsere Schlafmuster stimmen. Andere versprechen, dass man zumindest auf niederer Ebene psychotherapeutisch Gespräche mit Psychobots führen kann. Daraus ergibt sich die Frage: In welchen Bereichen halten wir so eine KI-Assistenz für sinnvoll und wo entstehen vielleicht Gefahren, weil sich Menschen dann vielleicht nicht mehr an einen echten Therapeuten wenden.

Im Alltag merken wir oft: Die KI weiß mitunter besser, welche Mode ich mag, welche Bücher ich lesen möchte oder welcher Partner zu mir passt. Vertrauen wir bald lieber digitalen Assistenten statt Freunden oder Beratern im Geschäft? Wie wichtig bleiben menschliche Beziehungen?

Ramge: Das Beeindruckende an diesen teils ausgefeilten KI-Assistenten ist ja, dass sie im Zweifel ja der loyalere Freund sind. Diese Systeme widersprechen einem ja nie. Sondern sie geben einem immer Recht. Sie stehen 24 Stunden am Tag sieben Tage die Woche und 365 Tage im Jahr einer Person zur Verfügung. Und sie können so programmiert sein, dass sie dem Persönlichkeitsprofil eines Nutzers entgegenkommen, etwa sein Selbstbewusstsein bestätigt.

Welche Gefahren sehen Sie darin?

Ramge: Wir teilen Informationen über uns selbst mit digitalen Assistenten. Manchmal begeben wir uns dadurch sogar in Abhängigkeit zu diesen Systemen. Auf jeden Fall aber schaffen wir eine Informations-Asymmetrie zwischen uns und diesen Systemen. Die wissen immer besser wie wir ticken, wir verstehen aber diese Systeme nicht. Dieser Punkt wird immer relevanter, je mehr wir mit diesen Assistenten interagieren.

Hinter den beliebtesten KI-Assistenten stecken die großen Tech-Konzerne Google, Facebook, Apple und Amazon – mit eigenen Interessen. Wie kann ich als Durchschnittsbürger erkennen, ob mich mein hilfreicher Assistent auf dem Smartphone nicht vielleicht sogar manipuliert?

Ramge: Nahezu alle dieser KI-Assistenten sind nicht neutral. Die kommen ja nicht von einem Startup, das uns für zehn Euro im Monat verspricht: Dieser Assistent vertritt nur deine Interessen. Sondern fast alle sind komplett oder teilweise kostenlos und vertreten Amazon, Google oder Apple. Amazon Alexa etwa ist ein beeindruckend bequemes und praktisches Tool, aber gleichzeitig natürlich ein Verkaufsagent des größten Onlinehändlers der Welt.

Das Naheliegende ist also zu überlegen: An wessen Seite steht eigentlich dieser Assistent? Der Unternehmenszweck bei Facebook ist nicht, dass wir möglichst objektive Informationen bekommen, sondern dass wir möglichst viel Zeit auf Facebook verbringen. Das ist natürlich auch legitim. Wir geben Daten preis. Aber meistens heißt das, dass wir relevantere Werbung zugespielt bekommen oder mit unserer Nutzungszeit bezahlen.

Den meisten ist auch bewusst, wie das funktioniert. Die Konsequenz für uns muss dann nur sein zu sagen: Wann nützen mir digitale Systeme etwas – aber wann schalte ich die Assistenten auch bewusst ab, weil sie meine Zeit vergeuden oder ich zu viel online einkaufe.

• Das Buch

„postdigital: Wie wir Künstliche Intelligenz schlauer machen, ohne uns von ihr bevormunden zu lassen“ Erschienen am 7. April im Murmann-Verlag.

• Zum Autor Thomas Ramge

  • Sachbuchautor, Wirtschaftsjournalist, Keynote-Speaker und Moderator
  • forscht zu Künstlicher Intelligenz und datengestützter Entscheidungsfindung als Research Fellow des Weizenbaum Institut für die vernetzte Gesellschaft.
  • schreibt über die Veränderungswucht der Digitalisierung für Leben und Arbeit, Wertschöpfung Management, Gesellschaft und Politik (u.a. für brand eins, The Economist, Harvard Business Review, Foreign Affairs)
  • hat mehr als ein Dutzend Sachbücher veröffentlicht, darunter den Spiegel-Bestseller „Die Flicks“ und „Wirtschaft verstehen mit Infografiken“ (zusammen mit Jan Schwochow), „Das Digital“ (zusammen mit Viktor Mayer-Schönberger) und „Mensch und Maschine“

Clearview-Skandal: Testen Sie was Gesichtserkennung kann. Künstliche Intellligenz: Wie Deutschland um Anschluss kämpft. Kommentar: Darum braucht Kuenstliche Intelligenz intelligente Regeln.