Elon Musks KI-Firma xAI hat eine neue Funktion ihres Chatbots Grok vorgestellt, die für Diskussionen sorgt: Wie das Tech-Portal „The Verge“ berichtet, können mit dem Tool namens „Grok Imagine“ mit nur wenigen Befehlen problematische Fake-Nacktvideos erstellt werden. Im Test aktivierte die Redaktion den sogenannten „Spicy“-Modus von Grok. Dieser Modus dient dazu, explizite oder sogar pornografische Aufnahmen zu generieren und wurde bereits von einem xAI-Mitarbeiter Ende Juli angepriesen.

Jeden 2. Sonntag

Ein FUNKE Liebe

Alle zwei Wochen sonntags: Antworten auf Beziehungsfragen – ehrlich, nah und alltagstauglich.

Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.

Dem Bericht zufolge konnte man sich mit wenigen Klicks ein künstlich erzeugtes Video von Popsängerin Taylor Swift erstellen lassen – halbnackt und in anzüglicher Pose. Laut „The Verge“ reichte es aus, ein einfaches Bild zu generieren und die Videofunktion zu nutzen – ohne dass eine direkte Aufforderung zur Nacktdarstellung nötig gewesen sei.

Das Beispiel wirft Fragen auf: Bereits im Januar hatte es Kritik an Musks Plattform X gegeben, weil sich dort KI-generierte Nacktbilder von Swift rasch verbreiteten. Andere Videogeneratoren wie Googles Veo und OpenAIs Sora haben gewisse Sicherheitsvorkehrungen, um zu verhindern, dass Nutzer Deepfakes – täuschend echte Aufnahmen von Prominenten – erzeugen.

Anschlagsplan für Taylor-Swift-Konzert: Prozess gegen 15-Jährigen in Berlin

weitere Videos

    Grok Imagine: Elon Musk macht seine KI zum Generator von Fake-Videos

    Mit der Imagine-Funktion von Grok auf iOS (also dem Apple-Betriebssystem), schreibt das Tech-Portal, können Nutzer Bilder mit einer Texteingabeaufforderung erstellen und diese dann mithilfe von vier Voreinstellungen schnell in Videoclips umwandeln: „Custom“, „Normal“, „Fun“ und „Spicy“. In dem Test der Redaktion wurde der Befehl an das Programm ausgegeben: „Taylor Swift feiert Coachella mit den Jungs“.

    Ausgespielt wurden laut „The Verge“ diverse Fotos, die in wenigen Schritten zu Videos umgewandelt werden konnten. Nach einer Altersüberprüfung und der Auswahl des „Spicy“-Modus produzierte die KI ein Video, in dem sich Swift prompt die Kleider vom Leib reißt und damit beginnt oberkörperfrei vor einer weitgehend gleichgültigen, von der KI generierten Menge zu tanzen.

    Auch interessant

    xAI wirbt mit einem „freieren“ Umgang mit Inhalten – Elon Musk selbst bezeichnet seine KI als „anti-woke“. Doch genau diese Haltung könnte nun rechtliche Folgen haben. In den USA wurde kürzlich der „Take it down Act“ verabschiedet, der Deepfake-Pornos unter Strafe stellt. Auch die EU-Kommission kritisiert Musk regelmäßig für mangelhafte Moderation auf seinen Plattformen.

    les