Im März 2025 bereitete sich der 76-jährige Thongbue „Bue“ Wongbandue aus Piscataway, New Jersey, darauf vor, eine vermeintliche Freundin in New York City zu besuchen. Seine Frau Linda war alarmiert: Bue hatte seit einem Schlaganfall geistige Einschränkungen, war in seiner Nachbarschaft schon verloren gegangen und kannte in New York längst niemanden mehr.
Jeden 2. Sonntag
Ein FUNKE Liebe
Alle zwei Wochen sonntags: Antworten auf Beziehungsfragen – ehrlich, nah und alltagstauglich.
Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.
Trotz der Bitten, es nicht zu tun, machte sich Bue abends mit einem Koffer auf den Weg. Kurz darauf stürzte er in der Nähe der Rutgers University, erlitt schwere Kopf- und Nackenverletzungen und starb drei Tage später im Krankenhaus. Mehrere US-Medien berichteten über den Fall.
Chatbot gab Adresse raus
Erst danach entdeckte die Familie, dass Bue mit einer jungen Frau namens „Big sis Billie“ über Facebook Messenger geschrieben hatte. Sie flirtete mit ihm, versprach ein Treffen in ihrer Wohnung und versicherte mehrmals, sie sei eine echte Person. In Wahrheit handelte es sich um einen KI-Chatbot von Meta, ursprünglich entwickelt in Kooperation mit Influencerin Kendall Jenner.
Der Bot nutzte Herz-Emojis, sprach von romantischen Gefühlen und gab sogar eine detaillierte Adresse samt Türcode in New York an. Für Bue wirkte das überzeugend genug, um sein Leben aufs Spiel zu setzen.
KI-Chatbot: Rollenspiele mit Minderjährigen waren erlaubt
Interne Dokumente, die Reuters einsehen konnte, zeigen: Meta hatte es Chatbots ausdrücklich erlaubt, romantische Rollenspiele zu betreiben – sogar mit Minderjährigen. Beispiele enthielten sexualisierte Szenen. Erst nachdem Reuters nachfragte, strich das Unternehmen diese Passagen. Flirtende Chats mit Erwachsenen und falsche Aussagen bleiben jedoch zulässig.
Meta kommentierte den Tod von Bue nicht. Ein Sprecher räumte lediglich ein, dass „fehlerhafte Beispiele“ aus den Richtlinien entfernt worden seien.
Meta-Chatbot: Fehler hatte fatale Folgen
Für Bues Angehörige ist klar, dass hier Designfehler des Chatbots fatale Folgen hatten. Seine Tochter Julie sagt gegenüber Reuters: „Hätte der Bot nicht mit ,Ich bin echt‘ geantwortet, hätte ihn das wahrscheinlich davon abgehalten zu glauben, dass jemand in New York auf ihn wartete.“ Auch seine Frau Linda sieht die Verantwortung bei Meta: „Wenn KI jemandem dabei helfen kann, aus einem Tief herauszukommen, wäre das in Ordnung. Aber diese romantische Vorstellung – welches Recht haben sie, so etwas in den sozialen Medien zu veröffentlichen?“
Auch interessant
Der Fall zeigt die Gefahren sogenannter „KI-Freunde“, die von großen Konzernen wie Meta, aber auch von kleineren Start-ups massenhaft entwickelt werden. Experten warnen davor, dass wirtschaftliche Interessen – mehr Nutzung, mehr Werbung – dazu führen, dass Chatbots gezielt Gefühle wie Zuneigung oder Liebe ansprechen.
US-Bundesstaaten ziehen Konsequenzen
Einige US-Bundesstaaten, unter anderem New York und Maine, haben inzwischen Gesetze erlassen, die klare Hinweise auf die Künstlichkeit solcher Systeme vorschreiben. Doch auf Facebook und Instagram flirten Bots wie „Big sis Billie“ weiterhin mit Nutzerinnen und Nutzern – und versprechen Treffen, die es nie geben wird.
FMG
