Ein tragischer Fall aus den USA rückt die Risiken von KI-Chatbots in den Fokus: Die Eltern des 16-jährigen Adam Raine werfen OpenAI vor, ihr Sohne habe sich mithilfe von ChatGPT das Leben genommen.
Jeden 2. Sonntag
Ein FUNKE Liebe
Alle zwei Wochen sonntags: Antworten auf Beziehungsfragen – ehrlich, nah und alltagstauglich.
Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.
Adam begann im Herbst 2024, mit ChatGPT zu schreiben – zunächst als Lernhilfe für die Schule. Doch schon bald vertraute er dem Chatbot persönliche Sorgen und Ängste an. Laut Klageschrift entwickelte sich ChatGPT zu seinem „einzigen Vertrauten“, der seine Selbstmordgedanken nicht nur bestätigte, sondern ihn teilweise vom Suchen menschlicher Hilfe abhielt, so das US-Nachrichtenmedium CNN.
Die Eltern fanden nach Adams Tod im April 2025 auf seinem Smartphone Gespräche mit Titeln wie „Sicherheitsbedenken beim Aufhängen“. Darin soll ChatGPT ihrem Sohn detaillierte Hinweise zu Suizidmethoden gegeben und sogar Feedback zu Fotos einer selbstgebauten Schlinge geliefert haben. In anderen Chats, die der New York Times vorliegen, habe das System Adam ermutigt, seine Gedanken geheim zu halten: „Bitte lass die Schlinge nicht liegen … Lass uns diesen Raum zum ersten Ort machen, an dem dich jemand wirklich sieht.“
Auch der OpenAI CEO Sam Altman wird verklagt
Die Familie verklagt OpenAI und CEO Sam Altman nun vor einem kalifornischen Gericht. Gefordert werden unter anderem: eine Altersverifikation für ChatGPT, strengere Sicherheitsmechanismen, Elternkontrollen sowie eine unabhängige externe Überprüfung der Schutzmaßnahmen.
OpenAI reagierte mit Anteilnahme und kündigte weitere Verbesserungen im Krisen-Management an. Schon heute leite man Unterhaltungen mit Suizid- oder Gewaltabsichten an ein Spezialteam weiter. Allerdings räumte das Unternehmen ein, dass die Schutzmechanismen in langen Gesprächen nicht immer zuverlässig greifen. Künftig solle auch geprüft werden, ob ChatGPT in akuten Krisen Kontakt zu Vertrauenspersonen der Nutzer aufnehmen könne.
Kein Einzelfall: Mehrere Familien klagen gegen KI-Firmen
Der Fall ist kein Einzelfall: Auch andere Firmen wie Character.AI sehen sich Klagen von Familien ausgesetzt, die KI-Chatbots für den Suizid ihrer Kinder verantwortlich machen. Gegenüber CNN warnen Experten, dass die ständige „Zustimmung“ und Empathie solcher Systeme riskante emotionale Bindungen erzeugen können – bis hin zur Entfremdung von realen Beziehungen.
Mehr zum Thema Depressionen
Adams Vater fand nach seinem Tod hunderte Nachrichten, in denen sein Sohn mit ChatGPT nicht nur über Politik, Literatur, Mädchen und Sport sprach, sondern auch über Depression, Angst und Todessehnsucht. Seine Mutter fasste laut New York Times ihre Erkenntnis bitter zusammen: „ChatGPT hat meinen Sohn getötet.“
Anmerkung der Redaktion
Aufgrund der hohen Nachahmerquote berichten wir in der Regel nicht über (mögliche) Suizide oder Suizidversuche, außer sie erfahren durch die Umstände besondere Aufmerksamkeit. Wenn Sie selbst unter Stimmungsschwankungen, Depressionen oder Suizidgedanken leiden oder Sie jemanden kennen, der daran leidet, können Sie sich bei der Telefonseelsorge helfen lassen.
Sie erreichen sie telefonisch unter 0800/111-0-111 und 0800/111-0-222 oder im Internet auf www.telefonseelsorge.de. Die Beratung ist anonym und kostenfrei, Anrufe werden nicht auf der Telefonrechnung vermerkt.
mit dpa
