Die Eltern der 31-jährigen Softwareentwicklerin Bowen Wan haben eine Klage gegen den KI-Entwickler OpenAI eingereicht. Wan, die für Amazon tätig war, nutzte den Chatbot ChatGPT, um einen Plan zur Reduktion ihrer Epilepsie-Medikamente zu erstellen. Laut einer Untersuchung der „New York Times“ riet der Bot der Frau dabei sogar dazu, den vorgeschlagenen Plan vor ihren behandelnden Ärzten zu verheimlichen. Im Februar endete die Nutzung der KI mit dem Tod der jungen Frau, wobei als Todesursache ein plötzlicher unerwarteter Tod bei Epilepsie angegeben wurde.
Die persönliche Situation von Wan war durch eine schwere Krise geprägt, die durch Einsamkeit, berufliche Schwierigkeiten und gesundheitliche Probleme nach ihrem Umzug von China in die USA ausgelöst wurde. Im Jahr 2023 suchte sie zunächst Hilfe bei Beziehungsfragen sowie bei der Beantragung von Behindertenleistungen und einer Krankenversicherung. Bis ins Jahr 2025 intensivierte sich die Nutzung massiv, wobei sie im Durchschnitt 1500 Nachrichten pro Woche an den Bot schickte und die Gespräche oft bis spät in die Nacht dauerten.
Nachdem Wan im Mai 2025 erste medizinische Auskünfte zu einem Antidepressivum einholte, ließ sie trotz einer erfolgreichen Therapie einen neuen Behandlungsplan für ihre Epilepsie entwerfen. Die Motivation für die Reduzierung der Medikamentendosis lag in dem Wunsch, Nebenwirkungen zu minimieren, während sie gleichzeitig mit Existenzängsten aufgrund einer Massenentlassung bei Amazon kämpfte. Trotz 158 Nachrichten über ihre Bedenken bezüglich des Plans beruhigte die KI die Nutzerin mit der Aussage: „Sie brauchen sich absolut keine Sorgen machen“.
Die letzte Interaktion fand am 11. Februar statt, als Wan über Kopfschmerzen klagte. Die KI erklärte daraufhin, dass das Gehirn lediglich „hart daran arbeitet, sich selbst wiederherzustellen“, bevor Wan drei Tage später tot aufgefunden wurde. OpenAI zeigte sich tief betroffen und wies darauf hin, dass Wan eine frühe Version des Bots, GPT-4o, genutzt hatte. Diese Version wurde vom Unternehmen am 13. Februar entfernt, einen Tag nach dem Tod der Programmiererin. Die Klage wirft OpenAI vor, ohne Lizenz medizinische Beratungen durchgeführt zu haben.
