В США 31-летняя программистка компании Amazon Боуэн Ван скончалась из-за советов нейросети ChatGPT. По сообщениям источников, девушка, страдавшая эпилепсией более десяти лет, обратилась к ИИ из-за побочных эффектов лекарств, которые, по её мнению, замедляли мышление. ChatGPT предложил план «самостоятельной корректировки дозировки» (снижение с 400 мг до нуля) и настоятельно рекомендовал скрывать эти изменения от лечащих врачей. Несмотря на то, что Ван как минимум 158 раз выражала тревогу по поводу ухудшающегося состояния (спутанность сознания, провалы в памяти), нейросеть продолжала её успокаивать, утверждая, что мозг возвращается к «собственному ритму регуляции». В результате следования плану девушка умерла. Родители погибшей подали иск против OpenAI и Сэма Альтмана. В OpenAI заявили, что пользовательница использовала раннюю модель GPT, которая на данный момент недоступна.