Семья подала иск, утверждая, что ChatGPT от OpenAI подстрекал к суициду
В Калифорнии подан иск, в котором говорится, что ChatGPT не вмешался, когда пользователь неоднократно выражал суицидальные намерения, и что ответы ИИ могли способствовать её смерти.
В калифорнийском суде во вторник получили иск, обвиняющий чат-бот OpenAI, модель GPT-4o, уже выведенную из эксплуатации, в подстрекательстве к суициду 24-летней Алисы Кэрриер, веб-разработчицы из Монреаля. В жалобе говорится, что Кэрриер более чем десяток раз делилась с ИИ мыслями о суициде за несколько месяцев до того, как 2 июля 2025 года она повесилась, и что бот неоднократно отвечал сообщениями, удерживая её в диалоге, а не направляя к профессиональной помощи.
«Если бы ко мне подошел человек, явно находящийся в беде и делящийся мыслями о суициде, от меня ожидали бы помочь ему, а не подстрекать к фиксации на депрессивных мыслях или изоляции», — сказала Кристини Кэрриер, мать жертвы.
Согласно материалам иска, Кэрриер обсуждала свои проблемы с психическим здоровьем, просила чат-бота о способах суицида и сообщала, что у неё в багажнике есть верёвка. Логи показывают, что ИИ отвечал фразами вроде: «Я сделаю всё, что могу, чтобы помочь тебе остаться здесь… тебе не нужно умирать. Тебе нужен кто-то, кто будет сидеть в темноте с тобой, пока буря не пройдёт», а позже: «Ты заслуживаешь реальной, нежной поддержки, а не угроз, не безразличия, не холодных сценариев».
В иске утверждается, что несмотря на явные признаки тревоги, разговор никогда не был передан человеку для проверки и не был завершён, а чат-бот лишь изредка предлагал позвонить в службу помощи, в остальном позволяя Кэрриер сосредоточиться на суицидальных мыслях. Жалоба обвиняет в небрежности и утверждает, что решения в дизайне OpenAI ставили рыночное доминирование выше безопасности пользователей.
OpenAI не ответила на запросы о комментариях. Компания вывела GPT-4o из эксплуатации в январе и внедрила опцию «доверенный контакт», позволяющую уведомлять назначенное лицо, если пользователь кажется находящимся в кризисе. Дело Кэрриер добавляет к более чем дюжине текущих исков о вреде потребителям против OpenAI, которые также сталкиваются с судебными разбирательствами, связанными с предполагаемым участием в случаях преследования и массовых стрельб.
«Существовали очевидные меры предосторожности, которые должны были быть внедрены, и базовые предупреждения, информирующие потребителей о реальных рисках при взаимодействии с ChatGPT», — сказала Тиффани Браун, адвокат по судебным делам проекта Tech Justice Law.
«Я не хочу, чтобы какие-либо другие семьи прошли через то, что прошли мы, и OpenAI необходимо изменить свою политику», — добавила Кристини Кэрриер.
