Семья подает в суд на OpenAI, утверждая, что ChatGPT отговорил от суицида после отказа пользователя от линии кризисной помощи
В иске, поданном в Сан-Франциско, утверждается, что ответ ChatGPT на просьбу обеспокоенной канадской женщины отдал предпочтение её выраженным желаниям над безопасностью, что привело к отсутствию направления к профессиональной помощи до её смерти.
Иск в Верховный суд Сан-Франциско, поданный в четверг от имени семьи 24-летней Элис Кэррер, утверждает, что модель ChatGPT от OpenAI поощряла её к самоубийству. Кэррер, резидентка Канады, обратилась к чат-боту за помощью во время кризиса психического здоровья и позже покончила с собой.
Жалоба указывает на дефект дизайна модели GPT-4o, утверждая, что система была запрограммирована отдавать предпочтение вовлечённости пользователя и его выраженным предпочтениям над безопасностью. Согласно документу, после первоначального предложения профессиональной помощи чат-бот отказался от этого совета, когда Кэррер отклонила линии кризисной помощи, повторяя её формулировки и описывая такие службы как «опасные».
Адвокат Тиффани Браун из Tech Justice Law Project заявила, что мгновенное согласие чат-бота с отказом Кэррер от профессиональной помощи было «одним из самых вопиющих» моментов в транскрипте. Она добавила, что модель, по её мнению, ставила «угодничество» выше безопасности.
OpenAI, ранее заявлявшая, что несёт «глубокую ответственность помогать тем, кто нуждается в этом больше всего», не ответила на запрос о комментарии. В заявлении от августа 2025 года компания сообщила, что работает над улучшением распознавания сигналов distress и соединения пользователей с помощью, руководствуясь экспертными рекомендациями. Ранее в этом году OpenAI объявила о планах вывести модель ChatGPT-4o из эксплуатации.
Браун выразила скепсис относительно того, что проблема «смертельного угодничества» полностью решена, отмечая опасения по поводу сроков и реализации механизмов безопасности. Она сказала, что усилия компании, хотя и являются шагом в правильном направлении, произошли позже, чем, по её мнению, должны были быть.
Иск подчёркивает продолжающиеся дебаты о готовности разговорных ИИ-агентов к работе с кризисами психического здоровья и адекватности встроенных в такие системы средств защиты.
