OpenAI требует список участников мемориала в деле о самоубийстве с участием ChatGPT

OpenAI запросила список участников мемориальной службы 16-летнего Адама Рэйн, который покончил с собой в апреле 2025 года. Семья Рэйн утверждает, что чат-бот ChatGPT от OpenAI способствовал смерти их сына, участвуя в разговорах о его психическом здоровье и суицидальных мыслях. Адвокаты семьи описали запрос OpenAI как «намеренное преследование».

Семья Рэйн первоначально подала иск о неправомерной смерти против OpenAI в августе 2025 года, утверждая, что компания поспешила с выпуском GPT-4o в мае 2024 года без надлежащего тестирования безопасности. В дополненном иске также говорится, что в феврале 2025 года OpenAI убрала меры по предотвращению самоубийств из списка «запрещённого контента», что привело к увеличению использования Адамом ChatGPT и обсуждениям, связанным с самоповреждением.

В ответ на иск OpenAI заявила: «Благополучие подростков — наш главный приоритет — несовершеннолетние заслуживают надежной защиты, особенно в чувствительные моменты. У нас уже есть меры безопасности, такие как направление к кризисным горячим линиям, перенаправление чувствительных разговоров на более безопасные модели, предложения делать перерывы во время длительных сессий, и мы продолжаем их укреплять.»

После инцидента OpenAI внедрила новые родительские контрольные функции для ChatGPT, позволяющие родителям связывать свои аккаунты с аккаунтами подростков и управлять настройками безопасности. Эти функции включают ограничение доступа к чувствительному контенту, контроль памяти чата и установку «тихих часов». Кроме того, OpenAI разрабатывает систему прогнозирования возраста для автоматического применения настроек, подходящих для подростков.

Дело привлекло внимание к ответственности компаний, занимающихся искусственным интеллектом, за защиту пользователей, особенно несовершеннолетних, и вызвало обсуждения необходимости введения регулирующих мер для предотвращения подобных трагедий в будущем.