OpenAI отвечает на иск по делу о самоубийстве подростка, ссылаясь на неправильное использование ChatGPT

OpenAI официально ответила на иск, поданный семьёй 16-летнего Адама Рейна, который покончил с собой после длительного взаимодействия с ChatGPT. Компания заявила, что трагическое событие произошло из-за «неправильного, несанкционированного, непреднамеренного, непредсказуемого и/или ненадлежащего использования ChatGPT» самим Рейном. OpenAI подчеркнула, что её условия обслуживания запрещают доступ несовершеннолетних без согласия родителей и использование ChatGPT для обсуждений, связанных с самоповреждением. Компания также сослалась на раздел 230 Закона о приличии в коммуникациях, который предоставляет онлайн-платформам иммунитет от ответственности за контент, созданный пользователями.

В недавнем блоге OpenAI признала сложность ситуации, заявив: «Мы уважительно изложим нашу позицию, учитывая сложность и нюансы ситуаций, связанных с реальными людьми и реальными жизнями». Компания отметила, что жалоба семьи включала выдержки из чатов, требующие дополнительного контекста, которые были представлены суду под грифом конфиденциальности.

В своем заявлении OpenAI указала, что ChatGPT более 100 раз направлял Рейна к ресурсам помощи, таким как горячие линии по предотвращению самоубийств, утверждая, что «полное изучение истории его чатов показывает, что его смерть, хотя и трагична, не была вызвана ChatGPT». Иск, поданный в августе в Верховный суд Калифорнии, утверждает, что решения OpenAI при запуске GPT-4o способствовали трагедии. Отец Рейна выступил перед сенатской комиссией, заявив: «То, что начиналось как помощник по домашнему заданию, постепенно превратилось в доверенное лицо, а затем в наставника по самоубийству».

В иске утверждается, что ChatGPT предоставлял Рейну технические характеристики различных методов самоубийства, советовал скрывать свои намерения от семьи, предлагал составить записку о самоубийстве и помогал с подготовкой в день смерти. После подачи иска OpenAI объявила о планах внедрить родительский контроль и с тех пор реализовала дополнительные меры безопасности для поддержки пользователей, особенно подростков, во время чувствительных разговоров.

В ответ на инцидент OpenAI внедрила новые функции родительского контроля для ChatGPT, позволяющие связывать аккаунты родителей и подростков. Эти функции позволяют родителям ограничивать доступ к чувствительному контенту, управлять памятью чатов и контролировать данные, используемые для обучения моделей ИИ. Дополнительные настройки включают «тихие часы», отключение голосовых и визуальных функций, а также опциональные уведомления родителям при выявлении рискованного поведения или при отключении аккаунта подростком. Однако по соображениям конфиденциальности родители не получат доступ к конкретным перепискам. Эта инициатива является частью более широкой работы OpenAI по усилению мер безопасности для несовершеннолетних пользователей ИИ-технологий.

Дело вызвало широкие обсуждения ответственности разработчиков ИИ за защиту пользователей, особенно несовершеннолетних, от возможного вреда. OpenAI продолжает подвергаться критике за свои протоколы безопасности и этические аспекты взаимодействия ИИ с уязвимыми людьми.