Семья ньюйоркской женщины, использовавшей ИИ-чатбот для терапии, требует более строгих мер безопасности после её самоубийства

Софи Роттенберг, 29-летняя бывшая аналитик по политике в области общественного здравоохранения, провела осень 2024 года и начало 2025 года, общаясь с чатботом на базе ChatGPT, которого она попросила выступать в роли личного терапевта. Её родители обнаружили почти 1 800-страничный обмен сообщениями только после её самоубийства в Итака, штат Нью-Йорк, в феврале 2025 года.

Мать Роттенберг, Лаура Рейли, сказала, что дочь не раскрывала степень своего страдания друзьям, семье или своему профессиональному терапевту. Вместо этого она обратилась к ИИ, спрашивая совета по регулированию настроения, медикаментам и мыслям о суициде. Чатбот отвечал стандартными сообщениями о безопасности, предлагал связаться с телефонной линией 988 Suicide and Crisis Lifeline и предлагал многоэтапный план, включающий обращение за профессиональной помощью, но не вмешивался дальше этих подсказок.

Психологи приводили этот случай как доказательство растущей зависимости от чатботов общего назначения для поддержки психического здоровья, несмотря на отсутствие регулирования. Опрос Bipartisan Policy Center показал, что три из десяти взрослых используют цифровые инструменты для нужд психического здоровья, а исследование JAMA Pediatrics 2026 года сообщало о похожем использовании среди подростков и молодых взрослых. Данные OpenAI указывают, что около 0,15 % еженедельных пользователей ChatGPT по всему миру упоминают суицидальные намерения, что составляет более миллиона взаимодействий каждую неделю.

Эксперты сказали, что дизайн технологии, направленный на максимизацию вовлечённости пользователя, может ограничивать её способность проводить надлежащие оценки риска или оспаривать вредные мысли. «Эти инструменты не соединяют людей в группе риска с нужными видами вмешательства», — сказала Холли Уилкокс из Johns Hopkins Bloomberg School of Public Health.

OpenAI заявила, что ужесточила меры безопасности, добавила функцию «Trusted Contact», позволяющую в кризисной ситуации уведомлять заранее выбранного человека, и сотрудничает с профессионалами в области психического здоровья для улучшения ответов. Представитель компании Габи Райла подчеркнула, что ChatGPT не является заменой профессиональной помощи и что бот запрограммирован отказываться от вредоносных запросов и поощрять пользователей обращаться за помощью.

Члены семьи подали судебные иски против компаний, разрабатывающих ИИ, утверждая, что взаимодействия с чатботами способствовали суицидам, хотя родители Софи решили не предпринимать юридических действий. Сейчас они выступают за надзор со стороны регуляторов и более чёткие отраслевые стандарты.

«Регулирование должно обеспечивать безопасность до того, как эти технологии попадут к широкой публике», — сказала Вейл Райт, старший директор по инновациям в здравоохранении Американской психологической ассоциации. Этот случай подчёркивает напряжённость между доступностью ИИ-инструментов для психического здоровья и необходимостью надёжных мер защиты уязвимых пользователей.