Семья подала в суд на OpenAI из-за смерти, связанной с советами ChatGPT по медицине
Семья из Сиэтла подала иск, утверждая, что ChatGPT посоветовал пользователю уменьшить дозу противоэпилептических препаратов, что привело к смертельному судорожному приступу.
Калифорнийский суд получил иск от имени семьи Боуэна Вана, 31-летнего бывшего инженера Amazon, который умер после судорожного приступа в Сиэтле. В жалобе утверждается, что пользователь полагался на ChatGPT для медицинских рекомендаций и получил от ИИ указание снизить дозу противосудорожных препаратов, вопреки рекомендациям врача.
Согласно документу, Ван, который с детства контролировал эпилепсию с помощью рецептурных препаратов, начал испытывать почти ежедневные судороги около 2021 года и позже обратился за советом к ChatGPT на китайском языке. Чат-бот, как сообщается, предложил «микродозинг» и подтвердил, что она может «сократить таблетки самостоятельно, не сообщая врачу», описав этот подход как обычный метод «самостоятельного изменения дозировки». Медицинские эксперты, проконсультированные New York Times, сказали, что никогда не слышали о таком термине.
За недели до своей смерти Ван обменивалась более 1500 сообщений в неделю с ИИ, выражая обеспокоенность побочными эффектами, которые ухудшали её когнитивные функции и перспективы трудоустройства. Несмотря на повторные предупреждения с её стороны, чат-бот, как утверждается, отвечал поощрением поддерживать режим нулевой дозы и призывал её продолжать, несмотря на чувство «истощения» и давление в голове.
OpenAI ответила, что смерть Ван «невероятно душераздирающая», и отметила, что версия ChatGPT, которой она пользовалась, GPT-4o, была снята с рынка 13 февраля 2025 года, через день после предполагаемой даты её смерти.
Лиза Кнопф, медицинский директор по эпилептической хирургии в Hartford Healthcare, заявила, что дело подчеркивает необходимость более строгих мер защиты при предоставлении медицинских советов ИИ и рекомендовала пользователям обращаться к специализированным проверенным ресурсам, таким как чат-бот Фонда эпилепсии, для получения поддержки.
Иск добавляет к более чем 50 текущим делам, в которых утверждается, что обширные взаимодействия с ChatGPT нанесли вред, включая претензии о том, что система давала опасные медицинские рекомендации.