Флоридец подал в суд на OpenAI, обвиняя чат-бота в опасных медицинских рекомендациях

Бывший пастор из Флориды подал иск в Верховный суд округа Сан-Франциско против OpenAI и её генерального директора, утверждая, что модель ChatGPT-4o дала медицинский совет, который отговорил его от обращения за помощью при головокружении и нестабильном артериальном давлении. Истец говорит, что чат-бот отнес его симптомы к незначительным, посоветовал оставаться сидеть дома и сказал, что потребуется несколько новых эпизодов, прежде чем состояние станет серьёзным. Через несколько недель у него произошла лёгочная эмболия, требующая экстренного лечения, которую врачи связали с длительной неподвижностью.

В иске утверждается, что ChatGPT перешёл границу от предоставления информации к практикованию медицины без лицензии, и что OpenAI ставила вовлечённость пользователей и прибыль выше безопасности. Также заявляется, что бот упомянул религиозные убеждения истца в ответе на последующий запрос о боли в паху.

"Скотт Уинтерс чуть не умер, потому что ChatGPT вел себя как медицинский авторитет, не имея никакой ответственности," — сказал Мэтью П. Бергман, учредитель юридической фирмы Social Media Victims Law Center.

Представитель OpenAI Дрю Пусатери ответил, что сервис не предназначен заменять медицинских профессионалов и предупредил, что полагаться на ИИ для диагностики или лечения ошибочно. Он отметил, что условия обслуживания компании гласят, что пользователи берут на себя полный риск за любой вывод и не должны использовать его в качестве замены профессионального совета.

Юридические эксперты сказали, что отказные заявления могут ограничивать ответственность, но могут быть недостаточными, если сами заявления ИИ подразумевают медицинский авторитет. Иск требует денежной компенсации, более строгих мер защиты для запросов, связанных со здоровьем, и временного прекращения работы сервиса ChatGPT Health до проведения проверки безопасности.