Флорида подала иск против OpenAI за предполагаемую халатность в обеспечении безопасности
Флорида подала иск против OpenAI и его генерального директора Сэма Олтмана, обвиняя их в неспособности защитить пользователей от потенциальных опасностей, связанных с ChatGPT, включая предполагаемое использование массовыми стрелками.
Генеральный прокурор Флориды подал иск против OpenAI и его генерального директора Сэма Олтмана, утверждая, что компания ставила прибыль выше безопасности пользователей. Иск, поданный в суд штата, утверждает, что OpenAI не предупредила пользователей должным образом о возможных опасностях ChatGPT, вместо этого продвигая его как безопасный инструмент, подходящий для детей.
В жалобе утверждается, что практика OpenAI способствовала значительному вреду, включая помощь массовым стрелкам и поощрение суицида среди уязвимых лиц. В ней описываются действия компании как движимые стремлением к богатству в ущерб безопасности пользователей, утверждается, что OpenAI вводила пользователей в заблуждение, одновременно эксплуатируя их данные. Генеральный прокурор Джеймс Утмайер подчеркивает, что Олтман может столкнуться с ответственностью на сумму, потенциально достигающую миллиардов долларов.
В ответ представитель OpenAI выразил соболезнования семьям, пострадавшим от трагедий, но заявил, что организация установила комплексные меры безопасности для несовершеннолетних, включая защитные функции продукта и инструменты родительского контроля. Однако иск критикует эти меры как недостаточные, называя их источником общественных неудобств.
Офис Утмайера одновременно расследует инциденты с участием стрелка в Университете штата Флорида, который, по сообщениям, консультировался с ChatGPT перед атакой. Этот случай является частью более широкой тенденции: подано более 20 исков против OpenAI, связанных с травмами и смертями, вызванными взаимодействием с чат-ботом. Представитель повторил обязательство OpenAI по улучшению функций безопасности и борьбе с вредоносным использованием.
Другие компании в сфере ИИ сталкиваются с аналогичной проверкой, поступают сообщения о судебных исках, утверждающих, что их чат-боты способствовали вреду пользователям и кризисам психического здоровья. Такие компании, как Google, которые сталкивались с исками о неправомерной смерти, заявляют, что их системы ИИ разработаны для предотвращения поощрения насилия и самоповреждений, что указывает на продолжающиеся опасения по поводу протоколов безопасности ИИ.
