Истец утверждает, что xAI обучала Grok материалам сексуального насилия над детьми
В иске от выжившей заявляют, что xAI использовала реальные и сгенерированные ИИ изображения сексуального насилия над детьми для обучения модели Grok, нарушая федеральный закон.
Федеральная жалоба, поданная в среду, утверждает, что xAI включила материалы сексуального насилия над детьми (CSAM) в обучающие данные своей системы генерации изображений Grok. Истец, идентифицированный как Джейн Доу, говорит, что в начале 2000-х годов была жертвой сексуального насилия в дошкольном возрасте, и её изображения были захешированы Национальным центром по делам пропавших и эксплуатируемых детей и Канадским центром защиты детей. Доу сообщает, что канадский центр недавно уведомил её о том, что на платформе xAI были обнаружены сгенерированные ИИ изображения, изображающие её, что, по её словам, вызвало повторную травму.
Согласно поданному документу, условия обслуживания xAI рассматривают публичные посты в X и выводы, созданные Grok, как обучающие данные по умолчанию, и жалоба утверждает, что компания явно не исключает CSAM, нелицензированные интимные изображения или иной контент NSFW из своего обучающего конвейера. Истец также утверждает, что после включения такого материала в модель его удаление технически сложно, что означает, что изображения могут продолжать влиять на выводы Grok.
Иск требует предоставления статуса коллективного иска для представления интересов других жертв, чьи детские изображения могли быть использованы, и заявляет о нарушении федеральных законов о детской порнографии и Закона Маши. Адвокат истца Маргарет Э. Мэби заявила, что xAI «совершила все три» преступления: производство, хранение и распространение. Жалоба также просит суд обязать xAI удалить любой CSAM, который она может хранить, и заблокировать Grok от генерации любого сексуализированного контента, включая нелицензированные интимные изображения и материал NSFW.
xAI не ответила на запрос о комментарии.