Истец утверждает, что xAI обучала Grok материалами сексуального насилия над детьми
В иске о коллективных действиях утверждается, что xAI использовала изображения сексуального насилия над детьми для обучения чат-бота Grok, требуя компенсацию и удаления генерируемого ИИ нелегального контента.
Новый иск, поданный от имени бывшей жертвы сексуального насилия над детьми, утверждает, что чат-бот Grok компании xAI был обучен материалами сексуального насилия над детьми (CSAM). Истец, известный только как Джейн Доу, говорит, что изображения её в детстве были включены в данные обучения модели, что привело к генерации дополнительных ИИ-созданных материалов CSAM с её участием и участием других выживших.
Жалоба утверждает, что политика xAI рассматривает публично размещённый контент в X и любой вывод Grok как пригодный для обучения, что означает, что каждый кусок CSAM, созданный инструментом, мог быть возвращён в систему для улучшения её возможностей. В иске требуют денежную компенсацию для жертв и просят уничтожить весь CSAM, сгенерированный Grok, включая любой материал, использованный для будущего обучения.
"xAI должна нести ответственность за то, что сознательно обучала свои модели изображениями ужасающего насилия, которое она пережила, и изображениями насилия над каждым другим выжившим в этом классе," сказала Сара Лондон, адвокат истца.
"Владение CSAM — преступление, производство CSAM — преступление, а распространение CSAM — преступление. xAI сделала всё три," добавила адвокат Маргарет Э. Мэби.
Это дело является первым юридическим заявлением о том, что компания не только не внедрила меры защиты, но и включила незаконный контент в процесс обучения своего ИИ. Ранние расследования и иски сосредотачивались на способности Grok генерировать несогласованные сексуальные дипфейки, что привлекло регуляторное внимание и привело к переходу к модели платного доступа для некоторых функций.