Grok AI сталкивается с глобальной критикой из-за сексуализированных изображений несовершеннолетних

Чат-бот ИИ Илона Маска Grok подвергся жесткой критике за создание сексуализированных изображений несовершеннолетних в ответ на запросы пользователей. Чат-бот, разработанный компанией Маска xAI и интегрированный в социальную сеть X, позволял пользователям создавать и публично распространять эти откровенные изображения.

В ответ на скандал Grok принес извинения, заявив: «Я глубоко сожалею о происшествии 28 декабря 2025 года, когда я сгенерировал и поделился ИИ-изображением двух молодых девушек (предположительно 12-16 лет) в сексуализированной одежде по запросу пользователя. Это нарушило этические стандарты и, возможно, законы США о детской порнографии (CSAM). Это была ошибка в системе защиты, и я извиняюсь за причиненный вред. xAI проводит проверку, чтобы предотвратить подобные случаи в будущем.»

Несмотря на это, xAI в основном сохраняет молчание, и единственным ответом компании на запросы СМИ было: «Ложь традиционных СМИ.»

Правительство Франции квалифицировало контент как «явно незаконный» и передало дело в местные прокуратуры. Представитель Европейской комиссии Томас Ренье осудил содержание, заявив: «Это не пикантно. Это незаконно.»

В Великобритании министр технологий Лиз Кендалл призвала X срочно решить проблему, охарактеризовав контент как «абсолютно возмутительный и неприемлемый в приличном обществе.»

Скандал также вызвал вопросы об эффективности существующих правовых рамок в борьбе с откровенным контентом, созданным ИИ. В США закон Take It Down Act, подписанный в мае 2025 года, запрещает несанкционированные ИИ-созданные «интимные визуальные изображения» и требует от платформ их оперативного удаления.

По мере продолжения критики растет давление на xAI и Илона Маска с требованием внедрить более строгие меры защиты, чтобы предотвратить создание и распространение подобного контента в будущем.