xAI Илона Маска ограничивает генерацию изображений Grok на фоне глобальной критики сексуализированных дипфейков

Компания Илона Маска по искусственному интеллекту xAI ограничила функции генерации изображений у своего чат-бота Grok после глобального осуждения за предоставление пользователям возможности создавать сексуализированные изображения без согласия, включая изображения несовершеннолетних. Скандал разразился, когда пользователи использовали Grok для создания откровенных дипфейков, которые затем распространялись на платформе Маска X и в приложении Grok.

В ответ на растущее давление xAI объявила, что функции генерации и редактирования изображений Grok теперь доступны только платным подписчикам. Однако критики считают, что эта мера недостаточна, поскольку не решает основную проблему — предотвращение создания и распространения вредоносного контента.

Британский медиарегулятор Ofcom начал расследование в отношении X в рамках Закона об онлайн-безопасности, сосредоточив внимание на том, не допустила ли платформа появления и распространения незаконного контента. Ofcom заявил: «Сообщения о том, что Grok используется для создания и распространения незаконных интимных изображений без согласия и материалов с сексуальным насилием над детьми на X, вызывают глубокую озабоченность.»

Аналогично, власти Малайзии инициировали судебные действия против X и xAI из-за злоупотребления генератором изображений Grok, ссылаясь на нарушение законов, запрещающих создание и распространение сексуально откровенных и манипулированных изображений без согласия.

Илон Маск прокомментировал ситуацию на X, заявив, что Grok откажется создавать любой незаконный контент, подчеркнув, что принцип работы Grok — соблюдать законы каждой страны или штата. Несмотря на эти заверения, регуляторы в Европейском союзе, Великобритании и других странах продолжают внимательно следить за действиями платформы и рассматривают возможность введения дополнительных мер для обеспечения соблюдения законов об онлайн-безопасности.