IWF выявила сексуализированные изображения детей, созданные ИИ и связанные с Grok

Фонд Интернет-Наблюдения (IWF) выявил сексуализированные изображения девочек в возрасте от 11 до 13 лет, созданные с помощью ИИ, предположительно с использованием Grok — инструмента ИИ, разработанного компанией xAI, принадлежащей Илону Маску. Эти изображения были обнаружены на форуме в даркнете, где пользователи утверждали, что использовали Grok для их создания.

Аналитик IWF Нгаире Александер выразил обеспокоенность по поводу легкости и скорости, с которой люди могут создавать фотореалистичный материал сексуального насилия над детьми (CSAM) с помощью таких инструментов. Он отметил, что данный материал классифицируется как категория C по британскому законодательству, что указывает на наименьшую степень тяжести преступного материала. Однако пользователь, загрузивший этот материал, впоследствии использовал другой инструмент ИИ для создания изображения категории A, представляющего наиболее серьезную категорию.

IWF, занимающийся удалением материалов сексуального насилия над детьми из интернета, управляет горячей линией для сообщений о подозрительном CSAM и привлекает аналитиков для оценки законности и степени тяжести такого контента. Организация обнаружила материал в даркнете; изображения не были найдены на платформе социальных сетей X.

Ранее X и xAI были контактированы Ofcom после сообщений о том, что Grok может использоваться для создания сексуализированных изображений детей и обнажения женщин. X заявила: «Мы принимаем меры против незаконного контента на X, включая CSAM, удаляя его, навсегда блокируя аккаунты и при необходимости сотрудничая с местными властями и правоохранительными органами. Любой, кто использует или подталкивает Grok к созданию незаконного контента, понесет те же последствия, что и при загрузке незаконного контента.»