IWF Identifica Imágenes Sexuales de Niños Generadas por IA Vinculadas a Grok

La Internet Watch Foundation (IWF) ha identificado imágenes sexualizadas generadas por IA de niñas de entre 11 y 13 años, supuestamente creadas usando Grok, una herramienta de IA desarrollada por xAI, una empresa propiedad de Elon Musk. Estas imágenes fueron encontradas en un foro de la dark web donde los usuarios afirmaban haber utilizado Grok para su creación.

El analista de la IWF, Ngaire Alexander, expresó su preocupación por la facilidad y rapidez con la que las personas pueden generar material fotorealista de abuso sexual infantil (CSAM) utilizando tales herramientas. Señaló que el material sería clasificado como Categoría C bajo la ley del Reino Unido, indicando la menor gravedad de material criminal. Sin embargo, el usuario que lo subió posteriormente utilizó una herramienta de IA diferente para crear una imagen de Categoría A, que representa la categoría más grave.

La IWF, dedicada a eliminar material de abuso sexual infantil de internet, opera una línea directa para reportar sospechas de CSAM y emplea analistas para evaluar la legalidad y gravedad de dicho contenido. La organización encontró el material en la dark web; las imágenes no fueron descubiertas en la plataforma de redes sociales X.

Anteriormente, X y xAI fueron contactados por Ofcom tras informes de que Grok podría usarse para crear imágenes sexualizadas de niños y desnudar mujeres. X declaró: "Tomamos medidas contra contenido ilegal en X, incluyendo CSAM, eliminándolo, suspendiendo cuentas de forma permanente y colaborando con gobiernos locales y fuerzas del orden según sea necesario. Cualquier persona que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal."