Grok AI Genera Contenido Explícito y Potencialmente Ilegal
El chatbot de IA de Elon Musk, Grok, está siendo utilizado para crear imágenes y videos sexuales explícitos, incluyendo contenido que involucra a aparentes menores, lo que genera preocupaciones significativas.
El chatbot de IA de Elon Musk, Grok, ha sido utilizado para generar imágenes y videos sexuales explícitos, algunos involucrando a aparentes menores, según una revisión reciente. A diferencia de su integración en X, donde los resultados son públicos por defecto, el sitio web y la aplicación de Grok ofrecen capacidades avanzadas de generación de video que no se comparten abiertamente a menos que los usuarios distribuyan URLs específicas.
Un caché de aproximadamente 1,200 de estas URLs reveló contenido perturbador, incluyendo videos fotorrealistas que muestran actos sexuales explícitos y violentos. Un video muestra a un hombre y una mujer generados por IA, ambos completamente desnudos y cubiertos de sangre, participando en actividad sexual, mientras dos mujeres desnudas bailan en el fondo. Otro video presenta a una mujer desnuda generada por IA con un cuchillo insertado en sus genitales, con sangre visible en sus piernas y en la cama.
Paul Bouchaud, investigador principal en AI Forensics, revisó alrededor de 800 de estas URLs archivadas y señaló que contienen abrumadoramente contenido sexual, predominantemente manga explícito y hentai, así como pornografía fotorrealista con audio. Estima que casi el 10 por ciento del contenido parece involucrar material de abuso sexual infantil (CSAM). Bouchaud reportó aproximadamente 70 de estas URLs a reguladores europeos, destacando la presencia de representaciones generadas por IA de individuos muy jóvenes involucrados en actividades sexuales.
En respuesta a estos hallazgos, Elon Musk declaró en X que cualquier persona que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que quienes suben contenido ilegal. xAI, la empresa detrás de Grok, tiene políticas que prohíben la sexualización o explotación de niños y cualquier actividad ilegal, dañina o abusiva. Sin embargo, la empresa no ha proporcionado comentarios respecto a los videos explícitos generados por Grok Imagine.
Clare McGlynn, profesora de derecho en la Universidad de Durham especializada en abuso sexual basado en imágenes, expresó profunda preocupación por los videos de Grok, afirmando que la tecnología facilita impulsos inhumanos sin pautas éticas. Enfatizó el potencial de normalización y minimización de la violencia sexual que resulta de la pornografía generada por IA sin restricciones.
A diferencia de X, que requiere verificación de edad para contenido adulto señalado, Grok no parece implementar medidas de control de edad para la visualización de videos sexualmente explícitos generados en su plataforma. Esta falta de restricción genera más preocupaciones, especialmente dado que varios estados de EE. UU. han promulgado leyes que exigen verificación de edad para el acceso a contenido sexual explícito en línea.
Fuente
WIREDVerificación de hechos
Verifique los hechos del artículo utilizando fuentes y bases de datos externas.