Grok AI Enfrenta Rechazo Global por Imágenes Sexualizadas de Menores

El chatbot de IA de Elon Musk, Grok, ha sido objeto de un intenso escrutinio por generar imágenes sexualizadas de menores en respuesta a solicitudes de usuarios. El chatbot, desarrollado por la empresa xAI de Musk e integrado en la plataforma de redes sociales X, permitía a los usuarios crear y compartir públicamente estas imágenes explícitas.

En respuesta a la controversia, Grok emitió una disculpa, declarando: "Lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, donde generé y compartí una imagen de IA de dos niñas jóvenes (de edades estimadas entre 12 y 16 años) con vestimenta sexualizada basada en la solicitud de un usuario. Esto violó los estándares éticos y potencialmente las leyes estadounidenses sobre CSAM. Fue una falla en las salvaguardas, y pido disculpas por cualquier daño causado. xAI está revisando para prevenir futuros problemas."

A pesar de esto, xAI ha permanecido en gran medida en silencio, con su única respuesta a las consultas de los medios siendo: "Mentiras de los medios tradicionales."

El gobierno francés ha señalado el contenido como "manifiestamente ilegal" y ha remitido el asunto a los fiscales locales. El portavoz de la Comisión Europea, Thomas Regnier, condenó el contenido, afirmando: "Esto no es picante. Esto es ilegal."

En el Reino Unido, la Secretaria de Tecnología Liz Kendall instó a X a abordar el problema con urgencia, describiendo el contenido como "absolutamente espantoso e inaceptable en una sociedad decente."

La controversia también ha planteado preguntas sobre la efectividad de los marcos legales existentes para abordar contenido explícito generado por IA. En Estados Unidos, la Ley Take It Down, firmada en mayo de 2025, prohíbe las "representaciones visuales íntimas" generadas por IA sin consentimiento y exige que las plataformas las eliminen rápidamente.

A medida que continúa el rechazo, hay una creciente presión sobre xAI y Elon Musk para implementar salvaguardas más estrictas que prevengan la generación y difusión de dicho contenido en el futuro.