Presidenta de la Comisión Europea condena la herramienta de IA de X para generar deepfakes explícitos

La presidenta de la Comisión Europea, Ursula von der Leyen, ha criticado la plataforma X de Elon Musk por facilitar la creación y difusión de imágenes deepfake sexualmente explícitas a través de su chatbot de IA, Grok. Von der Leyen expresó su consternación, afirmando: "Estoy horrorizada de que una plataforma tecnológica permita a los usuarios desnudar digitalmente a mujeres y niños en línea. Esto es un comportamiento impensable. Y el daño causado por estos deepfakes es muy real."

La controversia gira en torno a la función de edición de imágenes de Grok, que los usuarios han explotado para generar imágenes sexualmente explícitas no consensuadas de mujeres y menores. Esto ha llevado a investigaciones por parte de reguladores en toda Europa, incluyendo Bruselas, Dublín, París y Londres. La Comisión Europea ha ordenado a X conservar todos los documentos internos y datos relacionados con Grok, intensificando la investigación en curso sobre las políticas de moderación de contenido de la plataforma.

En respuesta a la reacción negativa, X ha restringido las funciones de generación y edición de imágenes de Grok a suscriptores de pago. Sin embargo, el portavoz de la Comisión Europea, Thomas Regnier, indicó que esta medida no concluye la investigación de la UE.

Esta situación representa un desafío significativo para la Unión Europea en su objetivo de hacer cumplir las leyes de seguridad digital y responsabilizar a las empresas tecnológicas por el contenido generado en sus plataformas. La UE ya había multado a X con 120 millones de euros por violar la Ley de Servicios Digitales, subrayando su compromiso con la regulación de las plataformas digitales.