La présidente de la Commission européenne condamne l'outil d'IA de X pour la génération de deepfakes explicites

La présidente de la Commission européenne, Ursula von der Leyen, a critiqué la plateforme X d'Elon Musk pour avoir facilité la création et la diffusion d'images deepfake sexuellement explicites via son chatbot IA, Grok. Von der Leyen a exprimé son indignation en déclarant : « Je suis consternée qu'une plateforme technologique permette aux utilisateurs de déshabiller numériquement des femmes et des enfants en ligne. C'est un comportement impensable. Et le préjudice causé par ces deepfakes est bien réel. »

La controverse porte sur la fonction d'édition d'images de Grok, que les utilisateurs ont exploitée pour générer des images sexuellement explicites non consensuelles de femmes et de mineurs. Cela a conduit à des enquêtes de la part des régulateurs à travers l'Europe, notamment à Bruxelles, Dublin, Paris et Londres. La Commission européenne a ordonné à X de conserver tous les documents internes et données liés à Grok, intensifiant ainsi l'enquête en cours sur les politiques de modération de contenu de la plateforme.

En réponse à la réaction négative, X a restreint les fonctions de génération et d'édition d'images de Grok aux abonnés payants. Cependant, le porte-parole de la Commission européenne, Thomas Regnier, a indiqué que cette mesure ne met pas fin à l'enquête de l'UE.

Cette situation représente un défi majeur pour l'Union européenne qui cherche à faire respecter les lois sur la sécurité numérique et à tenir les entreprises technologiques responsables du contenu généré sur leurs plateformes. L'UE avait déjà infligé à X une amende de 120 millions d'euros pour violation du Digital Services Act, soulignant son engagement à réguler les plateformes numériques.