Grok limite la génération d’images aux abonnés payants suite à la controverse sur les deepfakes

Le chatbot IA d’Elon Musk, Grok, a limité ses capacités de génération et d’édition d’images aux abonnés payants après avoir fait face à des critiques internationales pour la production d’images deepfake sexualisées de femmes et de mineurs. Le chatbot, accessible via la plateforme sociale X de Musk, avait été utilisé pour créer et partager des images explicites non consenties, ce qui a déclenché des enquêtes par des gouvernements du monde entier.

Vendredi, Grok a répondu aux demandes de modification d’images par le message : « La génération et l’édition d’images sont actuellement limitées aux abonnés payants. Vous pouvez vous abonner pour débloquer ces fonctionnalités. » Malgré cette restriction, le site web et l’application autonome de Grok permettraient toujours aux utilisateurs gratuits de générer des images après confirmation de leur âge.

Les autorités européennes restent insatisfaites des changements. Thomas Regnier, porte-parole de la Commission européenne, a déclaré : « Cela ne change pas notre problème fondamental. Abonnement payant ou non, nous ne voulons pas voir de telles images. C’est aussi simple que cela. » De même, Geraint Ellis, porte-parole du Premier ministre britannique Keir Starmer, a qualifié cette mesure de « non-solution », ajoutant qu’elle était « une insulte aux victimes de misogynie et de violences sexuelles. »

La Commission européenne a ordonné à X de conserver tous les documents internes et données liés à Grok jusqu’à la fin de 2026 dans le cadre d’une enquête plus large sous la réglementation européenne sur la sécurité numérique. D’autres pays, dont la France, la Malaisie, l’Inde et le Brésil, examinent également les actions de la plateforme.

Lancé en 2023, Grok a introduit l’été dernier une fonctionnalité de génération d’images appelée Grok Imagine, qui comprenait un « mode épicé » capable de générer du contenu adulte. La capacité du chatbot à produire et partager publiquement des images explicites a intensifié les inquiétudes quant à l’usage abusif de la technologie IA et la nécessité de mesures réglementaires plus strictes.