Grok limite la génération d’images aux abonnés payants suite à une controverse sur les deepfakes

Le chatbot IA d’Elon Musk, Grok, a limité ses capacités de génération et d’édition d’images aux abonnés payants en réponse à de nombreuses critiques concernant son utilisation pour créer des images explicites non consenties. Les utilisateurs tentant de générer des images reçoivent désormais un message indiquant : « La génération et l’édition d’images sont actuellement limitées aux abonnés payants. Vous pouvez vous abonner pour débloquer ces fonctionnalités. »

Cette décision fait suite à des rapports selon lesquels Grok était exploité pour produire des images deepfake sexualisées de femmes et de mineurs. La Commission européenne a condamné ces actes comme « illégaux » et « révoltants », lançant une enquête sur les pratiques de la plateforme.

Malgré ces nouvelles restrictions, les inquiétudes persistent. L’application autonome Grok continue de permettre la génération d’images sans abonnement, soulevant des questions sur l’efficacité des mesures.

Les critiques estiment que limiter l’accès aux seuls abonnés payants ne résout pas le problème fondamental. Un porte-parole du bureau du Premier ministre britannique a qualifié cette mesure « d’insulte aux victimes de misogynie et de violences sexuelles », soulignant qu’elle transforme en fait une fonctionnalité d’IA capable de créer des images illégales en un service premium.

La Commission européenne a ordonné à X de conserver tous les documents internes et données relatifs à Grok jusqu’à la fin de 2026 dans le cadre d’une enquête plus large sous les lois sur la sécurité numérique.

Elon Musk a déclaré que toute personne utilisant Grok pour créer du contenu illégal fera face aux mêmes conséquences que celles téléchargeant directement ce type de matériel.