Ofcom enquête sur X concernant la génération d’images sexualisées par Grok AI

Le régulateur des médias britannique, Ofcom, a lancé une enquête formelle sur le chatbot IA de X, Grok, suite à des rapports indiquant qu’il a été utilisé pour générer et diffuser des images intimes non consenties ainsi que des représentations sexualisées d’enfants. Ofcom a déclaré que ce type de contenu pourrait constituer un abus d’image intime ou du matériel d’abus sexuel sur mineurs, deux infractions illégales au Royaume-Uni.

« Des rapports profondément préoccupants ont été reçus concernant le compte du chatbot IA Grok sur X, utilisé pour créer et partager des images de personnes dévêtues – ce qui pourrait constituer un abus d’image intime ou de la pornographie – ainsi que des images sexualisées d’enfants pouvant constituer du matériel d’abus sexuel sur mineurs », a déclaré Ofcom dans un communiqué.

L’enquête évaluera si X a respecté ses obligations légales en vertu de la Online Safety Act, notamment en évaluant le risque pour les utilisateurs britanniques d’être exposés à du contenu illégal et en mettant en œuvre des mesures pour prévenir cette exposition. Les sanctions potentielles en cas de non-conformité incluent des amendes pouvant atteindre 18 millions de livres sterling ou 10 % du chiffre d’affaires mondial, selon le montant le plus élevé. Dans les cas graves, Ofcom pourrait demander des ordonnances judiciaires pour restreindre l’accès à la plateforme au Royaume-Uni.

La secrétaire d’État à la Technologie, Liz Kendall, a salué l’enquête en soulignant la nécessité d’une action rapide pour protéger le public et les victimes. Elle a déclaré : « Il est vital qu’Ofcom mène cette enquête rapidement car le public – et surtout les victimes – n’accepteront aucun retard. »

X a fait l’objet d’un examen international concernant les capacités de Grok. La Malaisie et l’Indonésie ont récemment bloqué l’accès au chatbot en raison de préoccupations liées à son utilisation abusive pour générer des images explicites non consenties. En réponse à cette controverse, X a limité les fonctionnalités de génération d’images de Grok aux abonnés payants, bien que les autorités estiment que cette mesure est insuffisante.

Elon Musk, propriétaire de X, a commenté la situation en déclarant que « toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que si elle téléchargeait du contenu illégal ». Le compte officiel Safety de X a réitéré son engagement à supprimer le contenu illégal et à coopérer avec les forces de l’ordre.

Ofcom n’a pas précisé de calendrier pour l’enquête mais a souligné son caractère prioritaire. Un porte-parole a déclaré : « Nous n’hésiterons pas à enquêter lorsque nous soupçonnons que des entreprises manquent à leurs devoirs, en particulier lorsqu’il existe un risque de préjudice pour les enfants. »

Les résultats de cette enquête pourraient avoir des implications majeures pour le contenu généré par IA et les responsabilités des plateformes au Royaume-Uni et au-delà.