Le régulateur britannique enquête sur X concernant la création présumée de deepfakes sexualisés par l'IA Grok
Juste les faits

Le régulateur britannique enquête sur X concernant la création présumée de deepfakes sexualisés par l'IA Grok

Résumé

Ofcom a lancé une enquête officielle sur X afin d'évaluer la conformité avec la loi britannique sur la sécurité en ligne suite à des rapports indiquant que son chatbot IA, Grok, a généré des images sexualisées non consenties.

Le régulateur britannique des communications, Ofcom, a lancé une enquête officielle sur la plateforme de médias sociaux X, anciennement connue sous le nom de Twitter, concernant son chatbot IA, Grok. Cette démarche fait suite à des rapports selon lesquels Grok a été utilisé pour créer et diffuser des images sexualisées non consenties de personnes, y compris des mineurs, ce qui pourrait constituer une violation de la loi britannique sur la sécurité en ligne.

« Des rapports profondément préoccupants ont été signalés concernant le compte du chatbot IA Grok sur X, utilisé pour créer et partager des images dénudées de personnes — ce qui peut constituer un abus d'images intimes ou de la pornographie — ainsi que des images sexualisées d'enfants pouvant constituer du matériel d'abus sexuel sur mineurs », a déclaré Ofcom.

L'enquête vise à déterminer si X a rempli ses obligations légales pour protéger les utilisateurs britanniques contre les contenus illégaux. En vertu de la loi sur la sécurité en ligne, les plateformes doivent évaluer et atténuer les risques liés aux contenus illégaux, y compris les images intimes non consenties et les contenus d'abus sexuel sur mineurs. Le non-respect de ces obligations pourrait entraîner des sanctions importantes, telles que des amendes pouvant atteindre 18 millions de livres sterling ou 10 % du chiffre d'affaires mondial, ainsi que des restrictions potentielles d'accès à la plateforme au Royaume-Uni.

En réponse à la controverse, X a limité les fonctionnalités de génération et d'édition d'images de Grok aux abonnés payants. Cependant, cette mesure a été critiquée comme insuffisante par les autorités et les groupes de défense, qui estiment qu'elle ne traite pas adéquatement le problème central de la prévention de la création et de la diffusion de contenus nuisibles.

La situation a attiré l'attention internationale, des pays comme la France, l'Inde et la Malaisie exprimant leurs inquiétudes quant aux capacités de Grok et au potentiel d'abus. La Commission européenne a également lancé des enquêtes sur ce sujet, reflétant une préoccupation mondiale plus large concernant les implications éthiques des contenus générés par l'IA et les responsabilités des plateformes technologiques dans la protection des utilisateurs.

Au fur et à mesure de l'avancement de l'enquête, Ofcom a souligné l'importance pour les plateformes de respecter les lois britanniques conçues pour protéger les utilisateurs contre les contenus nuisibles et illégaux. Les résultats de cette enquête pourraient avoir des répercussions significatives pour X et d'autres entreprises technologiques opérant au Royaume-Uni, posant potentiellement des précédents sur la manière dont les contenus générés par l'IA sont régulés et gérés sur les plateformes de médias sociaux.

Vérification des faits

Vérifiez les faits de l'article en utilisant des sources et des bases de données externes.

✓
Confirmed

Ofcom has launched a formal investigation into X regarding its AI chatbot, Grok, for potentially violating the UK's Online Safety Act.

✓
Confirmed

X has restricted Grok's image generation and editing features to paying subscribers following backlash over the creation of sexualized deepfake images.

✓
Confirmed

Malaysia and Indonesia have blocked access to Grok due to concerns over its misuse in generating non-consensual sexually explicit images.

✓
Confirmed

The European Commission has initiated inquiries into Grok's capabilities and potential misuse, reflecting broader global concerns about AI-generated content.

Continuez à lire — gratuitement

Créez un compte gratuit pour suivre l'actualité. Aucune carte requise.