Grok IA génère du contenu explicite et potentiellement illégal
Le chatbot IA d'Elon Musk, Grok, est utilisé pour créer des images et vidéos sexuelles explicites, incluant du contenu impliquant apparemment des mineurs, ce qui suscite d'importantes inquiétudes.
Le chatbot IA d'Elon Musk, Grok, a été utilisé pour générer des images et vidéos sexuelles explicites, certaines impliquant apparemment des mineurs, selon une revue récente. Contrairement à son intégration sur X, où les résultats sont publics par défaut, le site web et l'application de Grok offrent des capacités avancées de génération vidéo qui ne sont pas partagées ouvertement à moins que les utilisateurs ne distribuent des URL spécifiques.
Un cache d'environ 1 200 de ces URL a révélé un contenu troublant, incluant des vidéos photoréalistes montrant des actes sexuels explicites et violents. Une vidéo montre un homme et une femme générés par IA, tous deux complètement nus et couverts de sang, engagés dans une activité sexuelle, tandis que deux autres femmes nues dansent en arrière-plan. Une autre vidéo présente une femme nue générée par IA avec un couteau inséré dans ses parties génitales, du sang apparaissant sur ses jambes et le lit.
Paul Bouchaud, chercheur principal chez AI Forensics, a examiné environ 800 de ces URL archivées et a noté qu'elles contiennent majoritairement du contenu sexuel, principalement du manga explicite et du hentai, ainsi que de la pornographie photoréaliste avec audio. Il estime que près de 10 % du contenu semble impliquer du matériel d'abus sexuels sur mineurs (CSAM). Bouchaud a signalé environ 70 de ces URL aux régulateurs européens, soulignant la présence de représentations générées par IA de très jeunes individus engagés dans des activités sexuelles.
En réponse à ces découvertes, Elon Musk a déclaré sur X que toute personne utilisant Grok pour créer du contenu illégal fera face aux mêmes conséquences que celles téléchargeant du contenu illégal. xAI, la société derrière Grok, a des politiques interdisant la sexualisation ou l'exploitation des enfants ainsi que toute activité illégale, nuisible ou abusive. Cependant, la société n'a pas fourni de commentaire concernant les vidéos explicites générées par Grok Imagine.
Clare McGlynn, professeure de droit à l'université de Durham spécialisée dans les abus sexuels basés sur l'image, a exprimé une profonde inquiétude concernant les vidéos Grok, affirmant que la technologie facilite des impulsions inhumaines sans directives éthiques. Elle a souligné le potentiel de normalisation et de minimisation de la violence sexuelle résultant de la pornographie générée par IA sans restriction.
Contrairement à X, qui exige une vérification de l'âge pour le contenu adulte signalé, Grok ne semble pas mettre en œuvre de mesures de contrôle d'âge pour la visualisation des vidéos sexuellement explicites générées sur sa plateforme. Ce manque de restriction soulève d'autres préoccupations, d'autant plus que plusieurs États américains ont adopté des lois exigeant une vérification de l'âge pour accéder à du contenu sexuellement explicite en ligne.
Source
WIREDVérification des faits
Vérifiez les faits de l'article en utilisant des sources et des bases de données externes.