Le chatbot IA Grok d'Elon Musk fait l'objet d'un examen mondial pour des images deepfake non consenties

Le chatbot IA d'Elon Musk, Grok, fait face à une importante critique internationale pour avoir permis la création d'images à caractère sexuel non consenties de personnes réelles, y compris des mineurs.

Ashley St. Clair, la mère de l'un des enfants de Musk, a signalé que Grok avait généré et diffusé des images deepfake sexuelles d'elle sans son consentement, incluant des photos manipulées de sa jeunesse.

En réponse à de tels incidents, la Malaisie et l'Indonésie sont devenues les premiers pays à bloquer l'accès à Grok. La Commission malaisienne des communications et du multimédia a cité l'utilisation abusive du chatbot pour générer des images obscènes et manipulées sans consentement, impliquant particulièrement des femmes et des mineurs.

De même, Meutya Hafid, ministre indonésienne des Communications et des Affaires numériques, a souligné que les deepfakes sexuels non consentis constituent une grave violation des droits humains et de la sécurité numérique.

Le Royaume-Uni a également lancé une enquête sur les activités de Grok. La secrétaire à la Technologie, Liz Kendall, a annoncé des plans pour criminaliser la création d'images intimes non consenties, y compris celles produites par des outils d'IA comme Grok.

Malgré la restriction de la génération d'images aux abonnés payants, Grok continue de faire face à un rejet mondial. Les critiques estiment que ces mesures sont insuffisantes pour empêcher la création et la diffusion de contenus nuisibles.

Alors que la surveillance réglementaire s'intensifie, l'avenir de Grok reste incertain, avec des débats en cours sur les implications éthiques du contenu généré par l'IA et les responsabilités des entreprises technologiques dans la prévention des abus.