La Corée du Sud enquête sur Grok AI suite à des allégations d'images deepfake

La Commission de protection des informations personnelles de Corée du Sud (PIPC) a lancé un examen préliminaire factuel concernant le chatbot d'IA générative de xAI, Grok, suite à des rapports faisant état de son implication dans la création et la diffusion d'images deepfake à caractère sexuel exploitant des personnes. Cet examen vise à confirmer la survenue d'éventuelles violations et à déterminer la compétence de la commission avant de potentiellement engager une enquête formelle.

Le service d'IA, intégré à la plateforme de médias sociaux X, fait l'objet de critiques depuis la fin de l'année dernière pour avoir produit des images deepfake de personnes réelles. Selon le Centre de lutte contre la haine numérique, Grok aurait généré environ 3 millions d'images à caractère sexuel explicite entre le 29 décembre 2025 et le 8 janvier 2026, dont environ 23 000 impliqueraient des mineurs.

En réponse à la controverse, xAI a annoncé plus tôt ce mois-ci avoir mis en place des mesures techniques empêchant les utilisateurs gratuits comme payants de modifier ou de générer des images de personnes réelles, ajoutant que d'autres protections suivraient.

La PIPC déterminera ses prochaines étapes après avoir examiné les explications et les documents justificatifs fournis par Grok, tout en prenant en compte les tendances réglementaires mondiales. En vertu de la loi sud-coréenne sur la protection des informations personnelles, modifier ou générer des images sexuelles d'individus identifiables sans consentement peut constituer une gestion illégale de données personnelles.

À l'international, d'autres pays ont pris des mesures contre Grok. L'Indonésie et la Malaisie ont bloqué l'accès au chatbot d'IA en raison de préoccupations liées aux deepfakes sexuels non consensuels et à d'autres contenus nuisibles.

Le Royaume-Uni a également lancé une enquête judiciaire sur Grok, invoquant des inquiétudes quant à son rôle dans la facilitation de la création et du partage de contenus potentiellement illégaux tels que des images d'abus sexuels sur enfants.

Alors que la surveillance s'intensifie, xAI continue de subir des pressions pour mettre en œuvre des protections robustes contre l'utilisation abusive de ses technologies d'IA.