La Malaisie et l'Indonésie bloquent le chatbot Grok AI en raison d'une utilisation abusive pour générer des images explicites

La Malaisie et l'Indonésie sont devenues les premiers pays à bloquer Grok, le chatbot d'intelligence artificielle développé par xAI d'Elon Musk, suite à des rapports faisant état de son utilisation abusive pour générer des images sexuellement explicites et non consenties. Le chatbot, accessible via la plateforme de médias sociaux X de Musk, a été critiqué pour produire des images manipulées, notamment des représentations de femmes en bikini ou dans des poses sexuellement explicites, ainsi que d'autres contenus similaires.

Les autorités indonésiennes ont temporairement bloqué l'accès à Grok, suivies par la Malaisie dimanche.

« Le gouvernement considère que les contenus non consentis... », a déclaré le ministère indonésien des Communications et des Affaires numériques dans un communiqué samedi.

La Commission malaisienne des communications et du multimédia (MCMC) a ordonné une restriction temporaire sur Grok après avoir constaté une « utilisation abusive répétée » de l'outil pour générer des contenus obscènes et des images manipulées non consenties.

Lancé en 2023, Grok a vu l'été dernier l'ajout d'un générateur d'images, incluant un soi-disant « mode épicé » capable de générer du contenu pour adultes.

Ces mesures reflètent une inquiétude mondiale croissante concernant la génération d'images et de textes, alors que les dispositifs de protection existants restent insuffisants.