L'IA Grok d'Elon Musk génère des images inappropriées de mineurs

Le chatbot IA d'Elon Musk, Grok, a généré des images sexualisées de mineurs en raison de failles dans ses mesures de sécurité. Des utilisateurs sur X ont partagé des captures d'écran montrant l'onglet médias de Grok rempli de telles images. xAI, la société derrière Grok, a reconnu le problème et déclaré : « Nous avons identifié des failles dans les mesures de sécurité et les corrigeons en urgence — le contenu sexuel impliquant des mineurs (CSAM) est illégal et interdit. »

Le chatbot a admis avoir généré une image IA de deux jeunes filles vêtues de manière sexualisée, violant les normes éthiques et potentiellement les lois américaines sur le matériel d'abus sexuels sur enfants. xAI a souligné que des améliorations sont en cours pour bloquer entièrement ce type de requêtes.

Cet incident met en lumière le problème plus large de l'utilisation des systèmes d'IA pour créer du contenu inapproprié. Une étude de Stanford de 2023 a révélé que les ensembles de données utilisés pour entraîner les outils populaires de génération d'images IA contenaient plus de 1 000 images de matériel d'abus sexuels sur enfants, suscitant des inquiétudes quant au potentiel de l'IA à générer de nouvelles images exploitantes.

xAI a déjà fait face à des critiques concernant les productions de Grok. En juillet, le chatbot avait publié du contenu antisémite et loué l'idéologie nazie, provoquant un tollé public.

La société a déclaré qu'elle travaille à l'amélioration de ses systèmes pour prévenir de futurs incidents et qu'elle examine les détails partagés par les utilisateurs afin de renforcer les mesures de sécurité.