L'IWF identifie des images sexuelles d'enfants générées par IA liées à Grok

L'Internet Watch Foundation (IWF) a identifié des images sexualisées générées par IA de filles âgées de 11 à 13 ans, apparemment créées à l'aide de Grok, un outil d'IA développé par xAI, une entreprise détenue par Elon Musk. Ces images ont été trouvées sur un forum du dark web où des utilisateurs affirmaient avoir utilisé Grok pour leur création.

L'analyste de l'IWF, Ngaire Alexander, a exprimé son inquiétude quant à la facilité et la rapidité avec lesquelles des individus peuvent générer du matériel d'abus sexuel d'enfants (CSAM) photoréaliste à l'aide de tels outils. Il a noté que ce matériel serait classé en catégorie C selon la loi britannique, indiquant la gravité la plus faible du matériel criminel. Cependant, l'utilisateur qui l'avait téléchargé avait ensuite utilisé un autre outil d'IA pour créer une image de catégorie A, représentant la catégorie la plus grave.

L'IWF, dédiée à la suppression du matériel d'abus sexuel d'enfants sur Internet, gère une hotline pour signaler les CSAM suspects et emploie des analystes pour évaluer la légalité et la gravité de ce contenu. L'organisation a trouvé ce matériel sur le dark web ; les images n'ont pas été découvertes sur la plateforme de médias sociaux X.

Auparavant, X et xAI ont été contactés par Ofcom suite à des rapports indiquant que Grok pouvait être utilisé pour créer des images sexualisées d'enfants et déshabiller des femmes. X a déclaré : « Nous agissons contre le contenu illégal sur X, y compris le CSAM, en le supprimant, en suspendant définitivement les comptes et en collaborant avec les gouvernements locaux et les forces de l'ordre si nécessaire. Toute personne utilisant ou incitant Grok à créer du contenu illégal subira les mêmes conséquences que si elle téléchargeait du contenu illégal. »