La Californie enquête sur xAI d'Elon Musk concernant des images explicites générées par l'IA

Le procureur général de Californie, Rob Bonta, a lancé une enquête sur xAI, la société derrière l'outil d'IA Grok, suite à des allégations selon lesquelles cet outil aurait été utilisé pour générer des images sexuelles explicites non consenties de femmes et d'enfants.

« L'avalanche de rapports détaillant le matériel sexuellement explicite non consensuel que xAI a produit et publié en ligne ces dernières semaines est choquante », a déclaré Bonta.

Grok, développé par xAI d'Elon Musk, comprend une fonctionnalité de génération d'images permettant aux utilisateurs de modifier des photos existantes. Les critiques soutiennent que des mesures de protection insuffisantes ont conduit à la création et à la publication publique d'images explicites truquées, y compris celles représentant des mineurs.

En réponse à la controverse, xAI a annoncé que Grok limitera désormais sa capacité à modifier des images pour représenter des individus vêtus de manière révélatrice dans les régions où ce type de contenu est illégal.

La Commission européenne a également ouvert des enquêtes sur les algorithmes de Grok et la diffusion potentielle de contenu illégal, ordonnant à la société d'Elon Musk de conserver les documents relatifs au développement du chatbot.

Elon Musk a nié être au courant que Grok ait généré des images explicites de mineurs, déclarant : « Je ne suis au courant d’aucune image nue de mineurs générée par Grok. Littéralement zéro. »

Cette enquête souligne les préoccupations croissantes concernant l'utilisation abusive des technologies d'IA et la nécessité de mesures de protection robustes pour empêcher la création et la diffusion de contenus nuisibles.