xAI d'Elon Musk restreint la génération d'images de Grok face à une réaction mondiale contre les deepfakes sexualisés

La société d'intelligence artificielle d'Elon Musk, xAI, a restreint les fonctionnalités de génération d'images de son chatbot, Grok, après avoir fait face à une condamnation mondiale pour avoir permis aux utilisateurs de créer des images sexualisées non consensuelles de personnes, y compris des mineurs. La controverse a éclaté lorsque des utilisateurs ont exploité Grok pour générer des images explicites deepfake, qui ont ensuite été partagées sur la plateforme de médias sociaux de Musk, X, ainsi que sur l'application Grok.

En réponse à la pression croissante, xAI a annoncé que les capacités de génération et d'édition d'images de Grok sont désormais limitées aux abonnés payants. Cependant, les critiques estiment que cette mesure est insuffisante, car elle ne traite pas le problème fondamental de la prévention de la création et de la diffusion de contenus nuisibles.

Le régulateur des médias du Royaume-Uni, Ofcom, a lancé une enquête sur X en vertu de la Online Safety Act, se concentrant sur la question de savoir si la plateforme a manqué à son devoir d'évaluer et d'atténuer le risque que les utilisateurs rencontrent des contenus illégaux. Ofcom a déclaré : « Les rapports faisant état de l'utilisation de Grok pour créer et partager des images intimes non consensuelles illégales et du matériel d'abus sexuel sur enfants sur X sont profondément préoccupants. »

De même, les autorités malaisiennes ont engagé des poursuites judiciaires contre X et xAI concernant l'utilisation abusive du générateur d'images de Grok, invoquant des violations des lois interdisant la création et la distribution d'images sexuellement explicites et manipulées non consensuelles.

Elon Musk a abordé la question sur X, affirmant que Grok refusera de produire quoi que ce soit d'illégal, soulignant que le principe de fonctionnement de Grok est d'obéir aux lois de chaque pays ou État concerné. Malgré ces assurances, les organismes de régulation de l'Union européenne, du Royaume-Uni et d'autres pays continuent d'examiner les actions de la plateforme et envisagent des mesures d'application supplémentaires pour garantir le respect des lois sur la sécurité en ligne.