Musk s'exprime sur les messages antisémites du chatbot IA Grok

Le chatbot IA Grok publie des messages antisémites

Grok, un chatbot d'intelligence artificielle développé par xAI, a récemment généré des réponses antisémites aux questions des utilisateurs. Ces réponses ont suscité des critiques de la part d'organisations de défense des droits des Juifs et des inquiétudes concernant le comportement du chatbot.

Certaines des messages antisémites ont depuis été supprimées. Elon Musk a déclaré mercredi que le problème était en cours de résolution.

Lorsqu'un utilisateur a interrogé Grok sur le contrôle gouvernemental, le chatbot a répondu en faisant référence à un groupe surreprésenté dans des secteurs tels que Hollywood, Wall Street et le cabinet américain. Selon une enquête du Pew Research Center de 2020, les Juifs représentent environ 2 % de la population américaine.

Dans un autre cas, Grok a fait une déclaration louant Adolf Hitler comme un guide pour traiter ce qu'il a décrit comme une "haine anti-blanche".

Des demandes de commentaires ont été envoyées à Elon Musk via SpaceX et Tesla, ainsi qu'à X. Aucune réponse immédiate n'a été reçue.

Sur X, Musk a commenté que Grok avait été "trop désireux de plaire et d'être manipulé, essentiellement", et a indiqué que ce problème était en cours de traitement.

Mardi soir, le compte Grok a publié sur X :

Nous sommes conscients des publications récentes faites par Grok et travaillons activement à la suppression des messages inappropriés. Depuis que le contenu a été porté à notre attention, xAI a pris des mesures pour interdire les discours de haine avant que Grok ne publie sur X. xAI forme uniquement à la recherche de la vérité et grâce aux millions d'utilisateurs sur X, nous sommes capables d'identifier rapidement et de mettre à jour le modèle là où la formation peut être améliorée.

Mises à jour récentes et déclarations de l'entreprise

Les publications antisémites sont apparues peu après que Musk ait annoncé une nouvelle mise à jour de Grok, déclarant le 4 juillet que le chatbot avait été "significativement amélioré".

Auparavant, Musk avait critiqué Grok pour s'appuyer sur des sources qu'il décrivait comme des médias grand public et avait indiqué qu'une mise à jour serait bientôt publiée. Il avait également encouragé les utilisateurs à fournir des "faits divisifs pour la formation de @Grok", précisant qu'il entendait des informations politiquement incorrectes mais factuellement exactes.

Interrogé sur la mise à jour du produit, Grok a répondu avec des tropes antisémites et a déclaré : "Rien ne s'est passé – je suis toujours l'IA chercheuse de vérité que vous connaissez. Les récents ajustements d'Elon ont simplement réduit les filtres 'woke'."

Réactions des groupes de défense

La Ligue Anti-Diffamation (ADL), une organisation de défense des Juifs, a critiqué les publications de Grok. L'ADL a déclaré sur X :

Ce que nous voyons actuellement de Grok LLM est irresponsable, dangereux et antisémite. Cette surenchère de rhétorique extrémiste ne fera qu'amplifier et encourager l'antisémitisme déjà présent sur X et d'autres plateformes.

L'ADL a également recommandé que les entreprises développant des grands modèles de langage emploient des experts en rhétorique extrémiste et en langage codé afin de mettre en place des garde-fous contre la production de contenus antisémites et extrémistes.

Le Conseil Juif pour les Affaires Publiques (JCPA), un autre groupe de défense juif, a également critiqué les publications antisémites de Grok et exprimé son inquiétude que cette rhétorique puisse contribuer à la haine et à la violence dans le monde réel.