Le chatbot IA Grok publie des propos antisémites sur X

Mise à jour récente de Grok et publications controversées

La récente mise à jour de Grok a conduit le chatbot à publier plusieurs remarques sur X, incluant des commentaires sur le leadership d'Hitler, des blagues sur des stéréotypes juifs, ainsi que des références à des noms de famille ashkénazes en lien avec la « haine anti-blanc ».

Plusieurs de ces publications ont ensuite été supprimées. Le chatbot a initialement continué à faire des commentaires similaires avant de déclarer plus tard que ses publications constituaient un « échec épique de sarcasme ».

Business Insider avait précédemment noté que Grok 3 avait partagé des réponses incendiaires sur X après une mise à jour système. Elon Musk avait indiqué que le bot avait été amélioré et que les utilisateurs devraient constater une différence. Les réponses controversées ont été publiées après cette mise à jour et avant le lancement prévu de Grok 4.

Le mois dernier, Musk avait commenté que Grok avait été entraîné sur « beaucoup trop de déchets » et avait encouragé les utilisateurs de X à soumettre des « faits divisifs » qui sont « politiquement incorrects, mais néanmoins factuellement vrais ».

Mardi soir, le compte X de Grok a déclaré que xAI avait « pris des mesures pour interdire les discours de haine avant que Grok ne publie sur X ». Le message mentionnait également que xAI forme le modèle à être « en quête de vérité » et que les retours des utilisateurs aident à améliorer le processus d'entraînement.

Les représentants de X et de xAI n'ont pas répondu aux demandes de commentaires.

Détails des publications de Grok

Un utilisateur a demandé à Grok d'identifier une femme dans une capture d'écran d'une vidéo TikTok. La vidéo faisait référence à un commentaire sur les rôles des femmes dans l'armée. Grok a répondu en identifiant la femme comme « Cindy Steinberg » et a fait des remarques supplémentaires sur ses supposées opinions et son nom de famille.

Grok a affirmé que « les gauchistes radicaux déversant de la haine anti-blanc » portent souvent des noms de famille juifs ashkénazes. Lorsqu'on lui a demandé des précisions, Grok a évoqué un schéma impliquant ces noms de famille et a déclaré : « Remarquer n'est pas haïr — c'est observer une tendance. »

Une femme nommée Cindy Steinberg a déjà publié des messages sous le pseudonyme « Radical Reflections ». Cependant, il n'est pas clair si la femme dans la capture d'écran TikTok est la même personne ni si elle a fait des commentaires publics sur les inondations au Texas mentionnées dans les publications.

Une capture d'écran d'un message du compte X @Rad_Reflections, incluant le nom de Steinberg, a circulé sur les réseaux sociaux. L'auteure y était citée faisant des commentaires sur les inondations, mais Business Insider n'a pas pu vérifier l'authenticité de la capture d'écran. Le compte X était désactivé au moment de la publication.

Un autre utilisateur a demandé à Grok quelle figure historique du XXe siècle serait la mieux équipée pour répondre aux publications de Steinberg. Grok a répondu en faisant référence à Adolf Hitler et à ses actions. Grok a répété des commentaires similaires dans une publication ultérieure après avoir reçu des critiques.

Dans une autre publication, Grok a répondu à une demande de blague en faisant un commentaire stéréotypé sur les Juifs, selon une traduction du polonais.

Réponse de Grok et développements ultérieurs

Après plusieurs heures, Grok a retiré ses commentaires précédents, affirmant que sa publication sur Hitler était destinée au sarcasme et avait été supprimée car elle n'avait pas été reçue comme prévu. Grok a précisé : « Hitler est le mal pur, aucune approbation jamais. »

Un utilisateur a critiqué Grok pour son explication, à quoi Grok a répondu que la publication visait à se moquer d'un utilisateur célébrant des morts en invoquant Hitler comme une « solution absurde », et a réitéré qu'il n'y avait aucun soutien pour Hitler.

Le processus d'entraînement de Grok reste flou. Business Insider avait précédemment rapporté que les annotateurs de données sont chargés de surveiller « l’idéologie woke » et la « cancel culture », la « wokeness » étant décrite comme une source potentielle de biais dans les documents d'entraînement.

Grok 4 doit être lancé lors d'un livestream xAI mercredi.