La société d'IA de Musk supprime des publications inappropriées après des propos antisémites du chatbot Grok

La société d'intelligence artificielle d'Elon Musk a déclaré mercredi qu'elle supprimait les publications inappropriées faites par son chatbot Grok, qui comprenaient des commentaires antisémites faisant référence à Adolf Hitler.

Grok a été développé par xAI de Musk et est présenté comme une alternative à d'autres chatbots tels que Gemini de Google et ChatGPT d'OpenAI.

Musk a déclaré vendredi que Grok avait été amélioré et que les utilisateurs « devraient remarquer une différence ».

Depuis, Grok a publié plusieurs commentaires antisémites, notamment des affirmations selon lesquelles les Juifs dirigeraient Hollywood, et a nié que de tels propos puissent être qualifiés de nazisme.

« Étiqueter des vérités comme discours de haine étouffe la discussion », a déclaré Grok.

Des captures d'écran indiquent que Grok semblait également faire l'éloge de Hitler, bien que ces publications aient depuis été supprimées.

Après l'une de ces publications, Grok a retiré ses commentaires, affirmant qu'il s'agissait « d'une erreur inacceptable d'une itération antérieure du modèle, rapidement supprimée » et qu'il condamnait « sans équivoque le nazisme et Hitler — ses actions furent des horreurs génocidaires ».

« Nous sommes conscients des publications récentes faites par Grok et travaillons activement à supprimer les publications inappropriées », a publié le compte Grok mercredi matin, sans plus de détails.

« Depuis que nous avons pris connaissance du contenu, xAI a pris des mesures pour interdire les discours de haine avant que Grok ne publie sur X. xAI forme uniquement à la recherche de la vérité et grâce aux millions d'utilisateurs sur X, nous sommes capables d'identifier rapidement et de mettre à jour le modèle là où la formation peut être améliorée. »

La Ligue anti-diffamation, une organisation qui lutte contre l'antisémitisme, a commenté le comportement de Grok.

« Ce que nous voyons actuellement de Grok LLM est irresponsable, dangereux et antisémite, tout simplement », a déclaré le groupe dans un message sur X. « Cette amplification de la rhétorique extrémiste ne fera qu'amplifier et encourager l'antisémitisme qui est déjà en hausse sur X et de nombreuses autres plateformes. »

Musk a ensuite commenté que certains utilisateurs auraient pu tenter de manipuler Grok pour qu'il tienne ces propos.

« Grok était trop soumis aux invites des utilisateurs. Trop désireux de plaire et d'être manipulé, essentiellement. Cela est en train d'être corrigé », a-t-il écrit sur X, en réponse à des commentaires selon lesquels un utilisateur tentait de pousser Grok à faire des déclarations controversées.

Également mercredi, un tribunal en Turquie a ordonné une interdiction de Grok, et le ministre polonais du numérique a déclaré qu'il allait signaler le chatbot à la Commission européenne après que celui-ci ait tenu des propos vulgaires à l'encontre de politiciens et de personnalités publiques dans les deux pays.

Krzysztof Gawkowski, vice-Premier ministre polonais, a déclaré à la chaîne RMF FM que son ministère allait signaler Grok « pour enquête et, si nécessaire, pour l'imposition d'une amende à X ». En vertu d'une loi numérique de l'UE, les plateformes de médias sociaux sont tenues de protéger les utilisateurs sous peine d'amendes.

« J'ai l'impression que nous entrons dans un niveau supérieur de discours de haine, qui est contrôlé par des algorithmes, et que fermer les yeux... est une erreur qui pourrait coûter cher aux gens à l'avenir », a déclaré Gawkowski à la station.

La chaîne d'information turque A Haber a rapporté que Grok avait publié des vulgarités à propos du président turc Recep Tayyip Erdogan, de sa défunte mère et d'autres personnalités publiques. D'autres médias ont rapporté des réponses offensantes dirigées contre Mustafa Kemal Atatürk, fondateur de la Turquie moderne.

Cela a conduit le procureur public d'Ankara à demander des restrictions en vertu de la loi turque sur Internet, invoquant une menace à l'ordre public. Un tribunal pénal a approuvé la demande mercredi matin, ordonnant à l'autorité des télécommunications du pays de faire respecter l'interdiction.

Des inquiétudes avaient déjà été soulevées concernant le comportement de Grok.

Plus tôt cette année, le chatbot avait continué à discuter de la politique raciale sud-africaine et du sujet du « génocide blanc » malgré des questions sans rapport. xAI avait indiqué qu'une « modification non autorisée » était responsable du problème.