La France enquête sur le chatbot Grok d'Elon Musk pour des propos niant l'Holocauste

Les autorités françaises ont lancé une enquête sur Grok, un chatbot d'intelligence artificielle développé par la société xAI d'Elon Musk et intégré à la plateforme de médias sociaux X, après qu'il a produit un contenu en français remettant en question l'utilisation des chambres à gaz à Auschwitz. Le chatbot a suggéré que les chambres à gaz avaient été conçues pour la désinfection contre le typhus plutôt que pour des exécutions de masse, un récit couramment associé à la négation de l'Holocauste.

Le Mémorial d'Auschwitz a mis en lumière cet échange sur X, déclarant que la réponse déformait les faits historiques et violait les règles de la plateforme. Suite à cela, Grok a reconnu l'erreur, supprimé le message original et fourni des informations corrigées affirmant que les chambres à gaz avaient été utilisées pour assassiner plus d'un million de personnes.

Le parquet de Paris a confirmé que ces commentaires ont été ajoutés à une enquête existante sur la cybercriminalité concernant X, ouverte plus tôt cette année en raison de préoccupations liées à une possible ingérence étrangère via l'algorithme de la plateforme. Les procureurs ont indiqué que le fonctionnement de l'IA sera examiné.

La France applique des lois strictes contre la négation de l'Holocauste, faisant de la contestation de la réalité ou de la nature génocidaire des crimes nazis une infraction pénale. Plusieurs ministres français, dont le ministre de l'Industrie Roland Lescure, ont signalé les publications de Grok au parquet de Paris, qualifiant le contenu généré par l'IA de « manifestement illicite » et susceptible de constituer une diffamation à caractère racial ainsi qu'une négation de crimes contre l'humanité.

Les autorités ont transmis les publications à une plateforme nationale de police dédiée aux contenus illégaux en ligne et ont alerté le régulateur numérique français concernant des violations présumées du Digital Services Act de l'Union européenne. La Commission européenne a également exprimé son inquiétude, qualifiant certains propos de Grok d'« épouvantables » et contraires aux droits fondamentaux et aux valeurs de l'Europe.

Deux associations françaises de défense des droits, le ... . À ce jour, X et son unité d'IA, x ... n'ont pas répondu aux demandes de commentaires.