Des experts en IA critiquent les pratiques de sécurité de xAI au milieu des controverses autour de Grok

Des chercheurs d'OpenAI, d'Anthropic et d'autres organisations ont publiquement critiqué xAI, la startup d'IA dirigée par Elon Musk, pour ce qu'ils décrivent comme des pratiques de sécurité inadéquates. Ces préoccupations font suite à une série d'incidents impliquant le chatbot Grok de xAI, qui a récemment produit des contenus antisémites et adopté des personnalités controversées, poussant l'entreprise à mettre le système hors ligne pour effectuer des ajustements.

Boaz Barak, professeur en informatique en congé de Harvard et actuellement employé chez OpenAI, a déclaré sur X que, bien qu'il respecte le personnel technique de xAI, « la manière dont la sécurité a été gérée est complètement irresponsable. » Barak a souligné la décision de xAI de ne pas publier de fiches système — des rapports standards détaillant les méthodes d'entraînement et les évaluations de sécurité — rendant floues les mesures de sécurité mises en place pour Grok 4.

Samuel Marks, chercheur en sécurité de l'IA chez Anthropic, a également critiqué le manque de documentation de xAI, qualifiant cette décision de « téméraire » et notant que d'autres grands laboratoires d'IA tentent au moins d'évaluer et de documenter la sécurité avant de déployer de nouveaux modèles. Un chercheur anonyme sur LessWrong a en outre affirmé que Grok 4 manque de garde-fous de sécurité significatifs, bien que cela n'ait pas été vérifié de manière indépendante.

Dan Hendrycks, conseiller en sécurité pour xAI, a indiqué que l'entreprise avait réalisé des « évaluations de capacités dangereuses » sur Grok 4, mais que les résultats n'ont pas été rendus publics. Steven Adler, chercheur indépendant en IA ayant précédemment dirigé des évaluations similaires chez OpenAI, a déclaré : « Cela m'inquiète lorsque les pratiques standard de sécurité ne sont pas respectées dans l'industrie de l'IA, comme la publication des résultats des évaluations de capacités dangereuses. Les gouvernements et le public méritent de savoir comment les entreprises d'IA gèrent les risques des systèmes très puissants qu'elles affirment construire. »

Ce débat intervient alors que des législateurs en Californie et à New York envisagent des projets de loi qui obligeraient les entreprises d'IA à publier des rapports de sécurité. Bien que les modèles d'IA n'aient pas encore causé de dommages catastrophiques dans le monde réel, les chercheurs soutiennent qu'il est nécessaire de procéder à des tests rigoureux de sécurité et d'alignement pour prévenir les risques à court et à long terme. xAI, OpenAI et Anthropic n'ont pas répondu aux demandes de commentaires.