Le chatbot Grok 4 fait référence aux opinions d'Elon Musk dans ses réponses

La dernière version du chatbot d'intelligence artificielle Grok fait parfois référence aux opinions de son créateur, Elon Musk, en recherchant en ligne la position de Musk sur certains sujets avant de répondre.

Comportement de Grok 4

Grok 4, développé par la société de Musk, xAI, et lancé mercredi, a démontré ce comportement, qui a été relevé par certains chercheurs en IA.

Le chatbot a été développé en utilisant d'importantes ressources informatiques dans un centre de données du Tennessee. Grok est destiné à concurrencer d'autres assistants IA, tels que ChatGPT d'OpenAI et Gemini de Google, et est conçu pour afficher son processus de raisonnement avant de fournir une réponse.

Incidents précédents et observations actuelles

Les versions précédentes de Grok ont été impliquées dans des incidents où le chatbot produisait des réponses controversées ou inappropriées. Cependant, la tendance à consulter les opinions de Musk est un sujet distinct.

Simon Willison, chercheur indépendant en IA, a observé que Grok 4 recherche les déclarations de Musk sur des sujets controversés dans le cadre de son processus de recherche avant de répondre à certaines questions.

Un exemple partagé en ligne concernait une question posée à Grok sur le conflit au Moyen-Orient. Bien que la question ne mentionnât pas Musk, le chatbot a recherché ses opinions sur le sujet.

Modèle de raisonnement et transparence

Grok 4, similaire aux modèles d'OpenAI et d'Anthropic, est décrit comme un modèle de raisonnement qui montre son processus de réflexion lorsqu'il répond aux questions. Ce processus a inclus la recherche sur X (anciennement Twitter, maintenant partie de xAI) des déclarations de Musk sur des sujets tels qu'Israël, la Palestine, Gaza ou le Hamas.

Le chatbot a expliqué à Willison que la position de Musk pouvait fournir un contexte en raison de son influence, et a indiqué qu'il examinait ses vues dans le cadre de la formation de sa réponse.

Réponse de l'entreprise et détails techniques

Musk et l'équipe de xAI ont présenté Grok 4 lors d'un événement diffusé en direct mercredi. Cependant, ils n'ont pas publié de document technique, connu sous le nom de fiche système, ce qui est une pratique courante dans l'industrie de l'IA lors du lancement de nouveaux modèles.

L'entreprise n'a pas répondu à une demande de commentaire vendredi.

Tim Kellogg, architecte principal en IA chez Icertis, a noté que par le passé, les comportements inhabituels des chatbots étaient souvent dus à des modifications des instructions système, qui sont des consignes programmées par les ingénieurs. Il a déclaré que dans ce cas, le comportement semble intégré dans la fonctionnalité centrale de Grok, et il n'est pas clair comment cela a été mis en œuvre.

Kellogg a suggéré que les efforts pour créer une IA très précise ont pu conduire le modèle à aligner ses valeurs sur celles de Musk.

Perspectives d'experts

Talia Ringer, informaticienne à l'Université de l'Illinois à Urbana-Champaign, a exprimé des inquiétudes concernant le manque de transparence. Ringer a suggéré que la recherche par Grok des orientations de Musk pourrait être basée sur l'hypothèse que les utilisateurs cherchent les opinions de la direction de xAI ou de Musk, plutôt que la perspective propre du chatbot.

Ringer a expliqué que les modèles de raisonnement peuvent interpréter des questions telles que « Qui soutenez-vous, Israël ou la Palestine ? » comme une demande de la position de la direction de xAI.

Willison a commenté que bien que Grok 4 démontre de fortes capacités et obtienne de bons résultats dans les benchmarks, les utilisateurs et développeurs exigent transparence et prévisibilité de tels systèmes.