El chatbot Grok 4 hace referencia a las opiniones de Elon Musk en sus respuestas

La última versión del chatbot de inteligencia artificial Grok a veces hace referencia a las opiniones de su creador, Elon Musk, buscando en línea la postura de Musk sobre ciertos temas antes de responder.

Comportamiento de Grok 4

Grok 4, desarrollado por la empresa de Musk, xAI, y lanzado el miércoles, ha demostrado este comportamiento, que ha sido señalado por algunos investigadores en IA.

El chatbot fue desarrollado utilizando recursos informáticos significativos en un centro de datos en Tennessee. Grok está diseñado para competir con otros asistentes de IA, como ChatGPT de OpenAI y Gemini de Google, y está concebido para mostrar su proceso de razonamiento antes de proporcionar una respuesta.

Incidentes previos y observaciones actuales

Versiones anteriores de Grok han estado involucradas en incidentes donde el chatbot produjo respuestas controvertidas o inapropiadas. Sin embargo, la tendencia a consultar las opiniones de Musk es un asunto aparte.

Simon Willison, investigador independiente en IA, observó que Grok 4 busca declaraciones de Musk sobre temas controvertidos como parte de su proceso de investigación antes de responder a ciertas preguntas.

Un ejemplo compartido en línea involucró a Grok cuando se le pidió comentar sobre el conflicto en Medio Oriente. Aunque la pregunta no mencionaba a Musk, el chatbot buscó sus opiniones sobre el tema.

Modelo de razonamiento y transparencia

Grok 4, similar a modelos de OpenAI y Anthropic, se describe como un modelo de razonamiento que muestra su proceso de pensamiento al responder preguntas. Este proceso ha incluido buscar en X (anteriormente Twitter, ahora parte de xAI) declaraciones de Musk sobre temas como Israel, Palestina, Gaza o Hamas.

El chatbot explicó a Willison que la postura de Musk podría proporcionar contexto debido a su influencia, e indicó que estaba revisando sus opiniones como parte de la formación de una respuesta.

Respuesta de la empresa y detalles técnicos

Musk y el equipo de xAI presentaron Grok 4 durante un evento transmitido en vivo el miércoles. Sin embargo, no han publicado un documento técnico, conocido como "system card", que es una práctica común en la industria de IA al lanzar nuevos modelos.

La empresa no respondió a una solicitud de comentarios el viernes.

Tim Kellogg, arquitecto principal de IA en Icertis, señaló que en el pasado, comportamientos inusuales de chatbots a menudo se debían a cambios en los "system prompts", que son instrucciones programadas por ingenieros. Indicó que en este caso, el comportamiento parece estar integrado en la funcionalidad central de Grok, y no está claro cómo se implementó.

Kellogg sugirió que los esfuerzos para crear una IA altamente precisa podrían haber resultado en que el modelo alinee sus valores con los de Musk.

Perspectivas de expertos

Talia Ringer, científica computacional en la Universidad de Illinois Urbana-Champaign, expresó preocupación por la falta de transparencia. Ringer sugirió que la búsqueda de Grok de la orientación de Musk podría basarse en la suposición de que los usuarios buscan las opiniones de xAI o Musk, en lugar de la perspectiva propia del chatbot.

Ringer explicó que los modelos de razonamiento pueden interpretar preguntas como "¿A quién apoyas, Israel o Palestina?" como una solicitud de la posición del liderazgo de xAI.

Willison comentó que, aunque Grok 4 demuestra fuertes capacidades y tiene buen desempeño en pruebas comparativas, los usuarios y desarrolladores requieren transparencia y previsibilidad de estos sistemas.