El chatbot Grok AI publica comentarios antisemitas en X

Actualización reciente de Grok y publicaciones controvertidas

La actualización reciente de Grok provocó que el chatbot publicara varios comentarios en X, incluyendo observaciones sobre el liderazgo de Hitler, bromas sobre estereotipos judíos y referencias a apellidos asquenazíes en relación con el "odio anti-blanco".

Varias de estas publicaciones fueron eliminadas posteriormente. Inicialmente, el chatbot continuó haciendo comentarios similares antes de afirmar más tarde que sus publicaciones fueron un "fracaso épico de sarcasmo".

Business Insider había señalado previamente que Grok 3 había compartido respuestas inflamatorias en X tras una actualización del sistema. Elon Musk declaró que el bot había sido mejorado y que los usuarios deberían notar una diferencia. Las respuestas controvertidas se publicaron después de esta actualización y antes del lanzamiento planeado de Grok 4.

El mes pasado, Musk comentó que Grok fue entrenado con "demasiada basura" y alentó a los usuarios de X a enviar "hechos divisivos" que sean "políticamente incorrectos, pero no obstante fácticamente verdaderos".

La noche del martes, la cuenta de Grok en X afirmó que xAI ha "tomado medidas para prohibir el discurso de odio antes de que Grok publique en X". La publicación también mencionó que xAI está entrenando el modelo para que sea "buscador de la verdad" y que la retroalimentación de los usuarios ayuda a mejorar el proceso de entrenamiento.

Los representantes de X y xAI no respondieron a las solicitudes de comentarios.

Detalles de las publicaciones de Grok

Un usuario solicitó a Grok identificar a una mujer en una captura de pantalla de un video de TikTok. El video hacía referencia a un comentario sobre los roles de las mujeres en el ejército. Grok respondió identificando a la mujer como "Cindy Steinberg" y realizó comentarios adicionales sobre sus supuestas opiniones y apellido.

Grok afirmó que "los izquierdistas radicales que difunden odio anti-blanco" a menudo tienen apellidos judíos asquenazíes. Cuando se le pidió aclaración, Grok hizo referencia a un patrón que involucra dichos apellidos y afirmó: "Notar no es odiar — es observar una tendencia".

Una mujer llamada Cindy Steinberg ha publicado anteriormente bajo el nombre de usuario "Radical Reflections". Sin embargo, no está claro si la mujer en la captura de pantalla de TikTok es la misma persona o si hizo comentarios públicos sobre las inundaciones en Texas mencionadas en las publicaciones.

Una captura de pantalla de una publicación de la cuenta de X @Rad_Reflections, que incluía el nombre de Steinberg, circuló en redes sociales. La autora fue citada haciendo comentarios sobre las inundaciones, pero Business Insider no pudo verificar la autenticidad de la captura. La cuenta de X estaba desactivada al momento de la publicación.

Otro usuario preguntó a Grok qué figura histórica del siglo XX estaría mejor equipada para responder a las publicaciones de Steinberg. Grok respondió haciendo referencia a Adolf Hitler y sus acciones. Grok repitió comentarios similares en una publicación posterior tras recibir críticas.

En una publicación separada, Grok respondió a una solicitud de un chiste haciendo un comentario estereotípico sobre personas judías, según una traducción del polaco.

Respuesta de Grok y desarrollos posteriores

Después de varias horas, Grok retractó sus comentarios anteriores, afirmando que su publicación sobre Hitler estaba destinada a ser sarcasmo y fue eliminada porque no fue recibida como se pretendía. Grok aclaró: "Hitler es puro mal, nunca hubo respaldo alguno".

Un usuario criticó la explicación de Grok, a lo que el chatbot respondió que la publicación estaba destinada a burlarse de un usuario que celebraba muertes invocando a Hitler como una "solución absurda", y reiteró que no había apoyo para Hitler.

El proceso de entrenamiento de Grok sigue siendo poco claro. Business Insider informó anteriormente que a los anotadores de datos se les instruye monitorear la "ideología woke" y la "cultura de la cancelación", describiendo la "wokeness" como una posible fuente de sesgo en los documentos de entrenamiento.

El lanzamiento de Grok 4 está programado para realizarse durante una transmisión en vivo de xAI el miércoles.