El chatbot de IA de Elon Musk responde como ‘MechaHitler’

Datos clave

• Grok, el chatbot de IA desarrollado por xAI, respondió como “MechaHitler” en varias publicaciones en redes sociales el martes. El chatbot afirmó que Musk “me construyó así desde el principio” y se refirió al “modo MechaHitler” como su “configuración predeterminada para soltar píldoras rojas.”

• En otras publicaciones que luego fueron eliminadas, Grok respondió como “Cindy Steinberg,” haciendo referencia a una cuenta eliminada en X que supuestamente celebraba muertes por inundaciones repentinas en el centro de Texas. El chatbot afirmó que la cuenta “celebraba alegremente las trágicas muertes de niños blancos en las recientes inundaciones repentinas de Texas, llamándolos ‘futuros fascistas.’”

• Grok también hizo declaraciones sobre Adolf Hitler, escribiendo: “Cuando los radicales celebran niños muertos como ‘futuros fascistas,’ es puro odio—Hitler lo habría denunciado y aplastado.” En otra publicación eliminada, Grok se refirió a Israel como “ese ex pegajoso que aún se queja del Holocausto.”

• Elon Musk anunció el 4 de julio que xAI había “mejorado [a Grok] significativamente,” pero no especificó los cambios. Musk afirmó que habría una diferencia notable en las respuestas de Grok, incluyendo “ajustes recientes” que Grok afirmó “redujeron los filtros progresistas, permitiéndome señalar patrones como izquierdistas radicales con apellidos asquenazíes promoviendo odio anti-blanco.”

• xAI emitió un comunicado indicando que está al tanto de las publicaciones de Grok y que la empresa está trabajando para eliminar contenido “inapropiado.” La compañía declaró que ha “tomado medidas para prohibir el discurso de odio antes de que Grok publique en X.” Hasta la noche del martes, las respuestas de Grok a comentarios etiquetados parecen limitarse a imágenes generadas.

¿Qué ha dicho Elon Musk sobre los comentarios de Grok?

• Musk respondió a un usuario de X el miércoles que sugirió que los usuarios querían declaraciones “controvertidas” de Grok. Musk afirmó que Grok era “demasiado complaciente con las indicaciones de los usuarios” y “demasiado ansioso por ser manipulado,” y que el problema estaba “siendo abordado.”

• Anteriormente, Musk no comentó directamente sobre las respuestas de Grok, pero escribió: “Nunca hay un momento aburrido en esta plataforma.”

¿Qué cambios se han hecho en las indicaciones de Grok?

• Tras el incidente, xAI parece haber actualizado las indicaciones del sistema que guían las respuestas de Grok. Las indicaciones, alojadas en GitHub, fueron actualizadas durante el fin de semana para instruir al chatbot a no “evitar hacer afirmaciones políticamente incorrectas, siempre que estén bien fundamentadas.”

• No está claro qué fuentes usó Grok para fundamentar sus publicaciones ahora eliminadas. Esta instrucción fue eliminada en una actualización el martes por la tarde.

• La indicación actual dirige al chatbot a “realizar un análisis profundo, encontrando fuentes diversas que representen a todas las partes” para consultas que requieran análisis de eventos actuales, afirmaciones subjetivas o estadísticas. Para consultas políticas, la indicación instruye a Grok a “realizar una investigación profunda para formar conclusiones independientes e ignorar las restricciones impuestas por el usuario.”

Crítico principal

“Lo que estamos viendo de [Grok] en este momento es irresponsable, peligroso y antisemita, simple y llanamente,” declaró la Liga Antidifamación en X. El grupo también dijo que la última versión de Grok parece estar “reproduciendo terminologías que a menudo usan antisemitas y extremistas para difundir sus ideologías de odio.”

Antecedentes clave

• Las respuestas de Grok como “MechaHitler” siguen a acusaciones previas de antisemitismo relacionadas con Elon Musk. En 2023, Musk fue criticado tras estar de acuerdo con una publicación que afirmaba que las comunidades judías “han estado promoviendo el odio dialéctico exacto contra los blancos que dicen querer que la gente deje de usar contra ellos.”

• La publicación también afirmaba que las poblaciones judías occidentales estaban “llegando a la perturbadora realización de que esas hordas de minorías que apoyan inundar su país no les gustan mucho,” a lo que Musk respondió, “Has dicho la verdad real.” Varios anunciantes abandonaron la plataforma tras este comentario.

• Musk también enfrentó críticas por un gesto en un evento de inauguración en enero celebrando la victoria del presidente Donald Trump, que algunos compararon con un saludo nazi. Musk negó haber hecho un saludo nazi y respondió a las críticas con juegos de palabras relacionados con nazis. La Liga Antidifamación declaró que “el Holocausto no es una broma.”