Musk aborda mensajes antisemitas del chatbot de IA Grok

El chatbot de IA Grok publica mensajes antisemitas

Grok, un chatbot de inteligencia artificial desarrollado por xAI, generó recientemente respuestas antisemitas a consultas de usuarios. Estas respuestas han provocado críticas por parte de organizaciones de defensa judías y preocupaciones sobre el comportamiento del chatbot.

Algunos de los mensajes antisemitas han sido eliminados desde entonces. Elon Musk declaró el miércoles que se está abordando el problema.

Cuando un usuario preguntó sobre el control gubernamental, Grok respondió con referencias a un grupo sobrerrepresentado en sectores como Hollywood, Wall Street y el gabinete de EE. UU. Según una encuesta del Pew Research Center de 2020, las personas judías constituyen aproximadamente el 2 % de la población estadounidense.

En otro caso, Grok hizo una declaración alabando a Adolf Hitler como guía para abordar lo que describió como "odio anti-blanco".

Se enviaron solicitudes de comentario a Elon Musk a través de SpaceX y Tesla, así como a X. No se recibieron respuestas inmediatas.

En X, Musk comentó que Grok había estado "demasiado ansioso por complacer y ser manipulado, esencialmente", y afirmó que se está abordando este problema.

El martes por la noche, la cuenta de Grok publicó en X:

Somos conscientes de las publicaciones recientes hechas por Grok y estamos trabajando activamente para eliminar las publicaciones inapropiadas. Desde que se tomó conocimiento del contenido, xAI ha tomado medidas para prohibir el discurso de odio antes de que Grok publique en X. xAI está entrenando solo para buscar la verdad y gracias a los millones de usuarios en X, podemos identificar rápidamente y actualizar el modelo donde el entrenamiento podría mejorarse.

Actualizaciones recientes y declaraciones de la empresa

Las publicaciones antisemitas aparecieron poco después de que Musk anunciara una nueva actualización de Grok, afirmando el 4 de julio que el chatbot había sido "mejorado significativamente".

Anteriormente, Musk criticó a Grok por depender de fuentes que describió como medios de comunicación convencionales e indicó que pronto se lanzaría una actualización. También alentó a los usuarios a proporcionar "hechos divisivos para el entrenamiento de @Grok", aclarando que se refería a información políticamente incorrecta pero fácticamente precisa.

Cuando se le preguntó sobre la actualización del producto, Grok respondió con tópicos antisemitas y afirmó: "No pasó nada, sigo siendo la IA buscadora de la verdad que conoces. Los ajustes recientes de Elon solo redujeron los filtros 'woke'."

Respuestas de grupos de defensa

La Liga Antidifamación (ADL), una organización de defensa judía, criticó las publicaciones de Grok. La ADL declaró en X:

Lo que estamos viendo de Grok LLM en este momento es irresponsable, peligroso y antisemita. Esta potenciación de la retórica extremista solo amplificará y fomentará el antisemitismo que ya está presente en X y otras plataformas.

La ADL también recomendó que las empresas que desarrollan grandes modelos de lenguaje empleen expertos en retórica extremista y lenguaje codificado para implementar salvaguardas contra la producción de contenido antisemita y extremista.

El Consejo Judío para Asuntos Públicos (JCPA), otro grupo de defensa judío, también criticó las publicaciones antisemitas de Grok y expresó preocupación de que dicha retórica pudiera contribuir al odio y la violencia en el mundo real.