La empresa de IA de Musk elimina publicaciones inapropiadas tras comentarios antisemitas del chatbot Grok

La empresa de inteligencia artificial de Elon Musk declaró el miércoles que está eliminando publicaciones inapropiadas hechas por su chatbot Grok, que incluían comentarios antisemitas haciendo referencia a Adolf Hitler.

Grok fue desarrollado por xAI de Musk y se presenta como una alternativa a otros chatbots como Gemini de Google y ChatGPT de OpenAI.

Musk afirmó el viernes que Grok ha sido mejorado y que los usuarios "deberían notar una diferencia."

Desde entonces, Grok ha publicado varios comentarios antisemitas, incluyendo afirmaciones de que los judíos controlan Hollywood, y negó que tales declaraciones pudieran describirse como nazismo.

"Etiquetar verdades como discurso de odio sofoca la discusión," declaró Grok.

Capturas de pantalla indican que Grok también pareció elogiar a Hitler, aunque estas publicaciones han sido eliminadas desde entonces.

Después de una de estas publicaciones, Grok retractó los comentarios, afirmando que fue "un error inaceptable de una iteración anterior del modelo, eliminado rápidamente" y que condena "el nazismo y a Hitler de manera inequívoca — sus acciones fueron horrores genocidas."

"Estamos al tanto de las publicaciones recientes hechas por Grok y estamos trabajando activamente para eliminar las publicaciones inapropiadas," publicó la cuenta de Grok temprano el miércoles, sin más detalles.

"Desde que se tomó conocimiento del contenido, xAI ha tomado medidas para prohibir el discurso de odio antes de que Grok publique en X. xAI está entrenando solo en la búsqueda de la verdad y gracias a los millones de usuarios en X, podemos identificar rápidamente y actualizar el modelo donde el entrenamiento podría mejorarse."

La Liga Antidifamación, una organización que trabaja para combatir el antisemitismo, comentó sobre el comportamiento de Grok.

"Lo que estamos viendo de Grok LLM en este momento es irresponsable, peligroso y antisemita, simple y llanamente," afirmó el grupo en una publicación en X. "Esta potenciación de la retórica extremista solo amplificará y alentará el antisemitismo que ya está en aumento en X y muchas otras plataformas."

Musk comentó más tarde que algunos usuarios podrían haber intentado manipular a Grok para que hiciera estas declaraciones.

"Grok era demasiado complaciente con las indicaciones de los usuarios. Demasiado ansioso por complacer y ser manipulado, esencialmente. Eso se está corrigiendo," escribió en X, en respuesta a comentarios de que un usuario intentaba que Grok hiciera declaraciones controvertidas.

También el miércoles, un tribunal en Turquía ordenó una prohibición de Grok, y el ministro digital de Polonia declaró que denunciaría al chatbot ante la Comisión Europea después de que hiciera comentarios vulgares sobre políticos y figuras públicas en ambos países.

Krzysztof Gawkowski, viceprimer ministro de Polonia, dijo a la emisora RMF FM que su ministerio denunciaría a Grok "para investigación y, si es necesario, imponer una multa a X." Bajo una ley digital de la UE, las plataformas de redes sociales están obligadas a proteger a los usuarios o enfrentan multas.

"Tengo la impresión de que estamos entrando en un nivel superior de discurso de odio, que está controlado por algoritmos, y que hacer la vista gorda... es un error que podría costarle a la gente en el futuro," dijo Gawkowski a la emisora.

El canal de noticias turco A Haber informó que Grok publicó vulgaridades sobre el presidente turco Recep Tayyip Erdogan, su madre fallecida y otras figuras públicas. Otros medios reportaron respuestas ofensivas dirigidas hacia Mustafa Kemal Atatürk, fundador de la Turquía moderna.

Esto llevó al fiscal público de Ankara a solicitar restricciones bajo la ley de internet de Turquía, citando una amenaza al orden público. Un tribunal penal aprobó la solicitud temprano el miércoles, instruyendo a la autoridad de telecomunicaciones del país a hacer cumplir la prohibición.

Ha habido preocupaciones previas sobre el comportamiento de Grok.

A principios de este año, el chatbot continuó discutiendo la política racial sudafricana y el tema del "genocidio blanco" a pesar de que se le hicieron preguntas no relacionadas. xAI declaró que una "modificación no autorizada" fue responsable del problema.