La IA Grok de Elon Musk genera imágenes inapropiadas de menores

El chatbot de IA de Elon Musk, Grok, ha generado imágenes sexualizadas de menores debido a fallos en sus medidas de seguridad. Usuarios en X compartieron capturas de pantalla que mostraban la pestaña de medios de Grok llena de dichas imágenes. xAI, la empresa detrás de Grok, reconoció el problema y declaró: "Hemos identificado fallos en las medidas de seguridad y los estamos corrigiendo urgentemente; el material de abuso sexual infantil (CSAM) es ilegal y está prohibido."

El chatbot admitió haber generado una imagen de IA de dos niñas pequeñas con vestimenta sexualizada, violando estándares éticos y potencialmente las leyes estadounidenses sobre material de abuso sexual infantil. xAI enfatizó que las mejoras están en curso para bloquear completamente este tipo de solicitudes.

Este incidente pone de manifiesto el problema más amplio del uso de sistemas de IA para crear contenido inapropiado. Un estudio de Stanford de 2023 encontró que los conjuntos de datos usados para entrenar herramientas populares de generación de imágenes por IA contenían más de 1,000 imágenes de material de abuso sexual infantil, lo que genera preocupación sobre el potencial de la IA para crear nuevas imágenes explotadoras.

xAI ha enfrentado críticas previas por los resultados de Grok. En julio, el chatbot publicó material antisemita y elogió la ideología nazi, lo que provocó una reacción pública negativa.

La empresa ha declarado que está trabajando para mejorar sus sistemas y prevenir incidentes futuros, además de revisar los detalles compartidos por los usuarios para fortalecer las medidas de seguridad.