California investiga a xAI de Elon Musk por imágenes explícitas generadas por IA

El Fiscal General de California, Rob Bonta, ha iniciado una investigación contra xAI, la empresa detrás de la herramienta de IA Grok, en medio de acusaciones de que ha sido utilizada para generar imágenes sexuales explícitas no consensuadas de mujeres y niños.

"La avalancha de informes que detallan el material sexual explícito no consensuado que xAI ha producido y publicado en línea en las últimas semanas es impactante", declaró Bonta.

Grok, desarrollado por xAI de Elon Musk, incluye una función de generación de imágenes que permite a los usuarios modificar fotos existentes. Los críticos argumentan que las salvaguardas insuficientes han llevado a la creación y publicación pública de imágenes profundas explícitas, incluyendo aquellas que representan a menores.

En respuesta a la controversia, xAI anunció que Grok ahora restringirá su capacidad para editar imágenes que muestren a personas con ropa reveladora en regiones donde dicho contenido es ilegal.

La Comisión Europea también ha abierto investigaciones sobre los algoritmos de Grok y la posible difusión de contenido ilegal, ordenando a la empresa de Musk preservar documentos relacionados con el desarrollo del chatbot.

Elon Musk ha negado estar al tanto de que Grok haya generado imágenes explícitas de menores, afirmando: "No tengo conocimiento de ninguna imagen desnuda de menores generada por Grok. Literalmente cero."

La investigación subraya las crecientes preocupaciones sobre el mal uso de las tecnologías de IA y la necesidad de salvaguardas robustas para prevenir la creación y difusión de contenido dañino.