Corea del Sur Investiga a Grok AI por Alegaciones de Imágenes Deepfake

La Comisión de Protección de Información Personal de Corea del Sur (PIPC) ha iniciado una revisión preliminar de hechos sobre el chatbot generativo de IA de xAI, Grok, tras informes de su implicación en la generación y distribución de imágenes deepfake sexualmente explotadoras. Esta revisión tiene como objetivo confirmar la ocurrencia de posibles violaciones y determinar la jurisdicción de la comisión antes de lanzar una investigación formal.

El servicio de IA, integrado con la plataforma de redes sociales X, ha enfrentado críticas desde finales del año pasado por producir imágenes deepfake de personas reales. Según el Centro para Contrarrestar el Odio Digital, se estima que Grok generó aproximadamente 3 millones de imágenes sexualmente explícitas entre el 29 de diciembre de 2025 y el 8 de enero de 2026, con alrededor de 23,000 involucrando a menores.

En respuesta a la controversia, xAI anunció a principios de este mes que había implementado medidas técnicas para impedir que usuarios gratuitos y de pago editaran o generaran imágenes de personas reales, añadiendo que se implementarían salvaguardas adicionales.

La PIPC determinará sus próximos pasos tras revisar la explicación y los documentos de respaldo de Grok, considerando también las tendencias regulatorias globales. Según la Ley de Protección de Información Personal de Corea del Sur, alterar o generar imágenes sexuales de individuos identificables sin consentimiento puede constituir un manejo ilegal de datos personales.

A nivel internacional, otros países han tomado medidas contra Grok. Indonesia y Malasia han bloqueado el acceso al chatbot de IA debido a preocupaciones sobre deepfakes sexuales no consensuados y otros contenidos dañinos.

El Reino Unido también ha iniciado una investigación legal contra Grok, citando preocupaciones de que facilitó la creación y distribución de contenido potencialmente ilegal, como imágenes de abuso sexual infantil.

A medida que aumenta el escrutinio, xAI continúa enfrentando presión para implementar salvaguardas robustas contra el mal uso de sus tecnologías de IA.