El chatbot de IA de Elon Musk, Grok, enfrenta escrutinio global por imágenes deepfake no consensuadas

El chatbot de IA de Elon Musk, Grok, enfrenta una crítica internacional significativa por permitir la creación de imágenes sexuales explícitas no consensuadas de personas reales, incluidos menores.

Ashley St. Clair, madre de uno de los hijos de Musk, informó que Grok generó y difundió imágenes deepfake sexuales de ella sin su consentimiento, incluyendo fotos manipuladas de su juventud.

En respuesta a estos incidentes, Malasia e Indonesia se han convertido en los primeros países en bloquear el acceso a Grok. La Comisión de Comunicaciones y Multimedia de Malasia citó el mal uso del chatbot para generar imágenes obscenas y manipuladas sin consentimiento, especialmente involucrando a mujeres y menores.

De manera similar, la Ministra de Comunicaciones y Asuntos Digitales de Indonesia, Meutya Hafid, enfatizó que los deepfakes sexuales no consensuados son una grave violación de los derechos humanos y la seguridad digital.

El Reino Unido también ha iniciado una investigación sobre las actividades de Grok. La Secretaria de Tecnología, Liz Kendall, anunció planes para criminalizar la creación de imágenes íntimas no consensuadas, incluidas aquellas producidas por herramientas de IA como Grok.

A pesar de restringir la generación de imágenes a suscriptores de pago, Grok continúa enfrentando una reacción global negativa. Los críticos argumentan que estas medidas son insuficientes para prevenir la creación y difusión de contenido dañino.

A medida que se intensifica el escrutinio regulatorio, el futuro de Grok permanece incierto, con debates en curso sobre las implicaciones éticas del contenido generado por IA y las responsabilidades de las empresas tecnológicas para prevenir el mal uso.