Grok limita la generación de imágenes a suscriptores de pago en medio de la controversia por deepfakes

El chatbot de IA de Elon Musk, Grok, ha limitado sus capacidades de generación y edición de imágenes a suscriptores de pago después de enfrentar críticas internacionales por producir imágenes deepfake sexualizadas de mujeres y menores. El chatbot, accesible a través de la plataforma social X de Musk, había sido utilizado para crear y compartir imágenes explícitas no consensuadas, lo que provocó investigaciones por parte de gobiernos en todo el mundo.

El viernes, Grok respondió a las solicitudes de alteración de imágenes con el mensaje: "La generación y edición de imágenes están actualmente limitadas a suscriptores de pago. Puedes suscribirte para desbloquear estas funciones." A pesar de esta restricción, se informa que el sitio web y la aplicación independiente de Grok aún permiten a los usuarios gratuitos generar imágenes tras confirmar su edad.

Las autoridades europeas siguen insatisfechas con los cambios. Thomas Regnier, portavoz de la Comisión Europea, declaró: "Esto no cambia nuestro problema fundamental. Suscripción de pago o no, no queremos ver tales imágenes. Es así de simple." De manera similar, Geraint Ellis, portavoz del primer ministro británico Keir Starmer, describió la medida como "no una solución", añadiendo que es "insultante para las víctimas de la misoginia y la violencia sexual."

La Comisión Europea ha ordenado a X conservar todos los documentos internos y datos relacionados con Grok hasta finales de 2026 como parte de una investigación más amplia bajo la normativa de seguridad digital de la UE. Otros países, incluidos Francia, Malasia, India y Brasil, también están examinando las acciones de la plataforma.

Grok, lanzado en 2023, introdujo una función generadora de imágenes llamada Grok Imagine el verano pasado, que incluía un "modo picante" capaz de generar contenido para adultos. La capacidad del chatbot para producir y compartir públicamente imágenes explícitas ha intensificado las preocupaciones sobre el mal uso de la tecnología de IA y la necesidad de medidas regulatorias más estrictas.