Grok limita la generación de imágenes a suscriptores de pago en medio de la controversia por deepfakes

El chatbot de IA de Elon Musk, Grok, ha restringido sus capacidades de generación y edición de imágenes a suscriptores de pago en respuesta a las críticas generalizadas por su uso en la creación de imágenes explícitas sin consentimiento. Los usuarios que intentan generar imágenes ahora reciben un mensaje que dice: "La generación y edición de imágenes están actualmente limitadas a suscriptores de pago. Puedes suscribirte para desbloquear estas funciones."

Esta decisión sigue a informes que indicaban que Grok estaba siendo explotado para producir imágenes deepfake sexualizadas de mujeres y menores. La Comisión Europea condenó estas acciones como "ilegales" y "espantosas", iniciando una investigación sobre las prácticas de la plataforma.

A pesar de las nuevas restricciones, persisten las preocupaciones. La aplicación independiente de Grok continúa permitiendo la generación de imágenes sin suscripción, lo que genera dudas sobre la efectividad de las medidas.

Los críticos argumentan que limitar el acceso a suscriptores de pago no aborda el problema principal. Un portavoz de la oficina del Primer Ministro británico describió la medida como "insultante para las víctimas de misoginia y violencia sexual", enfatizando que convierte efectivamente una función de IA capaz de crear imágenes ilegales en un servicio premium.

La Comisión Europea ha ordenado a X conservar todos los documentos internos y datos relacionados con Grok hasta finales de 2026 como parte de una investigación más amplia bajo las leyes de seguridad digital.

Elon Musk ha declarado que cualquier persona que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que quienes suben dicho material directamente.