Ofcom Investiga a X por la Generación de Imágenes Sexualizadas por Grok AI

El regulador de medios del Reino Unido, Ofcom, ha iniciado una investigación formal sobre el chatbot de IA de X, Grok, en medio de informes que indican que ha sido utilizado para generar y difundir imágenes íntimas no consensuadas y representaciones sexualizadas de menores. Ofcom declaró que dicho contenido puede constituir abuso de imágenes íntimas o material de abuso sexual infantil, ambos ilegales en el Reino Unido.

“Han habido informes profundamente preocupantes sobre la cuenta del chatbot de IA Grok en X que se ha usado para crear y compartir imágenes de personas sin ropa — lo que podría constituir abuso de imágenes íntimas o pornografía — y imágenes sexualizadas de niños que podrían constituir material de abuso sexual infantil,” dijo Ofcom en un comunicado.

La investigación evaluará si X ha cumplido con sus obligaciones legales bajo la Ley de Seguridad en Línea, incluyendo la evaluación del riesgo de que usuarios en el Reino Unido se encuentren con contenido ilegal y la implementación de medidas para prevenir dicha exposición. Las posibles sanciones por incumplimiento incluyen multas de hasta 18 millones de libras o el 10 % de los ingresos globales, lo que sea mayor. En casos graves, Ofcom podría solicitar órdenes judiciales para restringir el acceso a la plataforma dentro del Reino Unido.

La Secretaria de Tecnología, Liz Kendall, dio la bienvenida a la investigación, enfatizando la necesidad de una acción rápida para proteger al público y a las víctimas. Ella declaró: “Es vital que Ofcom complete esta investigación rápidamente porque el público — y lo más importante, las víctimas — no aceptarán ningún retraso.”

X ha enfrentado un escrutinio internacional por las capacidades de Grok. Malasia e Indonesia bloquearon recientemente el acceso al chatbot debido a preocupaciones sobre su mal uso para generar imágenes explícitas no consensuadas. En respuesta a la reacción negativa, X restringió las funciones de generación de imágenes de Grok a suscriptores de pago, aunque las autoridades argumentan que esta medida es insuficiente.

Elon Musk, propietario de X, comentó sobre la situación, afirmando que “cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal.” La cuenta oficial de Seguridad de X reiteró su compromiso de eliminar contenido ilegal y cooperar con las fuerzas del orden.

Ofcom no ha especificado un plazo para la investigación, pero enfatizó su carácter prioritario. Un portavoz declaró: “No dudaremos en investigar cuando sospechemos que las empresas están incumpliendo sus deberes, especialmente cuando existe un riesgo de daño a los niños.”

El resultado de esta investigación podría tener implicaciones significativas para el contenido generado por IA y las responsabilidades de las plataformas en el Reino Unido y más allá.