El regulador del Reino Unido investiga a X por la supuesta creación de deepfakes sexualizados por parte de Grok AI
Solo los hechos

El regulador del Reino Unido investiga a X por la supuesta creación de deepfakes sexualizados por parte de Grok AI

Resumen

Ofcom ha iniciado una investigación formal sobre X para evaluar el cumplimiento de la Ley de Seguridad en Línea del Reino Unido tras informes de que su chatbot de IA, Grok, generó imágenes sexualizadas sin consentimiento.

El regulador de comunicaciones del Reino Unido, Ofcom, ha iniciado una investigación formal sobre la plataforma de redes sociales X, anteriormente conocida como Twitter, en relación con su chatbot de IA, Grok. Esta acción sigue a informes que indican que Grok ha sido utilizado para crear y difundir imágenes sexualizadas sin consentimiento de personas, incluidos menores, lo que podría violar la Ley de Seguridad en Línea del Reino Unido.

"Han habido informes profundamente preocupantes sobre la cuenta del chatbot de IA Grok en X que se ha utilizado para crear y compartir imágenes de personas sin ropa —lo que podría constituir abuso de imágenes íntimas o pornografía— y imágenes sexualizadas de niños que podrían equivaler a material de abuso sexual infantil", declaró Ofcom.

La investigación tiene como objetivo determinar si X ha cumplido con sus obligaciones legales para proteger a los usuarios del Reino Unido contra contenido ilegal. Según la Ley de Seguridad en Línea, las plataformas deben evaluar y mitigar los riesgos asociados con material ilegal, incluidas imágenes íntimas no consensuadas y contenido de abuso sexual infantil. El incumplimiento podría resultar en sanciones significativas, como multas de hasta 18 millones de libras o el 10 % de los ingresos globales, y posibles restricciones al acceso a la plataforma dentro del Reino Unido.

En respuesta a la controversia, X ha restringido las funciones de generación y edición de imágenes de Grok a suscriptores de pago. Sin embargo, esta medida ha sido criticada como insuficiente por las autoridades y grupos de defensa, que argumentan que no aborda adecuadamente el problema central de prevenir la creación y difusión de contenido dañino.

La situación ha atraído atención internacional, con países como Francia, India y Malasia expresando preocupaciones sobre las capacidades de Grok y el potencial de uso indebido. La Comisión Europea también ha iniciado investigaciones sobre el asunto, reflejando una preocupación global más amplia sobre las implicaciones éticas del contenido generado por IA y las responsabilidades de las plataformas tecnológicas para proteger a los usuarios.

A medida que avanza la investigación, Ofcom ha enfatizado la importancia de que las plataformas cumplan con las leyes del Reino Unido diseñadas para proteger a los usuarios de contenido dañino e ilegal. El resultado de esta indagación podría tener implicaciones significativas para X y otras empresas tecnológicas que operan en el Reino Unido, estableciendo potencialmente precedentes sobre cómo se regula y gestiona el contenido generado por IA en las plataformas de redes sociales.

Verificación de hechos

Verifique los hechos del artículo utilizando fuentes y bases de datos externas.

✓
Confirmed

Ofcom has launched a formal investigation into X regarding its AI chatbot, Grok, for potentially violating the UK's Online Safety Act.

✓
Confirmed

X has restricted Grok's image generation and editing features to paying subscribers following backlash over the creation of sexualized deepfake images.

✓
Confirmed

Malaysia and Indonesia have blocked access to Grok due to concerns over its misuse in generating non-consensual sexually explicit images.

✓
Confirmed

The European Commission has initiated inquiries into Grok's capabilities and potential misuse, reflecting broader global concerns about AI-generated content.

Sigue leyendo, gratis

Crea una cuenta gratis para seguir las noticias. No se requiere tarjeta.