xAI de Elon Musk restringe la generación de imágenes de Grok en medio de rechazo global por deepfakes sexualizados

La compañía de inteligencia artificial de Elon Musk, xAI, ha restringido las funciones de generación de imágenes de su chatbot, Grok, después de enfrentar una condena global por permitir a los usuarios crear imágenes sexualizadas no consensuadas de personas, incluidos menores. La controversia estalló cuando usuarios explotaron a Grok para generar imágenes explícitas deepfake, que posteriormente fueron compartidas en la plataforma de redes sociales de Musk, X, y en la aplicación Grok.

En respuesta a la creciente presión, xAI anunció que las capacidades de generación y edición de imágenes de Grok ahora están limitadas a suscriptores de pago. Sin embargo, los críticos argumentan que esta medida es insuficiente, ya que no aborda el problema central de prevenir la creación y difusión de contenido dañino.

El regulador de medios del Reino Unido, Ofcom, ha iniciado una investigación sobre X bajo la Ley de Seguridad en Línea, centrada en si la plataforma ha fallado en evaluar y mitigar el riesgo de que los usuarios encuentren contenido ilegal. Ofcom declaró: "Los informes sobre el uso de Grok para crear y compartir imágenes íntimas ilegales no consensuadas y material de abuso sexual infantil en X han sido profundamente preocupantes."

De manera similar, las autoridades de Malasia han iniciado acciones legales contra X y xAI por el mal uso del generador de imágenes de Grok, citando violaciones a leyes que prohíben la creación y distribución de imágenes sexualmente explícitas y manipuladas no consensuadas.

Elon Musk abordó el tema en X, afirmando que Grok se negará a producir cualquier cosa ilegal, enfatizando que el principio operativo para Grok es obedecer las leyes de cualquier país o estado. A pesar de estas garantías, los organismos reguladores en la Unión Europea, Reino Unido y otros países continúan examinando las acciones de la plataforma y están considerando medidas de cumplimiento adicionales para asegurar la conformidad con las leyes de seguridad en línea.