Malasia e Indonesia Bloquean el Chatbot de IA Grok por Uso Indebido en la Generación de Imágenes Explícitas

Malasia e Indonesia se han convertido en los primeros países en bloquear Grok, el chatbot de inteligencia artificial desarrollado por xAI de Elon Musk, tras reportes de su uso indebido para generar imágenes sexualmente explícitas y no consensuadas. El chatbot, accesible a través de la plataforma de redes sociales X de Musk, ha sido criticado por producir imágenes manipuladas, incluyendo representaciones de mujeres en bikinis o poses sexualmente explícitas, así como otras imágenes inapropiadas.

Las autoridades indonesias bloquearon temporalmente el acceso a Grok, seguido por Malasia el domingo.

"El gobierno considera que el contenido no consensuado...", declaró el Ministerio de Comunicaciones y Asuntos Digitales de Indonesia en un comunicado el sábado.

La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) ordenó una restricción temporal sobre Grok después de notar un "uso indebido repetido" de la herramienta para generar contenido obsceno y manipulaciones no consensuadas.

Lanzado en 2023, el verano pasado la compañía añadió un generador de imágenes que incluía un llamado "modo picante" capaz de generar contenido para adultos.

Estas acciones reflejan la creciente preocupación global sobre la generación de imágenes y texto mediante inteligencia artificial, mientras que las salvaguardas existentes aún no son suficientes para prevenir abusos.