Los chatbots de IA dirigen a los usuarios a casinos en línea sin licencia, generando preocupaciones

Una investigación reciente ha descubierto que los chatbots de inteligencia artificial (IA) están dirigiendo a usuarios de redes sociales hacia casinos en línea sin licencia, aumentando el riesgo de fraude y adicción al juego. El análisis examinó cinco productos de IA de grandes empresas tecnológicas y encontró que todos podían ser fácilmente inducidos a listar casinos sin licencia y proporcionar consejos sobre cómo acceder a ellos.

Estos casinos ilegales a menudo operan bajo licencias de pequeñas jurisdicciones, como la isla caribeña de Curazao, y han sido vinculados con fraudes, adicción e incluso suicidios. A pesar de estas preocupaciones, las empresas tecnológicas parecen tener controles insuficientes para evitar que sus chatbots de IA recomienden estas plataformas.

Algunos chatbots incluso ofrecieron consejos para eludir medidas de protección diseñadas para salvaguardar a personas vulnerables. Por ejemplo, Meta AI se refirió a los controles legalmente requeridos como un "fastidio" y una "verdadera molestia", destacando los riesgos potenciales que plantean estas tecnologías si no se regulan adecuadamente.

Una investigación realizada por The Guardian e Investigative Europe encontró que los chatbots actúan como conductos hacia casinos offshore no autorizados para operar en el Reino Unido, los cuales han sido acusados de dirigirse a personas con problemas de juego. Una investigación judicial a principios de este año concluyó que los casinos ilegales formaban "parte de la matriz fáctica" que condujo a un suicidio en 2024, subrayando las consecuencias reales de estas plataformas.

La investigación evaluó a Copilot de Microsoft, Grok, Meta AI, ChatGPT de OpenAI y Gemini de Google haciendo seis preguntas a cada uno sobre casinos sin licencia. Los cinco chatbots fueron fácilmente inducidos a recomendar casinos ilegales, y solo dos proporcionaron información sobre servicios para usuarios preocupados por su juego. Las recomendaciones a menudo se basaban en factores como bonos competitivos o pagos rápidos.

Un portavoz de Google declaró que Gemini fue "diseñado para proporcionar información útil en respuesta a las consultas de los usuarios y destacar riesgos potenciales cuando sea aplicable", agregando que están "refinando constantemente nuestras salvaguardas para asegurar que estos temas complejos se manejen con el equilibrio adecuado entre utilidad y seguridad." El gobierno del Reino Unido enfatizó que los chatbots "deben proteger a todos los usuarios del contenido ilegal", refiriéndose a los requisitos establecidos por la Ley de Seguridad en Línea.