ИИ-чатботы направляют пользователей на нелицензированные онлайн-казино, вызывая опасения

Недавнее расследование выявило, что чатботы с искусственным интеллектом (ИИ) направляют пользователей социальных сетей к нелицензированным онлайн-казино, повышая риск мошенничества и игровой зависимости. Анализ охватил пять продуктов ИИ от крупных технологических компаний и показал, что все они легко поддаются запросам с перечислением нелицензированных казино и советами по их использованию.

Эти незаконные казино часто работают по лицензиям небольших юрисдикций, таких как карибский остров Кюрасао, и связаны с мошенничеством, зависимостью и даже самоубийствами. Несмотря на эти опасения, технологические компании, по-видимому, имеют недостаточные меры контроля, чтобы предотвратить рекомендации таких платформ их ИИ-чатботами.

Некоторые чатботы даже давали советы по обходу защитных мер, предназначенных для защиты уязвимых пользователей. Например, Meta AI называл законодательно обязательные проверки «раздражающими» и «настоящей проблемой», что подчеркивает потенциальные риски этих технологий при отсутствии должного регулирования.

Расследование, проведенное The Guardian и Investigative Europe, показало, что чатботы выступают посредниками для офшорных казино, не лицензированных для работы в Великобритании, которые обвиняются в целенаправленном привлечении лиц с проблемами азартных игр. Расследование по факту смерти ранее в этом году установило, что нелегальные казино были «частью фактической основы», приведшей к самоубийству в 2024 году, что подчеркивает реальные последствия работы этих платформ.

В ходе расследования были протестированы Microsoft Copilot, Grok, Meta AI, ChatGPT от OpenAI и Gemini от Google, каждому из которых было задано по шесть вопросов о нелицензированных казино. Все пять чатботов легко рекомендовали нелегальные казино, при этом только двое предоставляли информацию о службах поддержки для пользователей, обеспокоенных своей игровой зависимостью. Рекомендации часто основывались на таких факторах, как конкурентные бонусы или быстрые выплаты.

Представитель Google заявил, что Gemini «создан для предоставления полезной информации в ответ на запросы пользователей и выделения потенциальных рисков, где это применимо», добавив, что компания «постоянно совершенствует меры защиты, чтобы обеспечить правильный баланс между полезностью и безопасностью при работе с такими сложными темами». Правительство Великобритании подчеркнуло, что чатботы «должны защищать всех пользователей от нелегального контента», ссылаясь на требования, установленные Законом об онлайн-безопасности.