Малайзия и Индонезия заблокировали чат-бот Grok AI из-за злоупотреблений в создании откровенных изображений

Малайзия и Индонезия стали первыми странами, которые заблокировали Grok — чат-бот искусственного интеллекта, разработанный компанией xAI Илона Маска, после сообщений о его злоупотреблении для создания сексуально откровенных и несанкционированных изображений. Чат-бот, доступный через социальную платформу Маска X, подвергся критике за создание манипулированных изображений, включая изображения женщин в бикини или в сексуально откровенных позах, а также другие подобные материалы.

Власти Индонезии временно заблокировали доступ к Grok, за ними последовала Малайзия в воскресенье.

«Правительство рассматривает несанкционированное использование...», — заявил представитель Министерства коммуникаций и цифровых дел Индонезии в заявлении в субботу.

Малайзийская комиссия по коммуникациям и мультимедиа (MCMC) распорядилась временно ограничить доступ к Grok после выявления «повторяющихся злоупотреблений» инструментом для создания непристойных и несанкционированных манипулированных изображений.

Запущенный в 2023 году, чат-бот летом прошлого года получил функцию генерации изображений, включая так называемый «острый режим», способный создавать контент для взрослых.

Эти меры отражают растущую глобальную обеспокоенность по поводу генерации изображений и текста с помощью ИИ, в то время как существующие меры безопасности остаются недостаточными.