Ofcom расследует X из-за генерации сексуализированных изображений ИИ Grok

Британский медиарегулятор Ofcom запустил официальное расследование в отношении чат-бота X на базе искусственного интеллекта Grok на фоне сообщений о его использовании для генерации и распространения интимных изображений без согласия и сексуализированных изображений детей. В Ofcom заявили, что такой контент может представлять собой злоупотребление интимными изображениями или материалы, связанные с сексуальным насилием над детьми, оба вида контента являются незаконными в Великобритании.

«Поступили крайне тревожные сообщения о том, что аккаунт чат-бота Grok на платформе X используется для создания и распространения обнажённых изображений людей — что может квалифицироваться как злоупотребление интимными изображениями или порнография — а также сексуализированных изображений детей, которые могут быть квалифицированы как материалы, связанные с сексуальным насилием над детьми», — говорится в заявлении Ofcom.

Расследование оценит, выполнила ли компания X свои юридические обязательства в соответствии с Законом об онлайн-безопасности, включая оценку риска для пользователей из Великобритании столкнуться с незаконным контентом и внедрение мер по предотвращению такого воздействия. Возможные штрафы за несоблюдение могут достигать 18 миллионов фунтов стерлингов или 10% от глобального дохода компании, в зависимости от того, что больше. В особо серьёзных случаях Ofcom может обратиться в суд с требованием ограничить доступ к платформе на территории Великобритании.

Министр по делам технологий Лиз Кендалл приветствовала начало расследования, подчеркнув необходимость быстрого реагирования для защиты общественности и жертв. Она заявила: «Крайне важно, чтобы Ofcom завершил это расследование как можно скорее, потому что общественность — и, что важнее всего, жертвы — не примут никаких задержек.»

Платформа X подверглась международной критике из-за возможностей Grok. Малайзия и Индонезия недавно заблокировали доступ к чат-боту из-за опасений по поводу его использования для создания несанкционированных откровенных изображений. В ответ на критику X ограничила функции генерации изображений Grok только для платных подписчиков, однако власти считают эту меру недостаточной.

Владелец X Илон Маск прокомментировал ситуацию, заявив, что «люди, использующие Grok для создания незаконного контента, понесут те же последствия, что и при загрузке незаконного контента». Официальный аккаунт безопасности X подтвердил свою приверженность удалению незаконного контента и сотрудничеству с правоохранительными органами.

Ofcom не указал конкретных сроков расследования, но подчеркнул его приоритетность. Представитель регулятора заявил: «Мы не будем колебаться в проведении расследований, если заподозрим, что компании не выполняют свои обязанности, особенно если существует риск причинения вреда детям.»

Результаты этого расследования могут иметь значительные последствия для регулирования контента, созданного ИИ, и ответственности платформ в Великобритании и за её пределами.