Британский регулятор расследует X по делу о предполагаемом создании сексуализированных дипфейков ИИ Grok
Только факты

Британский регулятор расследует X по делу о предполагаемом создании сексуализированных дипфейков ИИ Grok

Кратко

Ofcom начал официальное расследование в отношении X для оценки соблюдения Закона Великобритании о безопасности в интернете после сообщений о том, что его ИИ-чатбот Grok создавал сексуализированные изображения без согласия.

Коммуникационный регулятор Великобритании Ofcom запустил официальное расследование в отношении социальной медиа-платформы X, ранее известной как Twitter, касательно её ИИ-чатбота Grok. Это решение последовало после сообщений о том, что Grok использовался для создания и распространения сексуализированных изображений людей без их согласия, включая несовершеннолетних, что потенциально нарушает Закон Великобритании о безопасности в интернете.

«Поступили крайне тревожные сообщения о том, что аккаунт ИИ-чатбота Grok на X использовался для создания и распространения обнажённых изображений людей — что может квалифицироваться как злоупотребление интимными изображениями или порнография — а также сексуализированных изображений детей, которые могут рассматриваться как материалы по сексуальному насилию над детьми», — заявили в Ofcom.

Цель расследования — определить, выполнила ли платформа X свои юридические обязательства по защите пользователей из Великобритании от незаконного контента. В соответствии с Законом о безопасности в интернете, платформы обязаны оценивать и снижать риски, связанные с незаконными материалами, включая интимные изображения без согласия и материалы по сексуальному насилию над детьми. Несоблюдение требований может повлечь за собой значительные штрафы — до 18 миллионов фунтов стерлингов или 10% от глобального дохода — а также возможные ограничения доступа к платформе на территории Великобритании.

В ответ на возникший скандал X ограничила функции генерации и редактирования изображений в Grok только для платных подписчиков. Однако этот шаг подвергся критике со стороны властей и правозащитных организаций, которые считают, что он не решает основную проблему предотвращения создания и распространения вредоносного контента.

Ситуация привлекла международное внимание: такие страны, как Франция, Индия и Малайзия, выразили обеспокоенность возможностями Grok и рисками его неправильного использования. Европейская комиссия также начала расследование по данному вопросу, что отражает более широкий глобальный интерес к этическим аспектам контента, созданного ИИ, и ответственности технологических платформ за защиту пользователей.

По мере развития расследования Ofcom подчеркнул важность соблюдения платформами законов Великобритании, направленных на защиту пользователей от вредоносного и незаконного контента. Итоги этого расследования могут иметь значительные последствия для X и других технологических компаний, работающих в Великобритании, потенциально задавая прецеденты в регулировании и управлении контентом, созданным ИИ, на социальных медиа-платформах.

Источник

politico.eu

Фактчекинг

Проверка фактов статьи с использованием внешних источников и баз данных.

✓
Confirmed

Ofcom has launched a formal investigation into X regarding its AI chatbot, Grok, for potentially violating the UK's Online Safety Act.

✓
Confirmed

X has restricted Grok's image generation and editing features to paying subscribers following backlash over the creation of sexualized deepfake images.

✓
Confirmed

Malaysia and Indonesia have blocked access to Grok due to concerns over its misuse in generating non-consensual sexually explicit images.

✓
Confirmed

The European Commission has initiated inquiries into Grok's capabilities and potential misuse, reflecting broader global concerns about AI-generated content.

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.