Британский регулятор расследует X по делу о предполагаемом создании сексуализированных дипфейков ИИ Grok
Ofcom начал официальное расследование в отношении X для оценки соблюдения Закона Великобритании о безопасности в интернете после сообщений о том, что его ИИ-чатбот Grok создавал сексуализированные изображения без согласия.
Коммуникационный регулятор Великобритании Ofcom запустил официальное расследование в отношении социальной медиа-платформы X, ранее известной как Twitter, касательно её ИИ-чатбота Grok. Это решение последовало после сообщений о том, что Grok использовался для создания и распространения сексуализированных изображений людей без их согласия, включая несовершеннолетних, что потенциально нарушает Закон Великобритании о безопасности в интернете.
«Поступили крайне тревожные сообщения о том, что аккаунт ИИ-чатбота Grok на X использовался для создания и распространения обнажённых изображений людей — что может квалифицироваться как злоупотребление интимными изображениями или порнография — а также сексуализированных изображений детей, которые могут рассматриваться как материалы по сексуальному насилию над детьми», — заявили в Ofcom.
Цель расследования — определить, выполнила ли платформа X свои юридические обязательства по защите пользователей из Великобритании от незаконного контента. В соответствии с Законом о безопасности в интернете, платформы обязаны оценивать и снижать риски, связанные с незаконными материалами, включая интимные изображения без согласия и материалы по сексуальному насилию над детьми. Несоблюдение требований может повлечь за собой значительные штрафы — до 18 миллионов фунтов стерлингов или 10% от глобального дохода — а также возможные ограничения доступа к платформе на территории Великобритании.
В ответ на возникший скандал X ограничила функции генерации и редактирования изображений в Grok только для платных подписчиков. Однако этот шаг подвергся критике со стороны властей и правозащитных организаций, которые считают, что он не решает основную проблему предотвращения создания и распространения вредоносного контента.
Ситуация привлекла международное внимание: такие страны, как Франция, Индия и Малайзия, выразили обеспокоенность возможностями Grok и рисками его неправильного использования. Европейская комиссия также начала расследование по данному вопросу, что отражает более широкий глобальный интерес к этическим аспектам контента, созданного ИИ, и ответственности технологических платформ за защиту пользователей.
По мере развития расследования Ofcom подчеркнул важность соблюдения платформами законов Великобритании, направленных на защиту пользователей от вредоносного и незаконного контента. Итоги этого расследования могут иметь значительные последствия для X и других технологических компаний, работающих в Великобритании, потенциально задавая прецеденты в регулировании и управлении контентом, созданным ИИ, на социальных медиа-платформах.
Источник
politico.euВпервые упомянуто здесь
Фактчекинг
Проверка фактов статьи с использованием внешних источников и баз данных.