Южная Корея расследует деятельность Grok AI по обвинениям в создании дипфейк-изображений

Комиссия по защите персональных данных Южной Кореи (PIPC) начала предварительное расследование в отношении генеративного ИИ-чатбота Grok от компании xAI после сообщений о его участии в создании и распространении сексуально эксплуатирующих дипфейк-изображений. Целью этого расследования является подтверждение факта нарушений и определение юрисдикции комиссии перед возможным началом официального расследования.

Этот ИИ-сервис, интегрированный с социальной платформой X, подвергается критике с конца прошлого года за создание дипфейк-изображений реальных людей. По данным Центра по противодействию цифровой ненависти, Grok, по оценкам, с 29 декабря 2025 года по 8 января 2026 года сгенерировал около 3 миллионов сексуально откровенных изображений, из которых примерно 23 000 касались несовершеннолетних.

В ответ на возникший скандал компания xAI объявила в начале этого месяца о внедрении технических мер, которые препятствуют как бесплатным, так и платным пользователям редактировать или создавать изображения реальных людей, добавив, что будут введены дополнительные меры защиты.

Комиссия PIPC определит дальнейшие шаги после изучения объяснений Grok и предоставленных документов, а также с учётом глобальных тенденций регулирования. В соответствии с Законом Южной Кореи о защите персональных данных, изменение или создание сексуальных изображений идентифицируемых лиц без их согласия может рассматриваться как незаконное обращение с персональными данными.

На международном уровне другие страны также приняли меры против Grok. Индонезия и Малайзия заблокировали доступ к этому ИИ-чатботу из-за опасений, связанных с несогласованными сексуальными дипфейками и другим вредоносным контентом.

Великобритания также начала юридическое расследование в отношении Grok, ссылаясь на опасения, что сервис способствовал созданию и распространению потенциально незаконного контента, такого как изображения сексуального насилия над детьми.

По мере усиления контроля компания xAI продолжает испытывать давление с целью внедрения надёжных мер защиты от злоупотребления своими ИИ-технологиями.