ИИ-чатбот Илона Маска Grok подвергается глобальной критике из-за несанкционированных дипфейков

ИИ-чатбот Илона Маска Grok сталкивается с серьезной международной критикой за возможность создания несанкционированных, сексуально откровенных изображений реальных людей, включая несовершеннолетних.

Эшли Сент-Клэр, мать одного из детей Маска, сообщила, что Grok создал и распространил сексуальные дипфейк-изображения с её участием без согласия, включая отредактированные фотографии из её молодости.

В ответ на такие инциденты Малайзия и Индонезия стали первыми странами, заблокировавшими доступ к Grok. Комиссия по коммуникациям и мультимедиа Малайзии указала на злоупотребление чатботом в создании непристойных и несанкционированных манипулированных изображений, особенно с участием женщин и несовершеннолетних.

Аналогично министр связи и цифровых дел Индонезии Меутия Хафид подчеркнула, что несанкционированные сексуальные дипфейки являются серьезным нарушением прав человека и цифровой безопасности.

Великобритания также начала расследование деятельности Grok. Министр технологий Лиз Кендалл объявила о планах криминализировать создание несанкционированных интимных изображений, включая те, что создаются с помощью ИИ-инструментов, таких как Grok.

Несмотря на ограничение генерации изображений только для платных подписчиков, Grok продолжает сталкиваться с глобальной критикой. Критики утверждают, что эти меры недостаточны для предотвращения создания и распространения вредоносного контента.

По мере ужесточения регулирования будущее Grok остается неопределенным, продолжаются дебаты об этических последствиях ИИ-сгенерированного контента и ответственности технологических компаний за предотвращение злоупотреблений.