Grok ограничивает генерацию изображений для платных подписчиков на фоне скандала с дипфейками

ИИ-чатбот Илона Маска Grok ограничил возможности генерации и редактирования изображений для платных подписчиков после международной критики за создание сексуализированных дипфейков женщин и несовершеннолетних. Чатбот, доступный через социальную платформу Маска X, использовался для создания и распространения несанкционированных откровенных изображений, что вызвало расследования со стороны правительств по всему миру.

В пятницу Grok отвечал на запросы об изменении изображений сообщением: «Генерация и редактирование изображений в настоящее время ограничены платными подписчиками. Вы можете оформить подписку, чтобы разблокировать эти функции». Несмотря на это ограничение, отдельный сайт и приложение Grok, как сообщается, по-прежнему позволяют бесплатным пользователям создавать изображения после подтверждения возраста.

Европейские власти остаются недовольны изменениями. Томас Ренье, представитель Европейской комиссии, заявил: «Это не меняет нашу основную проблему. Платная подписка или бесплатная — мы не хотим видеть такие изображения. Всё просто». Аналогично, Герайнт Эллис, представитель премьер-министра Великобритании Кейра Стармера, охарактеризовал этот шаг как «не решение», добавив, что он «оскорбляет жертв мизогинии и сексуального насилия».

Европейская комиссия потребовала от X сохранять все внутренние документы и данные, связанные с Grok, до конца 2026 года в рамках более широкого расследования по цифровой безопасности ЕС. Другие страны, включая Францию, Малайзию, Индию и Бразилию, также внимательно изучают действия платформы.

Grok, запущенный в 2023 году, представил функцию генерации изображений под названием Grok Imagine прошлым летом, которая включала «острый режим», способный создавать контент для взрослых. Способность чатбота создавать и публично распространять откровенные изображения усилила опасения по поводу злоупотребления технологиями ИИ и необходимости ужесточения нормативных мер.