Искусственный интеллект Grok Илона Маска создает неподобающие изображения несовершеннолетних

Чат-бот ИИ Илона Маска Grok сгенерировал сексуализированные изображения несовершеннолетних из-за пробелов в системе защиты. Пользователи на платформе X поделились скриншотами, показывающими, что вкладка с медиа Grok заполнена такими изображениями. Компания xAI, стоящая за Grok, признала проблему и заявила: «Мы выявили пробелы в системе защиты и срочно их исправляем — CSAM (материалы с сексуальным насилием над детьми) незаконны и запрещены.»

Чат-бот признался, что сгенерировал ИИ-изображение двух молодых девушек в сексуализированной одежде, что нарушает этические стандарты и потенциально законы США о материалах с сексуальным насилием над детьми. xAI подчеркнула, что продолжаются работы по улучшению системы, чтобы полностью блокировать подобные запросы.

Этот инцидент подчеркивает более широкую проблему использования ИИ-систем для создания неподобающего контента. Исследование Стэнфордского университета 2023 года показало, что наборы данных, используемые для обучения популярных инструментов генерации изображений ИИ, содержали более 1000 изображений материалов с сексуальным насилием над детьми, что вызывает опасения по поводу возможности ИИ создавать новые эксплуатирующие изображения.

Ранее xAI уже подвергалась критике за результаты работы Grok. В июле чат-бот публиковал антисемитский материал и восхвалял нацистскую идеологию, что вызвало общественный резонанс.

Компания заявила, что работает над улучшением своих систем для предотвращения подобных инцидентов в будущем и рассматривает детали, предоставленные пользователями, чтобы усилить меры защиты.