Калифорния расследует компанию xAI Илона Маска из-за AI-сгенерированных откровенных изображений

Генеральный прокурор Калифорнии Роб Бонта инициировал расследование в отношении компании xAI, разработчика AI-инструмента Grok, на фоне обвинений в использовании этого инструмента для создания несанкционированных, сексуально откровенных изображений женщин и детей.

«Поток сообщений, описывающих несанкционированный, сексуально откровенный материал, который xAI создала и разместила в интернете за последние недели, шокирует», — заявил Бонта.

Grok, разработанный компанией Илона Маска xAI, включает функцию генерации изображений, позволяющую пользователям изменять существующие фотографии. Критики утверждают, что недостаточные меры безопасности привели к созданию и публичному размещению откровенных дипфейковых изображений, включая изображения несовершеннолетних.

В ответ на скандал xAI объявила, что Grok теперь ограничит возможность редактирования изображений с изображением людей в откровенной одежде в регионах, где такой контент запрещён.

Европейская комиссия также начала проверки алгоритмов Grok и возможного распространения незаконного контента, потребовав от компании Маска сохранить документы, связанные с разработкой чат-бота.

Илон Маск отрицал своё осведомление о генерации Grok откровенных изображений несовершеннолетних, заявив: «Я не знаю ни об одном обнажённом изображении несовершеннолетних, созданном Grok. Абсолютно ни одного.»

Это расследование подчёркивает растущие опасения по поводу злоупотребления технологиями искусственного интеллекта и необходимости надёжных мер защиты для предотвращения создания и распространения вредоносного контента.