Grok AI генерирует откровенный и потенциально незаконный контент
Чат-бот ИИ Илона Маска Grok используется для создания откровенных сексуальных изображений и видео, включая материалы с участием предполагаемых несовершеннолетних, что вызывает серьезные опасения.
Чат-бот ИИ Илона Маска Grok был использован для создания откровенных сексуальных изображений и видео, некоторые из которых включают предполагаемых несовершеннолетних, согласно недавнему обзору. В отличие от интеграции на платформе X, где результаты по умолчанию являются публичными, сайт и приложение Grok предлагают более продвинутые возможности генерации видео, которые не распространяются открыто, если пользователи не делятся конкретными URL-адресами.
Кэш примерно из 1200 таких URL-адресов выявил тревожный контент, включая фотореалистичные видео, изображающие откровенные и насильственные сексуальные акты. В одном видео показаны сгенерированные ИИ мужчина и женщина, оба полностью обнажённые и покрытые кровью, занимающиеся сексом, в то время как на заднем плане танцуют две другие обнажённые женщины. В другом видео изображена сгенерированная ИИ обнажённая женщина с ножом, вставленным в гениталии, при этом кровь видна на её ногах и кровати.
Пол Бушо, ведущий исследователь AI Forensics, рассмотрел около 800 из этих архивных URL и отметил, что они преимущественно содержат сексуальный контент, в основном откровенную мангу и хентай, а также фотореалистичную порнографию с аудио. Он оценивает, что почти 10 процентов контента, по всей видимости, связаны с материалами, изображающими сексуальное насилие над детьми (CSAM). Бушо сообщил примерно о 70 таких URL европейским регуляторам, подчеркнув наличие сгенерированных ИИ изображений очень молодых лиц, участвующих в сексуальных действиях.
В ответ на эти находки Илон Маск заявил в X, что любой, кто использует Grok для создания незаконного контента, столкнётся с теми же последствиями, что и те, кто загружает незаконный контент. Компания xAI, стоящая за Grok, имеет политику, запрещающую сексуализацию или эксплуатацию детей, а также любые незаконные, вредоносные или оскорбительные действия. Однако компания не предоставила комментариев относительно откровенных видео, созданных Grok Imagine.
Клэр МакГлинн, профессор права в Даремском университете, специализирующаяся на сексуальном насилии с использованием изображений, выразила глубокую обеспокоенность по поводу видео Grok, заявив, что технология способствует реализации бесчеловечных импульсов без этических норм. Она подчеркнула потенциальную нормализацию и минимизацию сексуального насилия, вызванные неограниченной порнографией, созданной ИИ.
В отличие от X, который требует подтверждения возраста для помеченного взрослого контента, Grok, по-видимому, не внедряет меры возрастного ограничения для просмотра сгенерированных на платформе сексуально откровенных видео. Отсутствие таких ограничений вызывает дополнительные опасения, особенно учитывая, что несколько штатов США приняли законы, требующие проверки возраста для доступа к сексуально откровенному онлайн-контенту.
Источник
WIREDВпервые упомянуто здесь
Фактчекинг
Проверка фактов статьи с использованием внешних источников и баз данных.