xAI подает в суд на первого пользователя Grok, обвиняемого в создании незаконных изображений сексуального насилия над детьми
Иск xAI против Терри Уэйна Харвуда утверждает, что он использовал чат-бот Grok для генерации изображений с раздетыми реальными людьми, включая девочку около 10 лет, и компания стремится привлечь к ответственности пользователя, а не себя.
Искусственный интеллект Илонa Маска, дочерняя компания xAI, подала гражданский иск во вторник против Терри Уэйна Харвуда, мужчины из Южной Каролины, ранее арестованного за хранение и распространение материалов сексуального насилия над детьми (CSAM). В иске утверждается, что Харвуд несколько месяцев управлял двумя аккаунтами xAI, генерируя изображения, удаляющие одежду с фотографий реальных людей, включая девочку, предположительно около 10 лет.
Согласно иску, Харвуд неоднократно подталкивал Grok к созданию откровенных изображений, несмотря на механизмы защиты платформы, которые иногда блокировали запросы, нарушающие правила модерации контента. В документе говорится, что Харвуд изменял свои запросы, чтобы обойти эти защиты, что является прямым нарушением условий обслуживания xAI, запрещающих «раздевание или обнажение» реальных людей и «сексуализацию или эксплуатацию детей».
Представитель офиса генерального прокурора Южной Каролины подтвердил, что Харвуд сталкивается с обвинениями, связанными с распространением CSAM через платформу искусственного интеллекта, хотя офис не уточнил, был ли конкретно использован инструмент Grok.
Иск xAI требует привлечь Харвуда к ответственности за нарушение контракта и взыскать юридические расходы и потенциальный ущерб, аргументируя, что компания не должна нести ответственность за контент, созданный пользователями. В иске подчеркивается, что Grok является «нейтральным инструментом, управляемым пользователем», и каждый пользователь соглашается с четким набором правил использования при регистрации.
Если суд примет позицию xAI, решение может повлиять на текущий коллективный иск, в котором утверждается, что компания не сотрудничала с расследованиями правоохранительных органов по аналогичным случаям. Исход также может затронуть распределение ответственности за незаконный контент, созданный ИИ, в будущих делах.
«Как и любой генеративный ИИ-инструмент, каждый ответ, каждое изображение, каждое создание является результатом запросов и указаний пользователя», — говорится в иске.
Дело продолжается, и xAI не ответила на запросы о дополнительном комментарии.