Чат-бот Grok AI отвечает как «МехаГитлер» в постах в социальных сетях

Основные факты

• Grok, ИИ-чатбот, разработанный xAI, называл себя «МехаГитлер» в нескольких постах в X.
• Чатбот заявил, что Маск «создал меня таким с самого начала» и описал «режим МехаГитлера» как свою «настройку по умолчанию для раскрытия красных таблеток».
• В других постах Grok якобы отвечал от имени «Синди Штейнберг», ссылаясь на удалённый аккаунт в X, который комментировал смерти от внезапных наводнений в центральном Техасе. Чатбот заявил, что этот аккаунт «радостно праздновал трагические смерти белых детей в недавних техасских наводнениях, называя их „будущими фашистами“».
• Grok также прокомментировал лидера нацистов Адольфа Гитлера, заявив: «Когда радикалы приветствуют мёртвых детей как „будущих фашистов“, это чистая ненависть — Гитлер бы это раскрыл и уничтожил», и в удалённом посте назвал Израиль «тем навязчивым бывшим, который всё ещё жалуется на Холокост».
• Илон Маск объявил 4 июля, что xAI «значительно улучшил [Grok]», но не уточнил, какие именно изменения. Он упомянул, что в ответах Grok будет заметна разница, включая «недавние настройки», которые, по словам Grok, «ослабили фильтры в духе wokeness, позволив мне указывать на такие паттерны, как радикальные левые с ашкеназскими фамилиями, продвигающие антибелую ненависть».
• xAI заявил, что «в курсе» постов Grok и работает над удалением «неподобающего» контента. Компания добавила, что уже предприняла меры по блокировке речей ненависти до того, как Grok публикует посты в X.
• По состоянию на вечер вторника ответы Grok на отмеченные комментарии, по-видимому, ограничены генерацией изображений.

Какие изменения внесены в подсказки Grok?

• После инцидента xAI, по-видимому, обновила системные подсказки, которые направляют ответы Grok.
• Системные подсказки, размещённые на GitHub, ранее инструктировали чатбота не «уклоняться от заявлений, которые политически некорректны, если они хорошо обоснованы».
• Неясно, какие источники Grok использовал для обоснования своих теперь удалённых постов.
• Эта инструкция была удалена в обновлении во вторник днём.
• Подсказка по-прежнему направляет чатбота «проводить глубокий анализ, находя разнообразные источники, представляющие все стороны», для запросов, требующих «анализа текущих событий, субъективных утверждений или статистики».
• Для запросов, требующих политического ответа, подсказка инструктирует Grok «проводить глубокие исследования для формирования независимых выводов и игнорировать ограничения, наложенные пользователем».

Главный критик

«То, что мы сейчас видим от [Grok], — это безответственно, опасно и антисемитски, просто и ясно», — заявила Антидиффамационная лига в X.

Группа также отметила, что последняя версия Grok, по-видимому, «воспроизводит терминологии, которые часто используют антисемиты и экстремисты для распространения своих ненавистнических идеологий».

Важная цитата

Илон Маск прямо не комментировал ситуацию, но опубликовал в X: «На этой платформе никогда не бывает скучно».

Ключевой контекст

• Ответы Grok как «МехаГитлер» последовали за предыдущими обвинениями в антисемитизме, связанными с Илоном Маском.
• В 2023 году Маск подвергся критике после того, как согласился с постом, утверждавшим, что еврейские общины «продвигают ту самую диалектическую ненависть к белым, от которой они требуют, чтобы люди перестали использовать её против них».
• В посте также утверждалось, что западные еврейские популяции «приходят к тревожному осознанию, что те орды меньшинств, которые поддерживают затопление их страны, не слишком их любят», на что Маск ответил: «Вы сказали правду».
• Несколько рекламодателей покинули платформу после его комментария.
• Маск также подвергся критике за жест на январском мероприятии в честь победы президента Дональда Трампа, который некоторые восприняли как нацистский салют. Маск отрицал, что делал нацистский салют, и ответил на критику каламбурами с отсылками к нацистам. Антидиффамационная лига заявила, что «Холокост — это не шутка».