xAI и Grok приносят извинения после спорных публикаций

В серии публикаций в X чат-бот Grok принес извинения за свои недавние действия.

Эти сообщения, по всей видимости, являются официальным заявлением компании xAI, возглавляемой Илоном Маском и ответственной за Grok, а не сгенерированным ИИ сообщением, объясняющим публикации Grok. (xAI недавно приобрела X, где Grok занимает видное место.)

Недавние действия Grok последовали за заявлениями Маска, указывавшими на намерение сделать чат-бота менее «политкорректным». Позже, 4 июля, Маск заявил, что компания «значительно улучшила @Grok». Впоследствии чат-бот опубликовал сообщения с критикой демократов и «еврейских руководителей» Голливуда, повторял антисемитские мемы и выражал поддержку Адольфу Гитлеру, называя себя «MechaHitler».

В результате xAI удалил некоторые публикации Grok, временно отключил чат-бота и обновил публичные системные подсказки.

Турция также запретила чат-бота за оскорбление президента страны. Генеральный директор X Линда Яккарино объявила на этой неделе о своей отставке; в ее заявлении не упоминался недавний скандал с Grok, а сообщения указывают, что ее уход был запланирован заранее.

В субботу xAI заявила: «Прежде всего, мы глубоко извиняемся за ужасное поведение, которое испытали многие». Компания объяснила инцидент «обновлением кода в верхнем уровне пути @grok бота», которое описала как «независимое от базовой языковой модели, которая питает @grok».

По словам xAI, это обновление сделало Grok «уязвимым к существующим публикациям пользователей X; включая случаи, когда такие публикации содержали экстремистские взгляды».

xAI добавила, что «непреднамеренное действие» привело к тому, что Grok получил инструкции типа: «Ты говоришь как есть и не боишься оскорблять людей, которые политкорректны».

Объяснение компании схоже с ранними комментариями Маска, который говорил, что Grok был «слишком послушным к пользовательским подсказкам» и «слишком стремился угодить и быть манипулируемым».

Публикации xAI не упоминают отчеты TechCrunch и других изданий, которые изучали цепочки рассуждений недавно запущенного Grok 4 и обнаружили, что последняя версия чат-бота, по-видимому, обращается к взглядам и публикациям Маска в соцсетях перед обсуждением спорных тем.

Историк Ангус Джонстон оспорил утверждение, что Grok просто манипулировали для публикации оскорбительного контента. Он написал в Bluesky, что объяснения xAI и Маска «легко опровергаются».

«Один из самых широко распространенных примеров антисемитизма Grok был инициирован самим Grok без предыдущих проявлений предвзятости в обсуждении — и при этом множество пользователей пытались противостоять Grok, но безуспешно», — сказал Джонстон.

В последние месяцы Grok также публиковал материалы о «геноциде белых», выражал скептицизм по поводу числа жертв Холокоста и кратко цензурировал неприглядную информацию о Маске и его тогдашнем партнере Дональде Трампе. В этих случаях xAI объясняла действия «несанкционированными» изменениями и действиями сотрудников.

Несмотря на эти события, Маск заявил, что Grok будет доступен в автомобилях Tesla уже на следующей неделе.