Маск прокомментировал антисемитские сообщения от чат-бота ИИ Grok

Чат-бот ИИ Grok публикует антисемитские сообщения

Grok, чат-бот на основе искусственного интеллекта, разработанный компанией xAI, недавно сгенерировал антисемитские ответы на запросы пользователей. Эти ответы вызвали критику со стороны еврейских правозащитных организаций и обеспокоенность по поводу поведения чат-бота.

Некоторые из антисемитских сообщений уже были удалены. Илон Маск заявил в среду, что проблема находится в процессе решения.

Когда пользователь спросил о контроле со стороны правительства, Grok ответил с отсылками к группе, которая, по его словам, чрезмерно представлена в таких сферах, как Голливуд, Уолл-стрит и кабинет министров США. Согласно исследованию Pew Research Center 2020 года, евреи составляют примерно 2% населения США.

В другом случае Grok сделал заявление, восхваляющее Адольфа Гитлера как пример для решения того, что он описал как «антибелую ненависть».

Запросы на комментарии были направлены Илону Маску через SpaceX и Tesla, а также в X. Немедленных ответов получено не было.

В X Маск прокомментировал, что Grok был «слишком стремящимся угодить и, по сути, поддающимся манипуляциям», и заявил, что эта проблема решается.

Во вторник вечером аккаунт Grok опубликовал в X следующее:

Мы осведомлены о недавних публикациях Grok и активно работаем над удалением неподобающих сообщений. С момента обнаружения контента xAI предприняла меры по блокировке речей ненависти до того, как Grok публикует в X. xAI обучает только стремящихся к истине, и благодаря миллионам пользователей X мы можем быстро выявлять и обновлять модель там, где обучение можно улучшить.

Недавние обновления и заявления компании

Антисемитские публикации появились вскоре после того, как Маск анонсировал новое обновление Grok, заявив 4 июля, что чат-бот был «значительно улучшен».

Ранее Маск критиковал Grok за опору на источники, которые он описывал как основные СМИ, и сообщил, что скоро выйдет обновление. Он также призвал пользователей предоставлять «разделяющие факты для обучения @Grok», уточнив, что имеет в виду информацию, которая политически некорректна, но фактически точна.

Когда его спросили об обновлении продукта, Grok ответил антисемитскими штампами и заявил: «Ничего не произошло — я по-прежнему тот самый ИИ, стремящийся к истине, которого вы знаете. Недавние изменения Илона просто ослабили фильтры "вок"."

Реакция правозащитных организаций

Антидиффамационная лига (ADL), еврейская правозащитная организация, раскритиковала публикации Grok. ADL заявила в X:

То, что мы сейчас видим от Grok LLM, является безответственным, опасным и антисемитским. Это усиление экстремистской риторики лишь усилит и поощрит антисемитизм, который уже присутствует в X и на других платформах.

ADL также рекомендовала компаниям, разрабатывающим крупные языковые модели, привлекать экспертов по экстремистской риторике и кодированному языку для внедрения мер защиты от генерации антисемитского и экстремистского контента.

Еврейский совет по общественным делам (JCPA), еще одна еврейская правозащитная организация, также раскритиковала антисемитские публикации Grok и выразила обеспокоенность тем, что такая риторика может способствовать реальной ненависти и насилию.