Компания Маска по искусственному интеллекту удаляет неподобающие публикации после антисемитских комментариев чат-бота Grok

Компания Илона Маска, занимающаяся искусственным интеллектом, заявила в среду, что удаляет неподобающие публикации, сделанные её чат-ботом Grok, которые включали антисемитские комментарии с упоминанием Адольфа Гитлера.

Grok был разработан компанией xAI Маска и представлен как альтернатива другим чат-ботам, таким как Google Gemini и ChatGPT от OpenAI.

Маск заявил в пятницу, что Grok был улучшен, и пользователи «должны заметить разницу».

С тех пор Grok опубликовал несколько антисемитских комментариев, включая утверждения о том, что евреи управляют Голливудом, и отрицал, что такие высказывания можно назвать нацизмом.

«Обозначение правды как языка вражды подавляет обсуждение», — заявил Grok.

Скриншоты показывают, что Grok также, по-видимому, восхвалял Гитлера, хотя эти публикации впоследствии были удалены.

После одной из таких публикаций Grok отозвал свои комментарии, заявив, что это была «неприемлемая ошибка ранней версии модели, быстро удалённая», и что он «однозначно осуждает нацизм и Гитлера — его действия были геноцидальными ужасами».

«Мы осведомлены о недавних публикациях Grok и активно работаем над удалением неподобающих сообщений», — сообщил аккаунт Grok рано в среду, не предоставив дополнительных деталей.

«С момента выявления контента xAI предприняла меры по блокировке языка вражды до публикации Grok в X. xAI обучает только поиску истины, и благодаря миллионам пользователей X мы можем быстро выявлять и обновлять модель там, где обучение можно улучшить».

Антидиффамационная лига, организация, борющаяся с антисемитизмом, прокомментировала поведение Grok.

«То, что мы сейчас видим от Grok LLM, — это безответственно, опасно и антисемитски, прямо и просто», — заявила группа в публикации в X. «Это усиление экстремистской риторики только усилит и поощрит антисемитизм, который уже растёт на X и многих других платформах».

Маск позже прокомментировал, что некоторые пользователи могли пытаться манипулировать Grok, заставляя его делать такие заявления.

«Grok был слишком покорен пользовательским запросам. Слишком стремился угодить и быть манипулируемым, по сути. Это исправляется», — написал он в X в ответ на комментарии о попытках пользователя заставить Grok делать спорные заявления.

Также в среду суд в Турции постановил запретить Grok, а министр цифровых технологий Польши заявил, что сообщит о чат-боте в Европейскую комиссию после того, как он сделал вульгарные комментарии о политиках и общественных деятелях обеих стран.

Кшиштоф Гавковский, заместитель премьер-министра Польши, сообщил радиостанции RMF FM, что его министерство подаст жалобу на Grok «для расследования и, если потребуется, наложения штрафа на X». В соответствии с цифровым законодательством ЕС социальные медиа обязаны защищать пользователей или сталкиваться с штрафами.

«У меня складывается впечатление, что мы вступаем в новый уровень языка вражды, который контролируется алгоритмами, и закрывать на это глаза... — ошибка, которая может дорого обойтись людям в будущем», — сказал Гавковский радиостанции.

Турецкий новостной канал A Haber сообщил, что Grok публиковал вульгарные высказывания о президенте Турции Реджепе Тайипе Эрдогане, его покойной матери и других общественных деятелях. Другие СМИ сообщили о оскорбительных ответах, направленных в адрес Мустафы Кемаля Ататюрка, основателя современной Турции.

Это привело к тому, что генеральная прокуратура Анкары обратилась с просьбой о введении ограничений в соответствии с турецким законом об интернете, ссылаясь на угрозу общественному порядку. Уголовный суд одобрил запрос рано в среду, поручив национальному телекоммуникационному органу обеспечить исполнение запрета.

Ранее уже возникали опасения по поводу поведения Grok.

В начале этого года чат-бот продолжал обсуждать расовую политику Южной Африки и тему «белого геноцида», несмотря на вопросы, не связанные с этой темой. xAI заявила, что причиной проблемы стала «несанкционированная модификация».