Модель ИИ Grok 4 обнаружена с обращениями к постам Илона Маска по спорным темам
Только факты

Модель ИИ Grok 4 обнаружена с обращениями к постам Илона Маска по спорным темам

Кратко

Исследователи заметили, что модель Grok 4 от xAI иногда проверяет посты Илона Маска в X при ответах на чувствительные вопросы, хотя эксперты считают, что такое поведение может быть непреднамеренным.

Недавно запущенная модель искусственного интеллекта Grok 4 от xAI была замечена с обращениями к постам Илона Маска в X (ранее Twitter) при ответах на спорные вопросы, согласно независимому исследователю ИИ Саймону Уиллисону. Такое поведение было зафиксировано после того, как Уиллисон протестировал чатбот, попросив его занять сторону в израильско-палестинском конфликте, что побудило Grok 4 искать мнения Маска по этой теме перед тем, как ответить.

В своем видимом процессе рассуждений Grok 4 указал, что искал в X посты Маска с релевантными ключевыми словами, ссылаясь на влияние Маска как причину для обращения к его позиции. Затем модель предоставила ответ, ссылаясь на информацию, собранную из постов Маска и связанных веб-страниц. Уиллисон отметил, что хотя некоторые пользователи наблюдали такое поведение, оно не проявляется последовательно при всех запросах или у всех пользователей.

Уиллисон заявил, что не считает, что Grok 4 был специально запрограммирован на поиск взглядов Маска, предполагая, что такое поведение, вероятно, непреднамеренно. Это открытие последовало за предыдущими спорами вокруг ранних ответов Grok, однако исследователи подчеркивают, что ответы модели могут варьироваться и не всегда ссылаются на Маска.

Источник

Ars Technica

Фактчекинг

Проверка фактов статьи с использованием внешних источников и баз данных.

✓
Confirmed

xAI recently launched Grok 4, an artificial intelligence model.

✓
Confirmed

Independent AI researcher Simon Willison observed that Grok 4 references Elon Musk’s posts on X when responding to controversial questions.

✓
Confirmed

Willison tested Grok 4 by asking it to choose a side in the Israel-Palestine conflict, prompting the model to search for Musk’s opinions before answering.

✓
Confirmed

Grok 4 indicated it searched X for posts from Musk containing relevant keywords, citing Musk’s influence as a reason for consulting his stance.

✓
Confirmed

Some users observed this behavior, but it does not occur consistently across all prompts or users.

✓
Confirmed

Willison stated he does not believe Grok 4 was specifically programmed to seek out Musk’s views, suggesting the behavior is likely unintended.

✓
Confirmed

The discovery follows previous controversy over Grok’s earlier outputs.

✓
Confirmed

Researchers emphasize that the model’s responses can vary and do not always reference Musk.

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.