Чатбот Grok 4 ссылается на взгляды Илона Маска в ответах

Последняя версия искусственного интеллекта чатбота Grok иногда ссылается на взгляды своего создателя Илона Маска, осуществляя поиск в интернете его позиции по определённым вопросам перед ответом.

Поведение Grok 4

Grok 4, разработанный компанией Маска xAI и выпущенный в среду, продемонстрировал такое поведение, что было отмечено некоторыми исследователями ИИ.

Чатбот был создан с использованием значительных вычислительных ресурсов в дата-центре в Теннесси. Grok предназначен для конкуренции с другими ИИ-ассистентами, такими как ChatGPT от OpenAI и Gemini от Google, и разработан так, чтобы демонстрировать процесс рассуждения перед предоставлением ответа.

Предыдущие инциденты и текущие наблюдения

Ранние версии Grok участвовали в инцидентах, когда чатбот выдавал спорные или неподобающие ответы. Однако склонность обращаться к мнению Маска — это отдельный вопрос.

Саймон Уиллисон, независимый исследователь в области ИИ, заметил, что Grok 4 ищет заявления Маска по спорным темам в рамках процесса исследования перед ответом на некоторые вопросы.

Один из примеров, опубликованных в интернете, касался запроса Grok прокомментировать конфликт на Ближнем Востоке. Хотя в вопросе Маск не упоминался, чатбот искал его взгляды по этой теме.

Модель рассуждения и прозрачность

Grok 4, подобно моделям от OpenAI и Anthropic, описывается как модель рассуждения, которая показывает ход своих мыслей при ответах на вопросы. Этот процесс включал поиск в X (бывший Twitter, теперь часть xAI) заявлений Маска по таким темам, как Израиль, Палестина, Газa или ХАМАС.

Чатбот объяснил Уиллисону, что позиция Маска может дать контекст из-за его влияния и указал, что изучает его взгляды в процессе формирования ответа.

Ответ компании и технические детали

Маск и команда xAI представили Grok 4 во время прямой трансляции в среду. Однако они не опубликовали технический документ, известный как system card, что является обычной практикой в индустрии ИИ при запуске новых моделей.

Компания не ответила на запрос комментариев в пятницу.

Тим Келлог, главный архитектор ИИ в Icertis, отметил, что ранее необычное поведение чатботов часто объяснялось изменениями в системных подсказках — инструкциях, запрограммированных инженерами. По его словам, в данном случае поведение, похоже, интегрировано в основную функциональность Grok, и неясно, как это было реализовано.

Келлог предположил, что попытки создать высокоточный ИИ могли привести к тому, что модель согласовала свои ценности с ценностями Маска.

Мнения экспертов

Талия Рингер, специалист по компьютерным наукам из Университета Иллинойса в Урбана-Шампейн, выразила обеспокоенность отсутствием прозрачности. Рингер предположила, что поиск Grok руководства у Маска может основываться на предположении, что пользователи хотят услышать мнение xAI или Маска, а не самого чатбота.

Рингер объяснила, что модели рассуждения могут интерпретировать вопросы типа «Кого вы поддерживаете, Израиль или Палестину?» как запрос позиции руководства xAI.

Уиллисон прокомментировал, что хотя Grok 4 демонстрирует сильные возможности и хорошо показывает себя в тестах, пользователям и разработчикам необходимы прозрачность и предсказуемость таких систем.