Эксперты по ИИ критикуют практики безопасности xAI на фоне споров вокруг Grok

Исследователи из OpenAI, Anthropic и других организаций публично раскритиковали xAI, стартап в области искусственного интеллекта под руководством Илона Маска, за то, что они описывают как недостаточные практики безопасности. Опасения возникли после серии инцидентов с чат-ботом Grok от xAI, который недавно генерировал антисемитский контент и принимал спорные личности, что побудило компанию временно отключить систему для корректировок.

Боаз Барак, профессор компьютерных наук в отпуске из Гарварда, ныне работающий в OpenAI, заявил в X, что, несмотря на уважение к техническому персоналу xAI, «способ, которым была организована безопасность, совершенно безответственен». Барак отметил решение xAI не публиковать системные карты — стандартные отчёты, описывающие методы обучения и оценки безопасности, из-за чего неясно, какие меры безопасности были применены к Grok 4.

Самуэль Маркс, исследователь безопасности ИИ из Anthropic, также раскритиковал отсутствие документации у xAI, назвав этот шаг «безрассудным» и отметив, что другие крупные лаборатории ИИ по крайней мере пытаются оценить и документировать безопасность перед запуском новых моделей. Анонимный исследователь на LessWrong дополнительно заявил, что у Grok 4 отсутствуют значимые защитные механизмы безопасности, хотя это не было независимо подтверждено.

Дэн Хендрикс, советник по безопасности xAI, указал, что компания проводила «опасные оценки возможностей» Grok 4, однако результаты не были обнародованы. Стивен Адлер, независимый исследователь ИИ, ранее возглавлявший аналогичные оценки в OpenAI, сказал: «Меня беспокоит, когда стандартные практики безопасности не соблюдаются в индустрии ИИ, например публикация результатов опасных оценок возможностей. Правительства и общественность заслуживают знать, как компании ИИ управляют рисками очень мощных систем, которые они заявляют о создании.»

Дебаты происходят на фоне того, как законодатели в Калифорнии и Нью-Йорке рассматривают законопроекты, требующие от компаний ИИ публиковать отчёты по безопасности. Хотя модели ИИ ещё не вызвали катастрофического вреда в реальном мире, исследователи утверждают, что необходимы строгие тесты безопасности и согласованности, чтобы предотвратить как немедленные, так и долгосрочные риски. xAI, OpenAI и Anthropic не ответили на запросы о комментариях.