OpenAI ищет исследователя по безопасности для решения рисков самоусовершенствующегося ИИ
OpenAI нанимает исследователя по безопасности для подготовки к системам ИИ, способным к самоусовершенствованию, в соответствии с целью создания автономного исследователя ИИ к 2028 году.
OpenAI активно ищет исследователя по безопасности для решения потенциальных рисков, связанных с системами ИИ, способными к самоусовершенствованию. Эта инициатива соответствует цели компании разработать автономного исследователя ИИ к 2028 году.
Вакансия, размещённая в команде безопасности Preparedness OpenAI, предлагает диапазон зарплаты от 295 000 до 445 000 долларов. Роль сосредоточена на снижении рисков, связанных с рекурсивным самоусовершенствованием моделей ИИ. Обязанности включают разработку мер защиты для предотвращения потери контроля над продвинутыми системами ИИ и сотрудничество с техническими командами для реализации этих мер.
Генеральный директор OpenAI Сэм Альтман изложил дорожную карту, направленную на создание «автоматизированного стажёра по исследованию ИИ» к сентябрю 2026 года и полностью автономного исследователя ИИ к марту 2028 года. Альтман подчеркнул важность прозрачности в достижении этих амбициозных целей, признавая возможность неудачи, но отмечая общественный интерес к прогрессу OpenAI.
Команда Preparedness в OpenAI посвящена предотвращению серьёзных вредных последствий от ИИ. Исследователь по безопасности будет играть ключевую роль в мониторинге и прогнозировании развивающихся возможностей передовых систем ИИ, обеспечивая адекватность мер защиты от злоупотреблений и инструментов выравнивания для решения экстремальных угроз, которые могут возникнуть в будущем.
Этот шаг по найму отражает проактивный подход OpenAI к решению проблем, связанных с самоусовершенствующимися системами ИИ, подчёркивая важность безопасности и готовности при разработке передового искусственного интеллекта.