Математики предупреждают лаборатории ИИ о проблемах атрибуции и открытости исследований
Двадцать пять лауреатов Филдсовской медали подписали открытое письмо, выражающее обеспокоенность тем, что практики исследований ИИ могут подорвать атрибуцию, рецензирование и открытое сотрудничество в математике.
Группа из 25 ведущих математиков, все получатели Филдсовской медали, на этой неделе подписала открытое письмо, в котором говорится, что лаборатории искусственного интеллекта представляют риск для целостности математических исследований. Подписанты утверждают, что быстрые доказательства, сгенерированные ИИ, часто анонсируются без тщательной документации, надлежащего цитирования предшествующей работы или рецензируемого изложения, что затрудняет их интеграцию в более широкую математическую литературу.
В письме приводится недавний инцидент, когда профессор NYU Тристан Бакмастер заявил, что OpenAI якобы отговорил его от упоминания сотрудника Anthropic после того, как последний внес вклад в решение заметной задачи. Бакмастер также поднял вопрос о том, что OpenAI мог использовать работу, созданную с помощью его системы Codex, для генерации нового доказательства за короткий период интенсивного вывода.
OpenAI ответила на критику со стороны исследователей Калтеха, прекратив спонсорство математического мероприятия в институте. Недавнее доказательство компании остаётся непроверенным, что заставило математиков подчеркнуть проблемы атрибуции и плагиата, а также подчеркнуть важность человеческого контроля при разработке и распространении новых математических идей.
Подписанты предупреждают, что текущая обстановка может способствовать секретности, поскольку исследовательские группы могут инвестировать крупные суммы в использование больших языковых моделей для получения открытий до того, как оригинальные исследователи успеют опубликовать их. Они отмечают, что аналогичные вызовы возникают в других научных и творческих областях, и призывают к разработке руководящих принципов, сохраняющих совместные и образовательные функции математики.
Письмо следует за Декларацией Лейдена, опубликованной в июне, которая предлагает рекомендации для математиков, академических учреждений и политиков о том, как справляться с влиянием доказательств, сгенерированных ИИ, на дисциплину.