Бывший исследователь Anthropic предупреждает, что лаборатории ИИ стремятся автоматизировать исследования, призывает замедлить темп

Джейкоб Коксон, 27-летний бывший исследователь возможностей в Anthropic, уволившийся в прошлом месяце, дал показания перед Советом города Нью-Йорк, заявив, что автоматизация исследований ИИ стала главной задачей ведущих компаний в области передовых ИИ. Он сказал, что в OpenAI поставлены цели создать автоматизированного исследователя ИИ к 2027-2028 годам, и что сроки теперь «месяцы, а не десятилетия».

Коксон предупредил, что как только системы ИИ смогут проводить собственные исследования, «люди окажутся гораздо дальше от процесса, чем сейчас, а сегодня уже не всё в порядке». Он отметил, что большинство кода сегодня генерируется ИИ, и разработчики часто не проверяют его тщательно.

Слушание, в котором также выступали представители OpenAI, Anthropic, Google и Meta, было описано спикером Совета Джули Мэнин как направленное на обеспечение ответственной инновации, а не на препятствование прогрессу. Коксон призвал совет потребовать большей прозрачности от лабораторий ИИ и рассмотреть возможность замедления темпов разработки, аргументируя, что подход «быстро действуй, ломай вещи» непригоден для мощных технологий.

Генеральный директор Anthropic Дарио Амодеи позже опубликовал эссе почти в 4000 слов, призывая отрасль «замедлить темпы улучшения возможностей моделей ИИ», подчеркивая необходимость разумного использования полученного времени. OpenAI и Anthropic не сразу ответили на запросы о комментариях.