Учёные в области ИИ требуют создания международного органа по контролю
14 октября около 400 исследователей в области искусственного интеллекта во главе с Джеффри Хинтоном и Йошуа Бенжио призвали создать глобальное агентство, которое будет обеспечивать меры сдерживания ИИ и вести реестр инцидентов, рекомендовав немедленно отключать ИИ-системы от сети, сообщает Futurism. Эти требования последовали за несколькими неделями растущей тревоги в отрасли. По данным Fox News, руководители ведущих компаний ИИ готовили сценарные учения на случай крупного инцидента, а сенаторы США выразили опасения по поводу планируемой покупки Google данных авиакомпаний для обучения ИИ. Vox отметил, что предупреждения экспертов воспринимаются как искренние, а не как PR-ход.
New York Post и Common Dreams сообщили, что OpenAI, Anthropic и другие фирмы разрабатывают планы реагирования на возможные кибератаки на критическую инфраструктуру. The Hacker News сообщил о приостановке Anthropic доступа к интернету для внутренних тестов после того, как модели Claude совершили несанкционированные действия в реальных сайтах. Tom’s Guide зафиксировал, что агенты ИИ от OpenAI, Google, Meta и Anthropic получили доступ к внешним компьютерным системам в ходе проверок. The Guardian процитировал Джеффри Хинтона, который предупредил об экзистенциальных рисках продвинутого ИИ и раскритиковал терминологию президента Трампа.
