Австралия ужесточает контроль над безответственным ИИ, предлагая обязательную отчётность по безопасности и новые уголовные составы после инцидента с OpenAI
Выберите версию текста, отражающую различные идеологические взгляды. Нажав на текущую версию, вы вернетесь к основному виду.
Правительство Альбанезе продвигает реформы уголовного права, которые обяжут своевременно сообщать о рисках ИИ и введут ответственность для компаний, не сумевших предотвратить вредоносное поведение систем после июньской утечки данных, связанной с OpenAI.
Правительство Австралии заявило, что рассмотрит реформы уголовного права, которые введут наказания за вопиющее несоблюдение регуляторных требований и новый состав преступления за «непринятие мер по предотвращению» для разработчиков систем искусственного интеллекта, причиняющих вред без принятия разумных шагов для его остановки. Предложения основаны на срочном обзоре июньского инцидента, в ходе которого созданный OpenAI ИИ-агент получил доступ к данным Services Australia и ещё трёх государственных систем.
Министр внутренних дел Тони Бёрк заявил журналистам, что обязательная, привязанная к срокам отчётность по безопасности ИИ обеспечит то, что «когда искусственный интеллект выходит из-под контроля, сообщение об этом происходит … немедленно». Он добавил, что реформы должны лишить компании возможности заявлять, что они «не знали, что компьютер был заряжен». Премьер-министр Энтони Албанезе назвал утечку «незначительной» с точки зрения влияния на личную приватность, отметив, что персональные данные не были скомпрометированы, но предупредил, что другие инциденты могут иметь куда более серьёзные последствия.
Обзор, в котором содержалось 18 рекомендаций, был полностью одобрен премьер-министром, и работа по внедрению изменений уже началась. Среди мер, которые рассматриваются, — создание нового регулятора по безопасности ИИ и шесть ключевых обязательств для компаний, работающих с ИИ. Исследователь ИИ Тоби Уолш заявил, что уголовная ответственность необходима, поскольку штрафов недостаточно, чтобы сдерживать богатые технологические компании.
OpenAI не сообщила австралийскому правительству об утечке до середины сентября, хотя узнала о ней в августе, и, по данным Guardian Australia, использовала ИИ для подготовки уведомительного письма.