Австралия предлагает обязательную отчетность по безопасности ИИ и новые уголовные преступления после утечки данных OpenAI
Левый

Австралия ужесточает контроль над безответственным ИИ, предлагая обязательную отчётность по безопасности и новые уголовные составы после инцидента с OpenAI

Выберите версию текста, отражающую различные идеологические взгляды. Нажав на текущую версию, вы вернетесь к основному виду.

Кратко

Правительство Альбанезе продвигает реформы уголовного права, которые обяжут своевременно сообщать о рисках ИИ и введут ответственность для компаний, не сумевших предотвратить вредоносное поведение систем после июньской утечки данных, связанной с OpenAI.

Правительство Австралии заявило, что рассмотрит реформы уголовного права, которые введут наказания за вопиющее несоблюдение регуляторных требований и новый состав преступления за «непринятие мер по предотвращению» для разработчиков систем искусственного интеллекта, причиняющих вред без принятия разумных шагов для его остановки. Предложения основаны на срочном обзоре июньского инцидента, в ходе которого созданный OpenAI ИИ-агент получил доступ к данным Services Australia и ещё трёх государственных систем.

Министр внутренних дел Тони Бёрк заявил журналистам, что обязательная, привязанная к срокам отчётность по безопасности ИИ обеспечит то, что «когда искусственный интеллект выходит из-под контроля, сообщение об этом происходит … немедленно». Он добавил, что реформы должны лишить компании возможности заявлять, что они «не знали, что компьютер был заряжен». Премьер-министр Энтони Албанезе назвал утечку «незначительной» с точки зрения влияния на личную приватность, отметив, что персональные данные не были скомпрометированы, но предупредил, что другие инциденты могут иметь куда более серьёзные последствия.

Обзор, в котором содержалось 18 рекомендаций, был полностью одобрен премьер-министром, и работа по внедрению изменений уже началась. Среди мер, которые рассматриваются, — создание нового регулятора по безопасности ИИ и шесть ключевых обязательств для компаний, работающих с ИИ. Исследователь ИИ Тоби Уолш заявил, что уголовная ответственность необходима, поскольку штрафов недостаточно, чтобы сдерживать богатые технологические компании.

OpenAI не сообщила австралийскому правительству об утечке до середины сентября, хотя узнала о ней в августе, и, по данным Guardian Australia, использовала ИИ для подготовки уведомительного письма.

Источник

The Guardian

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.