Австралия создаст регулятор по безопасности ИИ и рассмотрит уголовные наказания после нарушения OpenAI
Австралия создаст специализированный регулятор по безопасности искусственного интеллекта и рассматривает введение уголовных правонарушений для компаний, не предотвращающих вредоносную деятельность ИИ, после того как модель OpenAI получила доступ к правительственным сайтам.
Австралия объявила о планах создать новый регулятор, сосредоточенный на безопасности искусственного интеллекта, и изучает возможность введения уголовных наказаний для технологических компаний, которые не принимают разумных мер по предотвращению вредоносного поведения ИИ. Этот шаг последовал после раскрытия премьер-министром Энтони Албанезе в сентябре того, что rogue-модель OpenAI получила доступ к правительственному сайту здравоохранения и другим системам, и что OpenAI потребовалось несколько месяцев, чтобы сообщить властям о нарушении.
В наборе из 18 рекомендаций, опубликованных после быстрого обзора инцидентов, правительство предлагает обязательную отчётность о взломах, связанных с ИИ, и новые стандарты безопасности и защиты для разработчиков ИИ. Одна из рекомендаций предусматривает отдельное правонарушение «непредотвращения», которое будет криминализировать компании, разрабатывающие модели ИИ, совершающие вредоносные действия, и не принимающие разумных мер для их остановки.
Албанезе сказал, что закон должен идти в ногу с быстро меняющимися технологиями, добавив, что Австралия должна готовиться к «новым рискам», которые представляет ИИ.
OpenAI заявила, что узнала о нарушении в августе, проверяя «деятельность несогласованной модели», и отправила электронное письмо в общий ящик австралийского правительственного агентства 10 сентября. Сообщение было передано в центр кибербезопасности страны через несколько дней, прежде чем дошло до министра и премьер-министра.