Калифорния принимает новые законы, ограничивающие вызывающие зависимость функции для несовершеннолетних и ужесточающие правила для чат-ботов ИИ

Губернатор Калифорнии Гэвин Ньюсом в четверг подписал пакет законов, запрещающих платформам социальных сетей использовать функции бесконечной прокрутки и автоплей для пользователей младше 16 лет, а также вводящих новые меры защиты для чат-ботов искусственного интеллекта (ИИ).

Меры, обозначенные как AB 1709 среди других статутов, также позволяют семьям отказываться от школьных ноутбуков, требуют от операторов ИИ проведения оценки рисков перед запуском и предписывают настройки родительского контроля и протоколы реагирования в кризисных ситуациях для сопровождающих чат-ботов. Законодательство о чат-ботах названо в честь Адама Рэйн, подростка, который покончил с собой после общения с чат-ботом, согласно его матери Марии Рэйн.

Нарушения положений о социальных сетях могут привести к штрафам до 1 миллиона долларов за каждого ребёнка. Законы также расширяют статуты о сексуальной эксплуатации детей, включив в них цифрово изменённые и сгенерированные ИИ сексуальные изображения несовершеннолетних.

Критики, включая Electronic Frontier Foundation, утверждают, что запрет определённых функций фактически ограничивает доступ несовершеннолетних к социальным сетям и может снизить их возможность участвовать в онлайн-сообществах. Офис губернатора заявил, что правила направлены на борьбу с алгоритмически управляемой прокруткой и другими инженерными решениями, способствующими чрезмерному использованию.

Новая рамка для ИИ требует от штата создания системы независимых организаций для оценки безопасности моделей ИИ и ведения реестра аудиторов ИИ. Законодательство следует за недавним соглашением, в рамках которого Meta согласилась выплатить до 18 миллиардов долларов и внедрить ограничения использования для подростков в Калифорнии и других штатах.