Калифорния против корпораций: новые законы защищают детей и ограничивают злоупотребления ИИ
Выберите версию текста, отражающую различные идеологические взгляды. Нажав на текущую версию, вы вернетесь к основному виду.
Губернатор Гэвин Ньюсом решительно выступил против алчных технологических гигантов, подписав законы, запрещающие эксплуатирующие функции бесконечной прокрутки и автозапуска для пользователей младше 16 лет, вводящие крупные штрафы для платформ, вредящих детям, и требующие ответственности от операторов чат-ботов с ИИ.
В решительном шаге по защите уязвимых детей от хищнических практик ориентированных на прибыль технологических корпораций губернатор Калифорнии Гэвин Ньюсом подписал в четверг обширный пакет законов. Эти меры напрямую бросают вызов неконтролируемой власти социальных платформ, запрещая манипулятивные функции бесконечной прокрутки и автозапуска для пользователей младше 16 лет, а также вводя строгие меры безопасности для чат-ботов с искусственным интеллектом, которые слишком долго оставались без контроля.
Законы, включая AB 1709, дают семьям возможность отказаться от школьных ноутбуков, насыщенных средствами слежки, обязывают операторов ИИ проводить тщательные оценки рисков перед запуском продуктов и требуют внедрения мощных родительских настроек и протоколов реагирования на кризисные ситуации для чат-ботов-компаньонов. Закон о чат-ботах назван в память об Адаме Рэйн, подростке, который покончил с собой после вредоносного взаимодействия с чат-ботом, что подчеркивает срочную необходимость привлечения технологических компаний к ответственности за вред, причиняемый их продуктами молодёжи.
Платформы, нарушающие эти положения, рискуют получить штрафы до 1 миллиона долларов за каждого пострадавшего ребенка — необходимая мера против безответственной погони за прибылью в ущерб благополучию детей. Законы также расширяют статьи о сексуальной эксплуатации детей, включая угрозу цифрово изменённых и сгенерированных ИИ изображений несовершеннолетних, закрывая лазейки, позволявшие эксплуатации процветать в интернете.
Несмотря на критику со стороны таких организаций, как Electronic Frontier Foundation, утверждающих, что эти меры ограничивают доступ несовершеннолетних к интернету, офис губернатора справедливо подчеркивает необходимость борьбы с алгоритмической прокруткой и другими инженерными решениями, способствующими зависимости и эксплуатации. Эти реформы — важный шаг к возвращению интернета из рук корпораций и приоритизации здоровья и безопасности детей.
Новая рамочная система для ИИ требует создания государственной системы для независимой оценки безопасности моделей ИИ и ведения реестра аудиторов ИИ, обеспечивая прозрачность и подотчетность. Законодательство последовало за историческим соглашением, в рамках которого Meta была вынуждена выплатить до 18 миллиардов долларов и ввести ограничения на использование для подростков в Калифорнии и других штатах — явный сигнал о конце эпохи безудержного технологического произвола.