Группа по защите детей призывает школы отключить функции AI в поиске Google
Отчет Common Sense Media утверждает, что AI-поиск Google представляет значительные риски для учащихся, и требует от школ отключить эту функцию или полностью отказаться от продуктов Google.
Недавнее исследование организации по защите детей Common Sense Media показало, что AI-усиленный поиск Google, известный как AI Mode, представляет "недопустимый риск" для учащихся K-12. В отчете рекомендуется, чтобы школы либо отключали функцию AI, либо прекращали использовать поиск Google, пока компания не предоставит способ отключения этой функции для образовательных аккаунтов.
Робби Торни, старший директор программ AI в Common Sense Media, сказал, что Google является доминирующим игроком как в поиске, так и в образовании, отмечая, что инструменты AI компании интегрированы в широко используемые продукты, такие как Chromebook и Google Workspace for Education. Исследователи выявили, что AI-обзоры могут повторять дезинформацию, а AI часто завершает домашние задания, вызывая опасения по поводу академической честности и возможности введения студентов в заблуждение.
"Они внедряют AI в развитийно неприемлемых формах через поиск," сказала Аманда Бикерстафф, заместитель директора по AI в образовании, добавив, что нет оправдания тому, чтобы дети любого возраста получали ответы, сгенерированные AI, от поисковой системы.
В настоящее время Google не позволяет администраторам отключать только AI-компоненты, оставляя стандартный поиск рабочим, что означает, что студенты всё ещё могут сталкиваться с генерируемым AI контентом во время учебных заданий. Родители могут полностью заблокировать Google.com, но это также лишит их доступа к более широкому набору образовательных инструментов Google.
В ответ Google заявил, что тестирование Common Sense Media было ограниченным и не является эффективной мерой безопасности продукта, при этом утверждая, что опыт AI-поиска одинаков для потребительских и образовательных аккаунтов.
Защитники, такие как Дэвид Монахан из Fairplay for Kids и Аня Мексин из Schools Beyond Screens, утверждают, что риски — включая воздействие дезинформации и потенциальный вред психическому здоровью — требуют моратория на использование AI в классах и, при необходимости, прекращения контрактов с Google.
Юридические эксперты отмечают, что школы могут столкнуться с ответственностью, аналогичной случаям, связанным с другими платформами Alphabet, подчёркивая срочность для районов искать более строгий контроль или рассматривать альтернативных поставщиков.