OpenAI представляет ChatGPT для подростков с улучшенными функциями безопасности

OpenAI объявила о запуске нового варианта ChatGPT, специально разработанного для подростков в возрасте от 13 до 17 лет. Сервис, который стал доступен во вторник, включает более жёсткие меры защиты по темам, таким как суицид, самоповреждение и сексуальный контент, и предназначен для поддержки домашней работы и учёбы без простого предоставления готовых ответов.

Компания заявила, что модель, ориентированная на подростков, направлена на продвижение здорового использования ИИ при учёте стадии развития её пользователей. > "Мы хотим относиться к подросткам как к подросткам, а это значит, что мы должны убедиться, что подходим к ним с правильным уровнем развития, не разговаривая с ними снисходительно и не относясь к ним как к детям, но при этом гарантируя, что они не будут подвергаться материалу, к которому им не следует иметь доступ," сказала Энн О’Лири, вице-президент OpenAI по глобальной политике.

Родители, привязывающие свои аккаунты к профилю подростка, могут установить «тихие часы», блокирующие доступ, и получать оповещения о безопасности в ситуациях высокого риска, таких как потенциальное самоповреждение. OpenAI также сообщила, что добавляет уведомления, связанные с расстройствами пищевого поведения, ограничивая при этом информацию, предоставляемую в такие моменты.

Чат-бот запрограммирован избегать заявлений о наличии личных чувств или сознания, что направлено на снижение риска формирования эмоциональной привязанности пользователями. > "Мы проанализировали и выявили гипотетические сигналы, которые модель могла бы давать, заставляющие подростка развить к ней отношение," сказала Эллисон Мишкин, руководитель отдела детского развития в OpenAI.

Проверка возраста опирается на систему оценки, которая помечает пользователей, выглядящих младше 18 лет, по их запросам; выявленные несовершеннолетние автоматически переводятся в подростковую версию. Родительский контроль требует согласия как подростка, так и опекуна, хотя OpenAI утверждает, что платформа безопасна и без этих настроек.

OpenAI уже предлагает версию ChatGPT для преподавателей, а подростковая модель расширяет портфель инструментов, ориентированных на школы и более молодых пользователей.