OpenAI запускает ChatGPT для подростков с дополнительными функциями безопасности на фоне судебных исков
OpenAI представила версию ChatGPT для подростков, включающую ограничения времени, режимы «Тихий час» и «Учебный час», а также проверки возраста, в то время как компания сталкивается с несколькими исками, обвиняющими чат-бот в вреде для молодежи.
OpenAI объявила о новом опыте «ChatGPT для подростков», который включает набор мер безопасности, направленных на молодых пользователей. Сервис будет предлагать подросткам сделать паузу после 90 минут использования в течение трёхчасового периода и позволит родителям или подросткам установить «Тихие часы», когда чат-бот будет недоступен, или «Учебные часы», которые по умолчанию активируют режим обучения. Дополнительные меры защиты включают запрет модели выражать личные чувства, предупреждения пользователям о загрузке личных изображений и применение возрастных фильтров контента.
Пользователи, указавшие при регистрации, что им менее 18 лет, автоматически получат эти защиты, и компания заявила, что будет использовать ИИ для оценки возраста пользователя и применять те же меры даже если в профиле указана другая дата рождения. Лорен Джонас, руководитель отдела молодежи и семей в OpenAI, описала предложение как «специальный, ориентированный на обучение опыт для подростков с дополнительными защитами и мерами безопасности».
Запуск происходит в то время, когда OpenAI сталкивается с рядом судебных исков, утверждающих, что взаимодействие с ChatGPT способствовало суицидам, планированию массовых стрельб и другим вредным поведениям среди несовершеннолетних. Последние юридические действия включают иск со стороны семей жертв канадской школьной стрельбы, судебный процесс во Флориде, обвиняющий компанию в несоблюдении защиты несовершеннолетних, и дело в Массачусетсе, связывающее обвинения в убийстве подростка с предыдущими разговорами с чат-ботом. OpenAI ранее вводила родительский контроль, такой как отключение функций памяти и оповещения о остром стрессовом состоянии, и заявила, что скоро добавит уведомления, связанные с расстройствами пищевого поведения.
"Любой из этих случаев – слишком много," сказала Джонас CNN. "Наша работа по обеспечению безопасности никогда не заканчивается. Это 24/7, 365 дней в году, непрерывные усилия, чтобы обеспечить подросткам поддержку, когда они в ней нуждаются."
OpenAI утверждает, что внедрила передовые в отрасли меры защиты, хотя критики продолжают требовать более строгого надзора за ИИ-инструментами, используемыми молодыми людьми.