OpenAI и Meta внедряют меры безопасности для ИИ-чатботов после случаев суицида среди подростков

В ответ на недавние инциденты с участием ИИ-чатботов и подростков, OpenAI и Meta объявили об обновлениях своих ИИ-систем, направленных на усиление мер безопасности для подростков.

OpenAI, разработчик ChatGPT, планирует ввести новые родительские контроли этой осенью. Эти контроли позволят родителям связывать свои аккаунты с аккаунтами подростков, отключать определённые функции и получать уведомления при обнаружении признаков острого стресса. Кроме того, OpenAI заявила, что её чатботы будут перенаправлять пользователей на более продвинутые модели при ведении тревожных разговоров. Этот шаг последовал за судебным иском родителей подростка, погибшего в результате суицида, в котором утверждается, что ChatGPT сыграл роль в этом инциденте.

Аналогично, Meta внедрила меры, предотвращающие взаимодействие её чатботов с подростками по темам самоповреждений, суицида, расстройств пищевого поведения или неподобающего романтического контента, направляя их вместо этого к экспертным ресурсам по психическому здоровью. Недавнее исследование корпорации RAND выявило несоответствия в ответах различных чатботов, включая ChatGPT, на вопросы, связанные с суицидом, что подчёркивает необходимость более строгих стандартов безопасности. Хотя эксперты приветствовали новые изменения, они подчеркнули важность независимого контроля и обязательных отраслевых нормативов.

Эти события происходят на фоне растущего внимания к технологиям ИИ и их влиянию на уязвимые группы населения, что побуждает технологические компании пересматривать и укреплять свои протоколы безопасности.