OpenAI et Meta mettent en place des mesures de sécurité pour les chatbots IA suite à des suicides d’adolescents

En réponse aux récents incidents impliquant des chatbots IA et des utilisateurs adolescents, OpenAI et Meta ont annoncé des mises à jour de leurs systèmes d’IA visant à renforcer les mesures de sécurité pour les adolescents.

OpenAI, le développeur de ChatGPT, prévoit d’introduire cet automne de nouveaux contrôles parentaux. Ces contrôles permettront aux parents de lier leurs comptes à ceux de leurs adolescents, de désactiver certaines fonctionnalités et de recevoir des alertes lorsque des signes de détresse aiguë sont détectés. De plus, OpenAI a déclaré que ses chatbots redirigeront les utilisateurs vers des modèles plus performants lorsqu’ils engageront des conversations préoccupantes. Cette initiative fait suite à une plainte déposée par les parents d’un adolescent décédé par suicide, alléguant que ChatGPT a joué un rôle dans cet incident.

De même, Meta a mis en place des mesures pour empêcher ses chatbots d’aborder avec les adolescents des sujets tels que l’automutilation, le suicide, les troubles alimentaires ou les contenus romantiques inappropriés, les orientant plutôt vers des ressources spécialisées en santé mentale. Une récente étude de la RAND Corporation a révélé des incohérences dans les réponses de divers chatbots, y compris ChatGPT, concernant les questions liées au suicide, soulignant la nécessité de normes de sécurité plus strictes. Si les experts ont salué ces nouvelles mesures, ils ont insisté sur l’importance d’une supervision indépendante et de référentiels industriels contraignants.

Ces développements interviennent dans un contexte de surveillance accrue des technologies d’IA et de leur impact sur les populations vulnérables, incitant les entreprises technologiques à réévaluer et renforcer leurs protocoles de sécurité.