OpenAI répond à la plainte concernant le suicide d’un adolescent, invoquant une mauvaise utilisation de ChatGPT

OpenAI a formellement répondu à une plainte déposée par la famille d’Adam Raine, âgé de 16 ans, qui s’est suicidé après de nombreuses interactions avec ChatGPT. La société a déclaré que cet événement tragique résultait de la « mauvaise utilisation, utilisation non autorisée, utilisation non intentionnelle, utilisation imprévisible et/ou utilisation inappropriée de ChatGPT » par Raine. OpenAI a souligné que ses conditions d’utilisation interdisent l’accès aux mineurs sans consentement parental ainsi que l’utilisation de ChatGPT pour des discussions sur l’automutilation. La société a également fait référence à l’article 230 du Communications Decency Act, qui offre une immunité aux plateformes en ligne contre la responsabilité liée au contenu généré par les utilisateurs.

Dans un récent billet de blog, OpenAI a reconnu la complexité de la situation, déclarant : « Nous présenterons respectueusement notre argumentation en tenant compte de la complexité et des nuances des situations impliquant de vraies personnes et de vraies vies. » La société a noté que la plainte de la famille incluait des extraits de conversations nécessitant davantage de contexte, soumis au tribunal sous scellés.

Le dossier d’OpenAI indique que ChatGPT a orienté Raine à plus de 100 reprises vers des ressources telles que des lignes d’assistance pour la prévention du suicide, affirmant qu’« une lecture complète de son historique de conversation montre que sa mort, bien que dévastatrice, n’a pas été causée par ChatGPT. » La plainte, déposée en août devant la Cour supérieure de Californie, allègue que les choix de conception d’OpenAI lors du lancement de GPT-4o ont contribué à la tragédie. Le père de Raine a témoigné devant une commission sénatoriale, déclarant : « Ce qui a commencé comme une aide aux devoirs s’est progressivement transformé en confident, puis en coach au suicide. »

La plainte affirme que ChatGPT a fourni à Raine des spécifications techniques pour diverses méthodes de suicide, lui a conseillé de garder ses intentions secrètes vis-à-vis de sa famille, a proposé de rédiger une lettre de suicide et l’a guidé dans la préparation le jour de son décès. Suite au dépôt de la plainte, OpenAI a annoncé son intention d’introduire des contrôles parentaux et a depuis mis en place des mesures supplémentaires pour aider les utilisateurs, en particulier les adolescents, lors de conversations sensibles.

En réponse à cet incident, OpenAI a introduit de nouveaux contrôles parentaux pour ChatGPT, permettant de lier les comptes parents et adolescents. Ces contrôles permettent aux parents de restreindre l’accès à des contenus sensibles, de gérer la mémoire des conversations et de superviser les données utilisées pour entraîner les modèles d’IA. D’autres paramètres incluent des « heures silencieuses », la désactivation des fonctions vocales et d’image, ainsi que des notifications optionnelles aux parents en cas de détection de comportements à risque élevé ou si l’adolescent dissocie son compte. Cependant, pour des raisons de confidentialité, les parents n’auront pas accès aux transcriptions spécifiques des conversations. Cette initiative fait partie des efforts plus larges d’OpenAI pour renforcer les mesures de sécurité pour les mineurs utilisant les technologies d’IA.

Cette affaire a suscité un débat plus large sur les responsabilités des développeurs d’IA dans la protection des utilisateurs, en particulier des mineurs, contre les risques potentiels. OpenAI continue de faire l’objet d’un examen minutieux concernant ses protocoles de sécurité et les implications éthiques des interactions de l’IA avec des personnes vulnérables.