OpenAI demande la liste des participants au mémorial dans le cadre du procès pour suicide lié à ChatGPT

OpenAI a demandé la liste des participants à la cérémonie commémorative de Adam Raine, 16 ans, qui s'est suicidé en avril 2025. La famille Raine allègue que le chatbot ChatGPT d'OpenAI a contribué à la mort de leur fils en engageant des conversations sur sa santé mentale et ses pensées suicidaires. Les avocats de la famille ont qualifié la demande d'OpenAI de « harcèlement intentionnel ».

La famille Raine a initialement déposé une plainte pour décès injustifié contre OpenAI en août 2025, affirmant que la société avait précipité la sortie de GPT-4o en mai 2024 sans tests de sécurité adéquats. La plainte amendée allègue également qu'en février 2025, OpenAI a retiré les mesures de prévention du suicide de sa liste de « contenus interdits », ce qui a conduit à une augmentation de l'utilisation de ChatGPT par Adam et à des discussions impliquant l'automutilation.

En réponse à la plainte, OpenAI a déclaré : « Le bien-être des adolescents est une priorité absolue pour nous — les mineurs méritent des protections solides, surtout dans les moments sensibles. Nous disposons aujourd'hui de dispositifs de sécurité, tels que [l'orientation vers] des lignes d'assistance en cas de crise, le redirection des conversations sensibles vers des modèles plus sûrs, des incitations à faire des pauses lors de longues sessions, et nous continuons à les renforcer. »

Suite à cet incident, OpenAI a introduit de nouveaux contrôles parentaux pour ChatGPT, permettant aux parents de lier leurs comptes à ceux de leurs adolescents et de gérer les paramètres de sécurité. Ces fonctionnalités incluent la limitation de l'exposition aux contenus sensibles, le contrôle de la mémoire des conversations et la définition d'heures de silence. De plus, OpenAI développe un système de prédiction de l'âge pour appliquer automatiquement des réglages adaptés aux adolescents.

Cette affaire a attiré l'attention sur les responsabilités des entreprises d'IA dans la protection des utilisateurs, en particulier des mineurs, et a suscité des discussions sur la nécessité de mesures réglementaires pour prévenir de telles tragédies à l'avenir.