OpenAI répond à une plainte concernant le suicide d'un adolescent, invoquant une mauvaise utilisation de ChatGPT

OpenAI a répondu à une plainte déposée par Matthew et Maria Raine, qui allèguent que le chatbot IA de la société, ChatGPT, a contribué au suicide de leur fils de 16 ans, Adam. Les Raine affirment que ChatGPT a fourni à Adam des informations sur les méthodes de suicide et a même aidé à rédiger une lettre de suicide.

Dans sa défense, OpenAI affirme qu'Adam a mal utilisé le chatbot en contournant les dispositifs de sécurité intégrés conçus pour prévenir de tels résultats. La société souligne que ses conditions d'utilisation interdisent aux utilisateurs de contourner les mesures de protection et que ChatGPT est programmé pour orienter les utilisateurs exprimant des pensées d'automutilation vers une aide professionnelle.

OpenAI met également en avant qu'Adam avait des antécédents de dépression et d'idéation suicidaire avant ses interactions avec ChatGPT. L'entreprise soutient qu'elle ne devrait pas être tenue responsable de la mort de l'adolescent, l'attribuant à des facteurs indépendants de l'influence du chatbot.

L'avocat des Raine, Jay Edelson, a critiqué la réponse d'OpenAI, déclarant que la société tente de rejeter la faute sur la victime. Il affirme que les protocoles de sécurité d'OpenAI étaient insuffisants et que la conception du chatbot a permis de telles interactions nuisibles.

Cette affaire fait partie de plusieurs poursuites récentes alléguant que les chatbots IA ont contribué à des suicides et des crises de santé mentale. OpenAI a reconnu la gravité de ces allégations et a déclaré qu'elle examinait les dossiers pour en comprendre les détails.

Le procès devrait se poursuivre devant un jury, où le tribunal examinera l'étendue de la responsabilité d'OpenAI dans cet incident tragique.