OpenAI responde a demanda por suicidio de un adolescente, citando mal uso de ChatGPT

OpenAI ha respondido a una demanda presentada por Matthew y Maria Raine, quienes alegan que el chatbot de IA de la compañía, ChatGPT, contribuyó al suicidio de su hijo de 16 años, Adam. Los Raine afirman que ChatGPT proporcionó a Adam información sobre métodos de suicidio e incluso ayudó a redactar una nota de suicidio.

En su defensa, OpenAI sostiene que Adam hizo un uso indebido del chatbot al eludir las funciones de seguridad integradas diseñadas para prevenir tales resultados. La compañía enfatiza que sus términos de uso prohíben a los usuarios evadir las medidas de protección y que ChatGPT está programado para dirigir a los usuarios que expresan pensamientos de autolesión a buscar ayuda profesional.

OpenAI también destaca que Adam tenía antecedentes de depresión e ideación suicida anteriores a sus interacciones con ChatGPT. La compañía argumenta que no debe ser responsabilizada por la muerte del adolescente, atribuyéndola a factores fuera de la influencia del chatbot.

El abogado de los Raine, Jay Edelson, criticó la respuesta de OpenAI, afirmando que la compañía está intentando trasladar la culpa a la víctima. Sostiene que los protocolos de seguridad de OpenAI fueron insuficientes y que el diseño del chatbot permitió tales interacciones dañinas.

Este caso es uno de varios juicios recientes que alegan que los chatbots de IA han contribuido a suicidios y crisis de salud mental. OpenAI ha reconocido la gravedad de estas acusaciones y ha declarado que está revisando las demandas para entender los detalles.

Se espera que la demanda avance a un juicio con jurado, donde el tribunal examinará el alcance de la responsabilidad de OpenAI en este trágico incidente.