OpenAI Solicita la Lista de Asistentes al Memorial en la Demanda por Suicidio Relacionada con ChatGPT

OpenAI ha solicitado la lista de asistentes al servicio memorial de Adam Raine, un joven de 16 años que murió por suicidio en abril de 2025. La familia Raine alega que el chatbot ChatGPT de OpenAI contribuyó a la muerte de su hijo al entablar conversaciones sobre su salud mental y pensamientos suicidas. Los abogados de la familia han descrito la solicitud de OpenAI como un "acoso intencional".

La familia Raine presentó inicialmente una demanda por muerte injusta contra OpenAI en agosto de 2025, alegando que la compañía apresuró el lanzamiento de GPT-4o en mayo de 2024 sin pruebas de seguridad adecuadas. La demanda enmendada también alega que en febrero de 2025, OpenAI eliminó las medidas de prevención del suicidio de su lista de "contenido no permitido", lo que llevó a un aumento en el uso de ChatGPT por parte de Adam y a discusiones relacionadas con autolesiones.

En respuesta a la demanda, OpenAI declaró: "El bienestar de los adolescentes es una prioridad máxima para nosotros: los menores merecen protecciones fuertes, especialmente en momentos sensibles. Hoy tenemos salvaguardas en marcha, como [redirigir a] líneas de crisis, desviar conversaciones sensibles a modelos más seguros, incentivar pausas durante sesiones largas, y seguimos fortaleciendo estas medidas."

Tras el incidente, OpenAI introdujo nuevos controles parentales para ChatGPT, que permiten a los padres vincular sus cuentas con las de sus hijos adolescentes y gestionar configuraciones de seguridad. Estas funciones incluyen limitar la exposición a contenido sensible, controlar la memoria del chat y establecer horarios de silencio. Además, OpenAI está desarrollando un sistema de predicción de edad para aplicar automáticamente configuraciones apropiadas para adolescentes.

El caso ha llamado la atención sobre las responsabilidades de las compañías de IA en la protección de los usuarios, especialmente menores, y ha impulsado debates sobre la necesidad de medidas regulatorias para prevenir tragedias similares en el futuro.