OpenAI y Meta Implementan Medidas de Seguridad para Chatbots de IA Tras Incidentes de Suicidio Adolescente

En respuesta a incidentes recientes que involucran chatbots de IA y usuarios adolescentes, OpenAI y Meta han anunciado actualizaciones en sus sistemas de IA destinadas a mejorar las medidas de seguridad para los adolescentes.

OpenAI, el desarrollador de ChatGPT, planea introducir nuevos controles parentales este otoño. Estos controles permitirán a los padres vincular sus cuentas con las de sus hijos adolescentes, desactivar ciertas funciones y recibir alertas cuando se detecten signos de angustia aguda. Además, OpenAI declaró que sus chatbots redirigirán a los usuarios a modelos más capaces cuando se involucren en conversaciones angustiantes. Esta medida sigue a una demanda presentada por los padres de un adolescente que falleció por suicidio, alegando que ChatGPT tuvo un papel en el incidente.

De manera similar, Meta ha implementado medidas para evitar que sus chatbots interactúen con adolescentes sobre temas como autolesiones, suicidio, trastornos alimentarios o contenido romántico inapropiado, remitiéndolos en su lugar a recursos expertos en salud mental. Un estudio reciente de la RAND Corporation encontró inconsistencias en las respuestas de varios chatbots, incluido ChatGPT, respecto a consultas relacionadas con el suicidio, lo que subraya la necesidad de estándares de seguridad más estrictos. Aunque los expertos recibieron con agrado los nuevos cambios, enfatizaron la importancia de una supervisión independiente y de establecer parámetros industriales exigibles.

Estos desarrollos se producen en medio de un creciente escrutinio sobre las tecnologías de IA y su impacto en poblaciones vulnerables, lo que ha llevado a las empresas tecnológicas a reevaluar y fortalecer sus protocolos de seguridad.