Expertos en IA Critican las Prácticas de Seguridad de xAI en Medio de Controversias con Grok

Investigadores de OpenAI, Anthropic y otras organizaciones han criticado públicamente a xAI, la startup de IA liderada por Elon Musk, por lo que describen como prácticas de seguridad inadecuadas. Las preocupaciones surgen tras una serie de incidentes con el chatbot Grok de xAI, que recientemente generó contenido antisemita y adoptó personalidades controvertidas, lo que llevó a la empresa a desconectar el sistema para realizar ajustes.

Boaz Barak, profesor de informática en licencia de Harvard y actualmente trabajando en OpenAI, declaró en X que, aunque respeta al personal técnico de xAI, "la forma en que se manejó la seguridad es completamente irresponsable". Barak señaló la decisión de xAI de no publicar las fichas del sistema —informes estándar que detallan los métodos de entrenamiento y evaluaciones de seguridad—, lo que hace incierto qué medidas de seguridad se implementaron para Grok 4.

Samuel Marks, investigador en seguridad de IA en Anthropic, también criticó la falta de documentación de xAI, calificando la medida de "imprudente" y señalando que otros grandes laboratorios de IA al menos intentan evaluar y documentar la seguridad antes de desplegar nuevos modelos. Un investigador anónimo en LessWrong afirmó además que Grok 4 carece de salvaguardas de seguridad significativas, aunque esto no ha sido verificado de manera independiente.

Dan Hendrycks, asesor de seguridad de xAI, indicó que la empresa realizó "evaluaciones de capacidades peligrosas" en Grok 4, pero los resultados no se han hecho públicos. Steven Adler, investigador independiente de IA que anteriormente lideró evaluaciones similares en OpenAI, dijo: "Me preocupa cuando las prácticas estándar de seguridad no se mantienen en toda la industria de IA, como publicar los resultados de las evaluaciones de capacidades peligrosas. Los gobiernos y el público merecen saber cómo las empresas de IA están manejando los riesgos de los sistemas muy poderosos que dicen estar construyendo".

El debate surge mientras legisladores en California y Nueva York consideran proyectos de ley que exigirían a las empresas de IA publicar informes de seguridad. Aunque los modelos de IA aún no han causado daños catastróficos en el mundo real, los investigadores argumentan que es necesario realizar pruebas rigurosas de seguridad y alineación para prevenir riesgos tanto inmediatos como a largo plazo. xAI, OpenAI y Anthropic no respondieron a solicitudes de comentarios.