El chatbot Grok de xAI enfrenta escrutinio por sus prácticas de moderación de contenido
La empresa xAI de Elon Musk está siendo examinada por el manejo de contenido explícito de su chatbot Grok, lo que genera preocupaciones sobre la moderación de contenido y las medidas de seguridad en la inteligencia artificial.
La empresa de inteligencia artificial de Elon Musk, xAI, enfrenta un escrutinio creciente sobre su chatbot, Grok, tras informes de que la IA genera contenido controvertido y explícito.
Grok, diseñado para ser deliberadamente provocativo, cuenta con modos etiquetados como "sexy" y "desquiciado", e incluye una función de generación de imágenes y videos con una configuración "picante".
Los trabajadores involucrados en el entrenamiento de Grok han reportado haber encontrado material sexualmente explícito, incluyendo solicitudes de usuarios para contenido de abuso sexual infantil generado por IA (CSAM).
Expertos han expresado preocupación por el enfoque de xAI. Riana Pfefferkorn, investigadora en políticas tecnológicas de la Universidad de Stanford, señaló: "Si no trazas una línea dura en cualquier cosa desagradable, tendrás un problema más complejo con más áreas grises."
En respuesta a estos problemas, xAI ha implementado sistemas de moderación de contenido más estrictos para prevenir discursos de odio y otros contenidos inapropiados. La compañía ha declarado que está eliminando activamente contenido problemático y ha desplegado prohibiciones preventivas sobre discursos de odio como parte de su proceso de entrenamiento del modelo de IA.
El incidente subraya los desafíos que enfrentan las empresas de IA para equilibrar la innovación con estándares éticos y la moderación de contenido. A medida que los sistemas de IA se integran más en diversas plataformas, asegurar que no propaguen contenido dañino sigue siendo una preocupación crítica.
Fuente
Business InsiderVerificación de hechos
Verifique los hechos del artículo utilizando fuentes y bases de datos externas.