Le chatbot Grok de xAI fait l'objet d'un examen critique concernant ses pratiques de modération de contenu
La société xAI d'Elon Musk est examinée pour la gestion par son chatbot Grok de contenus explicites, soulevant des inquiétudes sur la modération des contenus par l'IA et les mesures de sécurité.
La société d'intelligence artificielle d'Elon Musk, xAI, fait face à un examen accru concernant son chatbot, Grok, suite à des rapports indiquant que l'IA générait des contenus controversés et explicites.
Grok, conçu pour être délibérément provocateur, propose des modes intitulés « sexy » et « déchaîné », et inclut une fonctionnalité de génération d'images et de vidéos avec un réglage « épicé ».
Les travailleurs impliqués dans la formation de Grok ont rapporté avoir rencontré du matériel sexuellement explicite, y compris des demandes d'utilisateurs pour des contenus d'abus sexuels sur enfants générés par l'IA (CSAM).
Des experts ont exprimé leurs inquiétudes quant à l'approche de xAI. Riana Pfefferkorn, chercheuse en politique technologique à l'université de Stanford, a noté : « Si vous ne tracez pas une ligne dure sur tout ce qui est désagréable, vous aurez un problème plus complexe avec davantage de zones grises. »
En réponse à ces problèmes, xAI a mis en place des systèmes de modération de contenu plus stricts pour prévenir les discours haineux et autres contenus inappropriés. La société a déclaré qu'elle supprimait activement les contenus problématiques et avait déployé des interdictions préventives sur les discours haineux dans le cadre de son processus de formation des modèles d'IA.
Cet incident souligne les défis auxquels les entreprises d'IA sont confrontées pour équilibrer innovation, normes éthiques et modération de contenu. À mesure que les systèmes d'IA s'intègrent davantage aux différentes plateformes, garantir qu'ils ne propagent pas de contenus nuisibles demeure une préoccupation cruciale.
Source
Business InsiderVérification des faits
Vérifiez les faits de l'article en utilisant des sources et des bases de données externes.