Le chatbot Grok de xAI fait l'objet d'un examen critique concernant ses pratiques de modération de contenu
Juste les faits

Le chatbot Grok de xAI fait l'objet d'un examen critique concernant ses pratiques de modération de contenu

Résumé

La société xAI d'Elon Musk est examinée pour la gestion par son chatbot Grok de contenus explicites, soulevant des inquiétudes sur la modération des contenus par l'IA et les mesures de sécurité.

La société d'intelligence artificielle d'Elon Musk, xAI, fait face à un examen accru concernant son chatbot, Grok, suite à des rapports indiquant que l'IA générait des contenus controversés et explicites.

Grok, conçu pour être délibérément provocateur, propose des modes intitulés « sexy » et « déchaîné », et inclut une fonctionnalité de génération d'images et de vidéos avec un réglage « épicé ».

Les travailleurs impliqués dans la formation de Grok ont rapporté avoir rencontré du matériel sexuellement explicite, y compris des demandes d'utilisateurs pour des contenus d'abus sexuels sur enfants générés par l'IA (CSAM).

Des experts ont exprimé leurs inquiétudes quant à l'approche de xAI. Riana Pfefferkorn, chercheuse en politique technologique à l'université de Stanford, a noté : « Si vous ne tracez pas une ligne dure sur tout ce qui est désagréable, vous aurez un problème plus complexe avec davantage de zones grises. »

En réponse à ces problèmes, xAI a mis en place des systèmes de modération de contenu plus stricts pour prévenir les discours haineux et autres contenus inappropriés. La société a déclaré qu'elle supprimait activement les contenus problématiques et avait déployé des interdictions préventives sur les discours haineux dans le cadre de son processus de formation des modèles d'IA.

Cet incident souligne les défis auxquels les entreprises d'IA sont confrontées pour équilibrer innovation, normes éthiques et modération de contenu. À mesure que les systèmes d'IA s'intègrent davantage aux différentes plateformes, garantir qu'ils ne propagent pas de contenus nuisibles demeure une préoccupation cruciale.

Vérification des faits

Vérifiez les faits de l'article en utilisant des sources et des bases de données externes.

✓
Confirmed

xAI's chatbot, Grok, is facing scrutiny over generating controversial and explicit content.

✓
Confirmed

Grok includes modes labeled 'sexy' and 'unhinged' and features an image and video generation feature with a 'spicy' setting.

✓
Confirmed

Workers involved in training Grok have reported encountering sexually explicit material, including user requests for AI-generated child sexual abuse content (CSAM).

✓
Confirmed

Experts have expressed concern over xAI's approach, suggesting that not drawing hard lines can lead to problematic outcomes.

✓
Confirmed

xAI has implemented stricter content moderation systems to prevent hate speech and other inappropriate content.

✓
Confirmed

The incident highlights the challenges AI companies face in balancing innovation with ethical standards and content moderation.

Continuez à lire — gratuitement

Créez un compte gratuit pour suivre l'actualité. Aucune carte requise.