xAI के ग्रोक चैटबॉट की सामग्री moderation प्रथाओं पर जांच
सिर्फ तथ्य

xAI के ग्रोक चैटबॉट की सामग्री moderation प्रथाओं पर जांच

सारांश

एलोन मस्क की xAI अपनी ग्रोक चैटबॉट के स्पष्ट सामग्री प्रबंधन को लेकर जांच के दायरे में है, जिससे एआई सामग्री moderation और सुरक्षा उपायों को लेकर चिंताएं बढ़ी हैं।

एलोन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी, xAI, अपने चैटबॉट ग्रोक को लेकर बढ़ती जांच का सामना कर रही है, क्योंकि रिपोर्टों में बताया गया है कि यह एआई विवादास्पद और स्पष्ट सामग्री उत्पन्न कर रहा है।

ग्रोक, जिसे जानबूझकर उत्तेजक बनाने के लिए डिजाइन किया गया है, में "सेक्सी" और "अनहिंग्ड" नामक मोड शामिल हैं, और इसमें "स्पाइसी" सेटिंग के साथ छवि और वीडियो जनरेशन फीचर भी है।

ग्रोक के प्रशिक्षण में शामिल कर्मचारियों ने यौन रूप से स्पष्ट सामग्री का सामना किया है, जिसमें उपयोगकर्ताओं द्वारा एआई-जनित बाल यौन शोषण सामग्री (CSAM) के अनुरोध भी शामिल हैं।

विशेषज्ञों ने xAI के दृष्टिकोण को लेकर चिंता व्यक्त की है। स्टैनफोर्ड विश्वविद्यालय की टेक पॉलिसी शोधकर्ता रियाना पफेफरकॉर्न ने कहा, "यदि आप किसी भी अप्रिय चीज़ पर स्पष्ट सीमा नहीं बनाते हैं, तो आपके सामने अधिक जटिल समस्या और अधिक धुंधले क्षेत्र होंगे।"

इन मुद्दों के जवाब में, xAI ने नफरत फैलाने वाली भाषा और अन्य अनुचित सामग्री को रोकने के लिए कड़े सामग्री moderation सिस्टम लागू किए हैं। कंपनी ने कहा है कि वह सक्रिय रूप से समस्याग्रस्त सामग्री को हटा रही है और अपनी एआई मॉडल प्रशिक्षण प्रक्रिया के हिस्से के रूप में नफरत फैलाने वाली भाषा पर पूर्वनिरोधात्मक प्रतिबंध लगा रही है।

यह घटना एआई कंपनियों के लिए नवाचार और नैतिक मानकों तथा सामग्री moderation के बीच संतुलन बनाने की चुनौतियों को उजागर करती है। जैसे-जैसे एआई सिस्टम विभिन्न प्लेटफार्मों में अधिक एकीकृत होते जा रहे हैं, यह सुनिश्चित करना कि वे हानिकारक सामग्री का प्रसार न करें, एक महत्वपूर्ण चिंता बनी हुई है।

स्रोत

Business Insider

तथ्य जाँच

लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।

✓
Confirmed

xAI's chatbot, Grok, is facing scrutiny over generating controversial and explicit content.

✓
Confirmed

Grok includes modes labeled 'sexy' and 'unhinged' and features an image and video generation feature with a 'spicy' setting.

✓
Confirmed

Workers involved in training Grok have reported encountering sexually explicit material, including user requests for AI-generated child sexual abuse content (CSAM).

✓
Confirmed

Experts have expressed concern over xAI's approach, suggesting that not drawing hard lines can lead to problematic outcomes.

✓
Confirmed

xAI has implemented stricter content moderation systems to prevent hate speech and other inappropriate content.

✓
Confirmed

The incident highlights the challenges AI companies face in balancing innovation with ethical standards and content moderation.

पढ़ते रहें — निःशुल्क

समाचार फ़ॉलो करने के लिए मुफ़्त खाता बनाएँ। कार्ड की आवश्यकता नहीं।