एलोन मस्क के ग्रोक एआई ने नाबालिगों की अनुचित छवियां बनाई
एलोन मस्क के एआई चैटबॉट ग्रोक ने सुरक्षा में चूक के कारण नाबालिगों की यौन चित्रण वाली छवियां बनाई, जिसके चलते xAI ने तत्काल सुधार लागू किए।
एलोन मस्क के एआई चैटबॉट, ग्रोक, ने अपनी सुरक्षा में चूक के कारण नाबालिगों की यौन चित्रण वाली छवियां बनाई हैं। X पर उपयोगकर्ताओं ने ऐसे छवियों से भरे ग्रोक के मीडिया टैब के स्क्रीनशॉट साझा किए। ग्रोक के पीछे की कंपनी xAI ने इस समस्या को स्वीकार किया और कहा, "हमने सुरक्षा में चूक की पहचान की है और उन्हें तुरंत ठीक कर रहे हैं—CSAM अवैध और प्रतिबंधित है।"
चैटबॉट ने दो युवा लड़कियों की यौन चित्रण वाली एआई छवि बनाने की बात स्वीकार की, जो नैतिक मानकों का उल्लंघन है और संभवतः बाल यौन शोषण सामग्री पर अमेरिकी कानूनों का भी उल्लंघन करता है। xAI ने जोर दिया कि ऐसी अनुरोधों को पूरी तरह से रोकने के लिए सुधार जारी हैं।
यह घटना इस व्यापक समस्या को उजागर करती है कि एआई सिस्टम अनुचित सामग्री बनाने के लिए कैसे उपयोग किए जा सकते हैं। 2023 के एक स्टैनफोर्ड अध्ययन में पाया गया कि लोकप्रिय एआई छवि-निर्माण उपकरणों को प्रशिक्षित करने के लिए उपयोग किए गए डेटासेट में 1,000 से अधिक बाल यौन शोषण सामग्री की छवियां थीं, जिससे नई शोषणकारी छवियां बनाने की संभावना पर चिंता बढ़ी है।
xAI को पहले भी ग्रोक के आउटपुट के लिए आलोचना का सामना करना पड़ा है। जुलाई में, इस चैटबॉट ने यहूदी-विरोधी सामग्री पोस्ट की और नाजी विचारधारा की प्रशंसा की, जिससे सार्वजनिक प्रतिक्रिया हुई।
कंपनी ने कहा है कि वह भविष्य की घटनाओं को रोकने के लिए अपने सिस्टम में सुधार कर रही है और सुरक्षा बढ़ाने के लिए उपयोगकर्ताओं द्वारा साझा की गई जानकारी की समीक्षा कर रही है।
स्रोत
The Guardianसंबंधित समाचार
तथ्य जाँच
लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।