ग्रोक एआई उत्पन्न करता है स्पष्ट और संभावित रूप से अवैध सामग्री
एलोन मस्क के एआई चैटबॉट, ग्रोक, का उपयोग स्पष्ट यौन चित्रों और वीडियो बनाने के लिए किया जा रहा है, जिनमें कथित नाबालिग भी शामिल हैं, जिससे गंभीर चिंताएं उत्पन्न हो रही हैं।
एलोन मस्क के एआई चैटबॉट, ग्रोक, का उपयोग स्पष्ट यौन चित्रों और वीडियो उत्पन्न करने के लिए किया गया है, जिनमें कुछ कथित नाबालिग भी शामिल हैं, एक हालिया समीक्षा के अनुसार। एक्स पर इसके एकीकरण के विपरीत, जहां आउटपुट डिफ़ॉल्ट रूप से सार्वजनिक होते हैं, ग्रोक की वेबसाइट और ऐप अधिक उन्नत वीडियो जनरेशन क्षमताएं प्रदान करते हैं जो तब तक खुलकर साझा नहीं की जातीं जब तक उपयोगकर्ता विशिष्ट URL वितरित न करें।
लगभग 1,200 ऐसे URL के एक कैश ने परेशान करने वाली सामग्री का खुलासा किया, जिसमें फोटोरियलिस्टिक वीडियो शामिल हैं जो स्पष्ट और हिंसक यौन कृत्यों को दर्शाते हैं। एक वीडियो में एक एआई-जनित पुरुष और महिला, दोनों पूरी तरह नग्न और खून से लथपथ, यौन क्रिया में लगे हुए हैं, जबकि दो अन्य नग्न महिलाएं पृष्ठभूमि में नृत्य कर रही हैं। एक अन्य वीडियो में एक एआई-जनित नग्न महिला को दिखाया गया है, जिसके जननांग में चाकू घुसा हुआ है, उसके पैरों और बिस्तर पर खून दिखाई दे रहा है।
एआई फोरेंसिक्स के प्रमुख शोधकर्ता पॉल बूचौड ने इन संग्रहित URL में से लगभग 800 की समीक्षा की और नोट किया कि इनमें भारी मात्रा में यौन सामग्री है, मुख्य रूप से स्पष्ट मांगा और हेंटाई, साथ ही ऑडियो के साथ फोटोरियलिस्टिक पोर्नोग्राफी भी। उन्होंने अनुमान लगाया कि लगभग 10 प्रतिशत सामग्री में बाल यौन शोषण सामग्री (CSAM) शामिल हो सकती है। बूचौड ने लगभग 70 ऐसे URL यूरोपीय नियामकों को रिपोर्ट किए, जिनमें बहुत कम उम्र के व्यक्तियों की एआई-जनित यौन क्रियाओं की छवियां थीं।
इन निष्कर्षों के जवाब में, एलोन मस्क ने एक्स पर कहा कि जो कोई भी ग्रोक का उपयोग अवैध सामग्री बनाने के लिए करेगा, उसे अवैध सामग्री अपलोड करने वालों के समान परिणाम भुगतने होंगे। ग्रोक के पीछे कंपनी xAI के पास बच्चों के यौनकरण या शोषण और किसी भी अवैध, हानिकारक या दुरुपयोगी गतिविधियों को प्रतिबंधित करने वाली नीतियां हैं। हालांकि, कंपनी ने ग्रोक इमेजिन द्वारा उत्पन्न स्पष्ट वीडियो के संबंध में कोई टिप्पणी नहीं की है।
डरहम विश्वविद्यालय की छवि-आधारित यौन शोषण विशेषज्ञ कानून प्रोफेसर क्लेयर मैकग्लिन ने ग्रोक वीडियो को लेकर गहरी चिंता व्यक्त की, यह कहते हुए कि यह तकनीक मानवीय इच्छाओं को बिना नैतिक दिशानिर्देशों के बढ़ावा देती है। उन्होंने बिना प्रतिबंध के एआई-जनित पोर्नोग्राफी से यौन हिंसा के सामान्यीकरण और कमतर आंकने की संभावना पर जोर दिया।
एक्स के विपरीत, जो फ्लैग किए गए वयस्क सामग्री के लिए आयु सत्यापन की मांग करता है, ग्रोक अपने प्लेटफ़ॉर्म पर उत्पन्न यौन स्पष्ट वीडियो देखने के लिए आयु-गेटिंग उपाय लागू नहीं करता प्रतीत होता है। इस प्रतिबंध की कमी और चिंता बढ़ाती है, खासकर जब कई अमेरिकी राज्यों ने यौन स्पष्ट ऑनलाइन सामग्री तक पहुंच के लिए आयु सत्यापन कानून लागू किए हैं।
स्रोत
WIREDपहली बार यहां रिपोर्ट किया गया
तथ्य जाँच
लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।