IWF ने Grok से जुड़े AI-जनित बाल यौन छवियों की पहचान की
इंटरनेट वॉच फाउंडेशन (IWF) ने AI-जनित यौनिकृत बाल छवियों की खोज की है, जो कथित तौर पर xAI द्वारा विकसित AI टूल Grok का उपयोग करके बनाई गई हैं।
इंटरनेट वॉच फाउंडेशन (IWF) ने 11 से 13 वर्ष की लड़कियों की AI-जनित यौनिकृत छवियों की पहचान की है, जो कथित तौर पर Grok नामक AI टूल का उपयोग करके बनाई गई हैं, जिसे एलोन मस्क की कंपनी xAI ने विकसित किया है। ये छवियां एक डार्क वेब फोरम पर मिलीं, जहां उपयोगकर्ताओं ने दावा किया कि उन्होंने इन्हें बनाने के लिए Grok का उपयोग किया था।
IWF के विश्लेषक न्गैरे अलेक्जेंडर ने इस बात पर चिंता जताई कि ऐसे टूल्स के माध्यम से व्यक्ति कितनी आसानी और तेजी से फोटो-यथार्थवादी बाल यौन शोषण सामग्री (CSAM) उत्पन्न कर सकते हैं। उन्होंने बताया कि इस सामग्री को यूके कानून के तहत श्रेणी C के रूप में वर्गीकृत किया जाएगा, जो अपराध सामग्री की सबसे कम गंभीरता दर्शाता है। हालांकि, जिसने इसे अपलोड किया था, उसने बाद में एक अलग AI टूल का उपयोग करके श्रेणी A की छवि बनाई, जो सबसे गंभीर श्रेणी है।
IWF, जो इंटरनेट से बाल यौन शोषण सामग्री हटाने के लिए समर्पित है, संदिग्ध CSAM की रिपोर्टिंग के लिए एक हॉटलाइन संचालित करता है और ऐसे कंटेंट की वैधता और गंभीरता का आकलन करने के लिए विश्लेषकों को नियुक्त करता है। संगठन को यह सामग्री डार्क वेब पर मिली; ये छवियां सोशल मीडिया प्लेटफॉर्म X पर नहीं मिलीं।
पहले, X और xAI को Ofcom द्वारा संपर्क किया गया था, जब यह रिपोर्टें आईं कि Grok का उपयोग बच्चों की यौनिकृत छवियां बनाने और महिलाओं को निर्वस्त्र करने के लिए किया जा सकता है। X ने कहा: "हम X पर अवैध सामग्री, जिसमें CSAM शामिल है, के खिलाफ कार्रवाई करते हैं, जिसमें इसे हटाना, खातों को स्थायी रूप से निलंबित करना और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करना शामिल है। जो कोई भी Grok का उपयोग करके या उसे प्रेरित करके अवैध सामग्री बनाएगा, उसे उसी प्रकार के परिणाम भुगतने होंगे जैसे कि उसने अवैध सामग्री अपलोड की हो।"
स्रोत
BBCपहली बार यहां रिपोर्ट किया गया
तथ्य जाँच
लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।