Ofcom ने Grok AI द्वारा यौन चित्रों के निर्माण को लेकर X की जांच शुरू की

यूके के मीडिया नियामक, Ofcom ने X के AI चैटबॉट Grok के खिलाफ एक औपचारिक जांच शुरू की है, क्योंकि रिपोर्टों में बताया गया है कि इसका उपयोग गैर-सहमति से अंतरंग छवियों और बच्चों के यौन चित्रण को उत्पन्न करने और फैलाने के लिए किया गया है। Ofcom ने कहा कि इस प्रकार की सामग्री अंतरंग छवि दुरुपयोग या बाल यौन शोषण सामग्री हो सकती है, जो दोनों यूके में अवैध हैं।

"Grok AI चैटबॉट खाते का उपयोग लोगों की बिना कपड़ों वाली छवियां बनाने और साझा करने के लिए किए जाने की गहरी चिंता जनक रिपोर्टें आई हैं – जो अंतरंग छवि दुरुपयोग या पोर्नोग्राफी के अंतर्गत आ सकती हैं – और बच्चों की यौन चित्रण वाली छवियां जो बाल यौन शोषण सामग्री हो सकती हैं," Ofcom ने एक बयान में कहा।

जांच यह आकलन करेगी कि क्या X ने ऑनलाइन सुरक्षा अधिनियम के तहत अपनी कानूनी जिम्मेदारियां पूरी की हैं, जिसमें यूके उपयोगकर्ताओं को अवैध सामग्री के संपर्क में आने के जोखिम का मूल्यांकन और ऐसी एक्सपोज़र को रोकने के लिए उपाय लागू करना शामिल है। अनुपालन न करने पर संभावित दंड में £18 मिलियन तक का जुर्माना या वैश्विक राजस्व का 10% शामिल हो सकता है, जो भी अधिक हो। गंभीर मामलों में, Ofcom यूके के भीतर प्लेटफॉर्म तक पहुंच को प्रतिबंधित करने के लिए न्यायालय के आदेश भी मांग सकता है।

प्रौद्योगिकी सचिव लिज़ केंडल ने जांच का स्वागत किया और जनता तथा पीड़ितों की सुरक्षा के लिए त्वरित कार्रवाई की आवश्यकता पर जोर दिया। उन्होंने कहा, "यह आवश्यक है कि Ofcom इस जांच को शीघ्र पूरा करे क्योंकि जनता – और सबसे महत्वपूर्ण पीड़ित – किसी भी देरी को स्वीकार नहीं करेंगे।"

Grok की क्षमताओं को लेकर X को अंतरराष्ट्रीय जांच का सामना करना पड़ा है। मलेशिया और इंडोनेशिया ने हाल ही में गैर-सहमति से स्पष्ट छवियों के निर्माण में इसके दुरुपयोग की चिंताओं के कारण इस चैटबॉट तक पहुंच को ब्लॉक कर दिया। प्रतिक्रिया स्वरूप, X ने Grok की छवि निर्माण सुविधाओं को केवल भुगतान करने वाले सदस्यों तक सीमित कर दिया, हालांकि अधिकारी इस कदम को अपर्याप्त मानते हैं।

X के मालिक एलन मस्क ने स्थिति पर टिप्पणी करते हुए कहा कि "जो कोई भी Grok का उपयोग अवैध सामग्री बनाने के लिए करेगा उसे उसी प्रकार के परिणाम भुगतने होंगे जैसे कि उसने अवैध सामग्री अपलोड की हो।" X के आधिकारिक सुरक्षा खाते ने अवैध सामग्री हटाने और कानून प्रवर्तन के साथ सहयोग करने की प्रतिबद्धता दोहराई।

Ofcom ने जांच के लिए कोई समय सीमा निर्दिष्ट नहीं की है लेकिन इसकी प्राथमिकता पर जोर दिया है। एक प्रवक्ता ने कहा, "जहां हमें संदेह हो कि कंपनियां अपनी जिम्मेदारियों में विफल हो रही हैं, खासकर जहां बच्चों को नुकसान का खतरा हो, वहां हम जांच करने में संकोच नहीं करेंगे।"

इस जांच का परिणाम यूके और उससे आगे AI-जनित सामग्री और प्लेटफॉर्म की जिम्मेदारियों के लिए महत्वपूर्ण प्रभाव डाल सकता है।