यूके नियामक ने ग्रोक एआई के कथित यौनिक डीपफेक निर्माण को लेकर एक्स की जांच शुरू की
सिर्फ तथ्य

यूके नियामक ने ग्रोक एआई के कथित यौनिक डीपफेक निर्माण को लेकर एक्स की जांच शुरू की

सारांश

ऑफकॉम ने यूके के ऑनलाइन सेफ्टी एक्ट के अनुपालन का आकलन करने के लिए एक्स के खिलाफ औपचारिक जांच शुरू की है, क्योंकि रिपोर्टों में कहा गया है कि इसके एआई चैटबॉट ग्रोक ने गैर-सहमति युक्त यौनिक छवियां उत्पन्न की हैं।

यूके के संचार नियामक, ऑफकॉम ने सोशल मीडिया प्लेटफॉर्म एक्स, जिसे पहले ट्विटर के नाम से जाना जाता था, के एआई चैटबॉट ग्रोक के संबंध में औपचारिक जांच शुरू की है। यह कार्रवाई उन रिपोर्टों के बाद हुई है जिनमें कहा गया है कि ग्रोक का उपयोग व्यक्तियों, जिनमें नाबालिग भी शामिल हैं, की गैर-सहमति युक्त यौनिक छवियां बनाने और फैलाने के लिए किया गया है, जो संभवतः यूके के ऑनलाइन सेफ्टी एक्ट का उल्लंघन है।

"ग्रोक एआई चैटबॉट खाते का उपयोग लोगों की बिना कपड़ों वाली छवियां बनाने और साझा करने के लिए किया जाने के गहरे चिंताजनक रिपोर्टें आई हैं—जो कि अंतरंग छवि दुरुपयोग या पोर्नोग्राफी के रूप में आ सकती हैं—और बच्चों की यौनिक छवियां जो बाल यौन शोषण सामग्री के रूप में आ सकती हैं," ऑफकॉम ने कहा।

जांच का उद्देश्य यह निर्धारित करना है कि क्या एक्स ने यूके उपयोगकर्ताओं को अवैध सामग्री से बचाने के लिए अपनी कानूनी जिम्मेदारियों को पूरा किया है। ऑनलाइन सेफ्टी एक्ट के तहत, प्लेटफॉर्म्स को गैर-सहमति अंतरंग छवियों और बाल यौन शोषण सामग्री सहित अवैध सामग्री से जुड़े जोखिमों का आकलन और शमन करना आवश्यक है। अनुपालन में विफलता के परिणामस्वरूप £18 मिलियन तक के जुर्माने या वैश्विक राजस्व का 10% तक, और यूके में प्लेटफॉर्म की पहुंच पर संभावित प्रतिबंध लग सकते हैं।

विवाद के जवाब में, एक्स ने ग्रोक की छवि निर्माण और संपादन सुविधाओं को केवल भुगतान करने वाले ग्राहकों तक सीमित कर दिया है। हालांकि, इस कदम की अधिकारियों और वकालत समूहों द्वारा आलोचना की गई है, जो तर्क देते हैं कि यह हानिकारक सामग्री के निर्माण और प्रसार को रोकने के मूल मुद्दे को पर्याप्त रूप से संबोधित नहीं करता।

यह स्थिति अंतरराष्ट्रीय ध्यान आकर्षित कर चुकी है, जिसमें फ्रांस, भारत और मलेशिया जैसे देश ग्रोक की क्षमताओं और दुरुपयोग की संभावनाओं को लेकर चिंताएं व्यक्त कर चुके हैं। यूरोपीय आयोग ने भी इस मामले में जांच शुरू की है, जो एआई-जनित सामग्री के नैतिक पहलुओं और उपयोगकर्ताओं की सुरक्षा में तकनीकी प्लेटफॉर्म्स की जिम्मेदारियों के प्रति वैश्विक चिंता को दर्शाता है।

जांच के दौरान, ऑफकॉम ने प्लेटफॉर्म्स द्वारा यूके कानूनों का पालन करने के महत्व पर जोर दिया है, जो उपयोगकर्ताओं को हानिकारक और अवैध सामग्री से बचाने के लिए बनाए गए हैं। इस जांच का परिणाम एक्स और यूके में संचालित अन्य तकनीकी कंपनियों के लिए महत्वपूर्ण प्रभाव डाल सकता है, जो सोशल मीडिया प्लेटफॉर्म्स पर एआई-जनित सामग्री के नियमन और प्रबंधन के लिए मिसाल कायम कर सकता है।

स्रोत

politico.eu

पहली बार यहां रिपोर्ट किया गया

तथ्य जाँच

लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।

✓
Confirmed

Ofcom has launched a formal investigation into X regarding its AI chatbot, Grok, for potentially violating the UK's Online Safety Act.

✓
Confirmed

X has restricted Grok's image generation and editing features to paying subscribers following backlash over the creation of sexualized deepfake images.

✓
Confirmed

Malaysia and Indonesia have blocked access to Grok due to concerns over its misuse in generating non-consensual sexually explicit images.

✓
Confirmed

The European Commission has initiated inquiries into Grok's capabilities and potential misuse, reflecting broader global concerns about AI-generated content.

पढ़ते रहें — निःशुल्क

समाचार फ़ॉलो करने के लिए मुफ़्त खाता बनाएँ। कार्ड की आवश्यकता नहीं।