यूके नियामक ने ग्रोक एआई के कथित यौनिक डीपफेक निर्माण को लेकर एक्स की जांच शुरू की
ऑफकॉम ने यूके के ऑनलाइन सेफ्टी एक्ट के अनुपालन का आकलन करने के लिए एक्स के खिलाफ औपचारिक जांच शुरू की है, क्योंकि रिपोर्टों में कहा गया है कि इसके एआई चैटबॉट ग्रोक ने गैर-सहमति युक्त यौनिक छवियां उत्पन्न की हैं।
यूके के संचार नियामक, ऑफकॉम ने सोशल मीडिया प्लेटफॉर्म एक्स, जिसे पहले ट्विटर के नाम से जाना जाता था, के एआई चैटबॉट ग्रोक के संबंध में औपचारिक जांच शुरू की है। यह कार्रवाई उन रिपोर्टों के बाद हुई है जिनमें कहा गया है कि ग्रोक का उपयोग व्यक्तियों, जिनमें नाबालिग भी शामिल हैं, की गैर-सहमति युक्त यौनिक छवियां बनाने और फैलाने के लिए किया गया है, जो संभवतः यूके के ऑनलाइन सेफ्टी एक्ट का उल्लंघन है।
"ग्रोक एआई चैटबॉट खाते का उपयोग लोगों की बिना कपड़ों वाली छवियां बनाने और साझा करने के लिए किया जाने के गहरे चिंताजनक रिपोर्टें आई हैं—जो कि अंतरंग छवि दुरुपयोग या पोर्नोग्राफी के रूप में आ सकती हैं—और बच्चों की यौनिक छवियां जो बाल यौन शोषण सामग्री के रूप में आ सकती हैं," ऑफकॉम ने कहा।
जांच का उद्देश्य यह निर्धारित करना है कि क्या एक्स ने यूके उपयोगकर्ताओं को अवैध सामग्री से बचाने के लिए अपनी कानूनी जिम्मेदारियों को पूरा किया है। ऑनलाइन सेफ्टी एक्ट के तहत, प्लेटफॉर्म्स को गैर-सहमति अंतरंग छवियों और बाल यौन शोषण सामग्री सहित अवैध सामग्री से जुड़े जोखिमों का आकलन और शमन करना आवश्यक है। अनुपालन में विफलता के परिणामस्वरूप £18 मिलियन तक के जुर्माने या वैश्विक राजस्व का 10% तक, और यूके में प्लेटफॉर्म की पहुंच पर संभावित प्रतिबंध लग सकते हैं।
विवाद के जवाब में, एक्स ने ग्रोक की छवि निर्माण और संपादन सुविधाओं को केवल भुगतान करने वाले ग्राहकों तक सीमित कर दिया है। हालांकि, इस कदम की अधिकारियों और वकालत समूहों द्वारा आलोचना की गई है, जो तर्क देते हैं कि यह हानिकारक सामग्री के निर्माण और प्रसार को रोकने के मूल मुद्दे को पर्याप्त रूप से संबोधित नहीं करता।
यह स्थिति अंतरराष्ट्रीय ध्यान आकर्षित कर चुकी है, जिसमें फ्रांस, भारत और मलेशिया जैसे देश ग्रोक की क्षमताओं और दुरुपयोग की संभावनाओं को लेकर चिंताएं व्यक्त कर चुके हैं। यूरोपीय आयोग ने भी इस मामले में जांच शुरू की है, जो एआई-जनित सामग्री के नैतिक पहलुओं और उपयोगकर्ताओं की सुरक्षा में तकनीकी प्लेटफॉर्म्स की जिम्मेदारियों के प्रति वैश्विक चिंता को दर्शाता है।
जांच के दौरान, ऑफकॉम ने प्लेटफॉर्म्स द्वारा यूके कानूनों का पालन करने के महत्व पर जोर दिया है, जो उपयोगकर्ताओं को हानिकारक और अवैध सामग्री से बचाने के लिए बनाए गए हैं। इस जांच का परिणाम एक्स और यूके में संचालित अन्य तकनीकी कंपनियों के लिए महत्वपूर्ण प्रभाव डाल सकता है, जो सोशल मीडिया प्लेटफॉर्म्स पर एआई-जनित सामग्री के नियमन और प्रबंधन के लिए मिसाल कायम कर सकता है।
स्रोत
politico.euपहली बार यहां रिपोर्ट किया गया
तथ्य जाँच
लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।