एलोन मस्क की xAI ने यौनिकृत डीपफेक्स पर वैश्विक विरोध के बीच ग्रोक की छवि निर्माण क्षमता सीमित की

एलोन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी, xAI, ने अपने चैटबोट ग्रोक की छवि निर्माण सुविधाओं को सीमित कर दिया है, क्योंकि इसे गैर-सहमति यौनिकृत छवियां बनाने की अनुमति देने के लिए वैश्विक स्तर पर निंदा का सामना करना पड़ा, जिसमें नाबालिग भी शामिल हैं। यह विवाद तब उभरा जब उपयोगकर्ताओं ने ग्रोक का दुरुपयोग कर स्पष्ट डीपफेक छवियां बनाईं, जिन्हें बाद में मस्क के सोशल मीडिया प्लेटफॉर्म X और ग्रोक ऐप पर साझा किया गया।

बढ़ते दबाव के जवाब में, xAI ने घोषणा की कि अब ग्रोक की छवि निर्माण और संपादन क्षमताएं केवल भुगतान करने वाले सदस्यों तक सीमित होंगी। हालांकि, आलोचक इस कदम को अपर्याप्त मानते हैं क्योंकि यह हानिकारक सामग्री के निर्माण और प्रसार को रोकने के मूल मुद्दे को संबोधित नहीं करता।

यूनाइटेड किंगडम के मीडिया नियामक, ऑफकॉम ने ऑनलाइन सेफ्टी एक्ट के तहत X के खिलाफ जांच शुरू की है, यह देखने के लिए कि क्या प्लेटफॉर्म ने उपयोगकर्ताओं को अवैध सामग्री का सामना करने के जोखिम का आकलन और कम करने में विफलता दिखाई है। ऑफकॉम ने कहा, "X पर गैर-सहमति वाली अंतरंग छवियां और बाल यौन शोषण सामग्री बनाने और साझा करने के लिए ग्रोक के उपयोग की रिपोर्टें गहराई से चिंताजनक रही हैं।"

इसी तरह, मलेशियाई अधिकारियों ने ग्रोक के छवि जनरेटर के दुरुपयोग के कारण X और xAI के खिलाफ कानूनी कार्रवाई शुरू की है, जिसमें यौनिकृत और हेरफेर की गई गैर-सहमति छवियों के निर्माण और वितरण पर प्रतिबंध लगाने वाले कानूनों के उल्लंघन का हवाला दिया गया है।

एलोन मस्क ने X पर इस मुद्दे को संबोधित करते हुए कहा कि ग्रोक किसी भी अवैध सामग्री का उत्पादन करने से इंकार करेगा, और यह जोर दिया कि ग्रोक का संचालन सिद्धांत किसी भी देश या राज्य के कानूनों का पालन करना है। इन आश्वासनों के बावजूद, यूरोपीय संघ, यूनाइटेड किंगडम और अन्य देशों के नियामक निकाय प्लेटफॉर्म की कार्रवाइयों की जांच जारी रखे हुए हैं और ऑनलाइन सुरक्षा कानूनों के अनुपालन सुनिश्चित करने के लिए आगे के प्रवर्तन उपायों पर विचार कर रहे हैं।