ग्रोक ने डीपफेक विवाद के बीच छवि निर्माण को भुगतान करने वाले ग्राहकों तक सीमित किया

एलोन मस्क के एआई चैटबॉट, ग्रोक ने महिलाओं और नाबालिगों की यौनिकृत डीपफेक छवियां बनाने के लिए अंतरराष्ट्रीय आलोचना का सामना करने के बाद अपनी छवि निर्माण और संपादन क्षमताओं को भुगतान करने वाले ग्राहकों तक सीमित कर दिया है। मस्क के सोशल मीडिया प्लेटफॉर्म एक्स के माध्यम से सुलभ यह चैटबॉट गैर-सहमति से बनी अश्लील छवियां बनाने और साझा करने के लिए उपयोग किया गया था, जिसके कारण विश्वभर की सरकारों ने जांच शुरू की।

शुक्रवार को, ग्रोक ने छवि परिवर्तन अनुरोधों का जवाब देते हुए संदेश दिया: "छवि निर्माण और संपादन वर्तमान में केवल भुगतान करने वाले ग्राहकों के लिए सीमित हैं। आप इन सुविधाओं को अनलॉक करने के लिए सदस्यता ले सकते हैं।" इस प्रतिबंध के बावजूद, स्वतंत्र ग्रोक वेबसाइट और ऐप पर मुफ्त उपयोगकर्ता अपनी आयु पुष्टि करने के बाद अभी भी छवियां बना सकते हैं।

यूरोपीय अधिकारियों को ये बदलाव संतुष्ट नहीं करते। यूरोपीय आयोग के प्रवक्ता थॉमस रेग्नियर ने कहा, "यह हमारे मूल मुद्दे को नहीं बदलता। भुगतान सदस्यता हो या न हो, हम ऐसी छवियां नहीं देखना चाहते। बात बस इतनी सी है।" इसी तरह, ब्रिटिश प्रधानमंत्री कीर स्टारमर के प्रवक्ता गेरेंट एलिस ने इस कदम को "कोई समाधान नहीं" बताया और कहा कि यह "महिला विरोधी और यौन हिंसा के शिकार लोगों के लिए अपमानजनक है।"

यूरोपीय आयोग ने एक्स को आदेश दिया है कि वह ग्रोक से संबंधित सभी आंतरिक दस्तावेज़ और डेटा 2026 के अंत तक सुरक्षित रखे, जो कि यूरोपीय संघ की डिजिटल सुरक्षा के तहत व्यापक जांच का हिस्सा है। फ्रांस, मलेशिया, भारत और ब्राजील सहित अन्य देश भी इस प्लेटफॉर्म की कार्रवाइयों की जांच कर रहे हैं।

2023 में लॉन्च किया गया ग्रोक ने पिछले गर्मियों में "ग्रोक इमेजिन" नामक एक छवि जनरेटर फीचर पेश किया था, जिसमें "स्पाइसी मोड" शामिल था जो वयस्क सामग्री उत्पन्न कर सकता था। चैटबॉट की अश्लील छवियां बनाने और सार्वजनिक रूप से साझा करने की क्षमता ने एआई तकनीक के दुरुपयोग और कड़े नियामक उपायों की आवश्यकता के बारे में चिंताएं बढ़ा दी हैं।