दक्षिण कोरिया ने गहराई से नकली छवि आरोपों को लेकर ग्रोक एआई की जांच शुरू की

दक्षिण कोरिया की पर्सनल इंफॉर्मेशन प्रोटेक्शन कमीशन (PIPC) ने xAI के जनरेटिव एआई चैटबोट, ग्रोक, के खिलाफ यौन शोषणकारी गहराई से नकली (डीपफेक) छवियां बनाने और वितरित करने की रिपोर्टों के बाद एक प्रारंभिक तथ्य-जांच समीक्षा शुरू की है। इस समीक्षा का उद्देश्य किसी भी उल्लंघन की पुष्टि करना और संभावित औपचारिक जांच शुरू करने से पहले आयोग के क्षेत्राधिकार का निर्धारण करना है।

यह एआई सेवा, जो सोशल मीडिया प्लेटफॉर्म X के साथ एकीकृत है, पिछले साल के अंत से वास्तविक व्यक्तियों की गहराई से नकली छवियां बनाने के लिए आलोचना का सामना कर रही है। डिजिटल नफरत के खिलाफ केंद्र के अनुसार, अनुमानित रूप से ग्रोक ने 29 दिसंबर 2025 से 8 जनवरी 2026 के बीच लगभग 3 मिलियन यौन रूप से स्पष्ट छवियां उत्पन्न की हैं, जिनमें से लगभग 23,000 में नाबालिग शामिल हैं।

विवाद के जवाब में, xAI ने इस महीने की शुरुआत में घोषणा की कि उसने वास्तविक लोगों की छवियों को संपादित या उत्पन्न करने से मुक्त और भुगतान किए गए दोनों उपयोगकर्ताओं को रोकने के लिए तकनीकी उपाय लागू किए हैं, और आगे और सुरक्षा उपाय भी लागू किए जाएंगे।

PIPC ग्रोक के स्पष्टीकरण और सहायक दस्तावेजों की समीक्षा के बाद अपने अगले कदम तय करेगा, साथ ही वैश्विक नियामक रुझानों पर भी विचार करेगा। दक्षिण कोरिया के पर्सनल इंफॉर्मेशन प्रोटेक्शन एक्ट के तहत, पहचान योग्य व्यक्तियों की यौन छवियों को बिना सहमति के बदलना या उत्पन्न करना व्यक्तिगत डेटा के अवैध प्रबंधन के रूप में माना जा सकता है।

अंतरराष्ट्रीय स्तर पर, अन्य देशों ने भी ग्रोक के खिलाफ कार्रवाई की है। इंडोनेशिया और मलेशिया ने गैर-सहमति आधारित यौन गहराई से नकली और अन्य हानिकारक सामग्री को लेकर इस एआई चैटबोट तक पहुंच को अवरुद्ध कर दिया है।

संयुक्त राज्य ने भी ग्रोक के खिलाफ कानूनी जांच शुरू की है, यह चिंता जताते हुए कि इसने संभावित रूप से अवैध सामग्री जैसे बाल यौन शोषण छवियों के निर्माण और साझा करने की सुविधा प्रदान की।

जैसे-जैसे जांच कड़ी होती जा रही है, xAI अपने एआई तकनीकों के दुरुपयोग को रोकने के लिए मजबूत सुरक्षा उपाय लागू करने के दबाव में है।