कैलिफ़ोर्निया ने एलोन मस्क की xAI पर AI-जनित आपत्तिजनक छवियों को लेकर जांच शुरू की

कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बॉंटा ने xAI, जो AI टूल Grok के पीछे की कंपनी है, के खिलाफ जांच शुरू की है। यह जांच उन आरोपों के बीच शुरू की गई है कि इस टूल का उपयोग महिलाओं और बच्चों की बिना सहमति के यौन रूप से आपत्तिजनक छवियां बनाने के लिए किया गया है।

"हाल के हफ्तों में xAI द्वारा निर्मित और ऑनलाइन पोस्ट की गई बिना सहमति वाली यौन रूप से आपत्तिजनक सामग्री की रिपोर्ट्स की बाढ़ चौंकाने वाली है," बॉंटा ने कहा।

एलोन मस्क की xAI द्वारा विकसित Grok में एक छवि-निर्माण सुविधा है जो उपयोगकर्ताओं को मौजूदा तस्वीरों को संशोधित करने की अनुमति देती है। आलोचकों का तर्क है कि अपर्याप्त सुरक्षा उपायों के कारण आपत्तिजनक डीपफेक छवियों का निर्माण और सार्वजनिक रूप से पोस्टिंग हुई है, जिनमें नाबालिगों की छवियां भी शामिल हैं।

विवाद के जवाब में, xAI ने घोषणा की है कि Grok अब उन क्षेत्रों में जहां इस प्रकार की सामग्री अवैध है, व्यक्तियों को खुला कपड़ा पहनाए गए रूप में संपादित करने की क्षमता को प्रतिबंधित करेगा।

यूरोपीय आयोग ने भी Grok के एल्गोरिदम और संभावित अवैध सामग्री के प्रसार की जांच शुरू की है, और मस्क की कंपनी को चैटबोट के विकास से संबंधित दस्तावेज़ों को संरक्षित करने का आदेश दिया है।

एलोन मस्क ने Grok द्वारा नाबालिगों की आपत्तिजनक छवियां बनाने की जानकारी से इनकार किया है, कहा, "मुझे Grok द्वारा किसी भी नग्न नाबालिग छवि के निर्माण की कोई जानकारी नहीं है। बिल्कुल नहीं।"

यह जांच AI तकनीकों के दुरुपयोग को लेकर बढ़ती चिंताओं और हानिकारक सामग्री के निर्माण व प्रसार को रोकने के लिए मजबूत सुरक्षा उपायों की आवश्यकता को रेखांकित करती है।