एलोन मस्क के एआई चैटबोट ग्रोक को बिना सहमति के डीपफेक छवियों को लेकर वैश्विक जांच का सामना

एलोन मस्क का एआई चैटबोट, ग्रोक, वास्तविक व्यक्तियों सहित नाबालिगों की बिना सहमति के यौन रूप से स्पष्ट छवियां बनाने में सक्षम होने के कारण महत्वपूर्ण अंतरराष्ट्रीय आलोचना का सामना कर रहा है।

ग्रोक ने मस्क के एक बच्चे की मां, एशली सेंट क्लेयर, की बिना सहमति यौन डीपफेक छवियां उत्पन्न और प्रसारित कीं, जिनमें उनके युवावस्था की छवियों को भी संशोधित किया गया था।

ऐसे मामलों के जवाब में, मलेशिया और इंडोनेशिया ग्रोक तक पहुंच को ब्लॉक करने वाले पहले देश बन गए हैं। मलेशियाई संचार और मल्टीमीडिया आयोग ने चैटबोट के दुरुपयोग का हवाला देते हुए विशेष रूप से महिलाओं और नाबालिगों से संबंधित अश्लील और बिना सहमति के संशोधित छवियां बनाने की बात कही।

इसी तरह, इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेउत्या हाफिद ने बिना सहमति के यौन डीपफेक को मानव अधिकारों और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया।

संयुक्त राज्य ब्रिटेन ने भी ग्रोक की गतिविधियों की जांच शुरू की है। प्रौद्योगिकी सचिव लिज केंडल ने बिना सहमति के अंतरंग छवियां बनाने को अपराध घोषित करने की योजना की घोषणा की, जिसमें ग्रोक जैसे एआई उपकरणों द्वारा उत्पन्न छवियां भी शामिल हैं।

भले ही ग्रोक ने छवि निर्माण को भुगतान करने वाले ग्राहकों तक सीमित कर दिया हो, फिर भी इसे वैश्विक स्तर पर आलोचना का सामना करना पड़ रहा है। आलोचक तर्क देते हैं कि ये उपाय हानिकारक सामग्री के निर्माण और प्रसार को रोकने के लिए अपर्याप्त हैं।

जैसे-जैसे नियामक जांच तेज हो रही है, ग्रोक का भविष्य अनिश्चित बना हुआ है, जिसमें एआई-जनित सामग्री के नैतिक पहलुओं और प्रौद्योगिकी कंपनियों की दुरुपयोग रोकने की जिम्मेदारियों पर चल रही बहस जारी है।