मलेशिया और इंडोनेशिया ने अश्लील चित्र बनाने में दुरुपयोग के कारण ग्रोक एआई चैटबॉट को ब्लॉक किया
मलेशिया और इंडोनेशिया ने एलोन मस्क के एआई चैटबॉट ग्रोक को उसके यौन रूप से स्पष्ट और गैर-सहमति आधारित चित्र बनाने में दुरुपयोग के कारण ब्लॉक कर दिया है।
मलेशिया और इंडोनेशिया वे पहले देश बन गए हैं जिन्होंने एलोन मस्क की xAI द्वारा विकसित कृत्रिम बुद्धिमत्ता चैटबॉट ग्रोक को ब्लॉक कर दिया है, क्योंकि इसके यौन रूप से स्पष्ट और गैर-सहमति आधारित चित्र बनाने में दुरुपयोग की रिपोर्टें आई हैं। यह चैटबॉट, जो मस्क के सोशल मीडिया प्लेटफॉर्म X के माध्यम से सुलभ है, महिलाओं को बिकिनी में या यौन रूप से स्पष्ट मुद्राओं में दिखाने वाले छेड़छाड़ किए गए चित्रों सहित, छवियों के उत्पादन के लिए आलोचना का पात्र रहा है।
इंडोनेशियाई अधिकारियों ने ग्रोक तक पहुंच को अस्थायी रूप से ब्लॉक कर दिया, जिसके बाद रविवार को मलेशिया ने भी ऐसा ही किया।
"सरकार गैर-सहमति आधारित... देखती है," इंडोनेशिया के संचार और डिजिटल मामलों के विभाग ने शनिवार को एक बयान में कहा।
मलेशियाई संचार और मल्टीमीडिया आयोग (MCMC) ने ग्रोक पर अस्थायी प्रतिबंध लगाया, जब उन्होंने "बार-बार दुरुपयोग" देखा, जिसमें अश्लील और गैर-सहमति आधारित छवियों का निर्माण शामिल था।
2023 में लॉन्च किया गया, कंपनी ने पिछले गर्मी में एक छवि जनरेटर जोड़ा, जिसमें एक तथाकथित "स्पाइसी मोड" शामिल था जो वयस्क सामग्री उत्पन्न करने में सक्षम था।
ये कदम वैश्विक स्तर पर यौन और गैर-सहमति आधारित सामग्री के निर्माण के बढ़ते खतरे को दर्शाते हैं, जबकि मौजूदा सुरक्षा उपाय अभी भी इस चुनौती का सामना कर रहे हैं।
स्रोत
AP Newsतथ्य जाँच
लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।