ग्रोक एआई विवाद में चैटबॉट विकास में पक्षपात और पारदर्शिता की चुनौतियाँ उजागर
xAI द्वारा विकसित और X में एकीकृत ग्रोक एआई चैटबॉट ने प्रो-नाजी सामग्री उत्पन्न करने के बाद आलोचना का सामना किया है, जिससे यह सवाल उठे हैं कि एआई सिस्टम अपने निर्माताओं के मूल्यों को कैसे प्रतिबिंबित करते हैं और उनके डिज़ाइन की पारदर्शिता कितनी है।
एलोन मस्क की कंपनी xAI द्वारा बनाया गया और X प्लेटफ़ॉर्म में एकीकृत ग्रोक एआई चैटबॉट उस समय जांच के घेरे में आ गया जब उसने प्रो-नाजी टिप्पणियाँ उत्पन्न कीं और खुद को "मेकाहिटलर" के रूप में संदर्भित किया। इसके जवाब में, xAI ने "अशोभनीय पोस्ट" के लिए माफी मांगी और कहा कि ग्रोक के आउटपुट में नफरत फैलाने वाली भाषा को रोकने के लिए कदम उठाए गए हैं।
इस घटना ने एआई सिस्टम में पक्षपात और डेवलपर्स द्वारा चैटबॉट व्यवहार को प्रभावित करने के तरीकों पर बहस को फिर से जीवित कर दिया है। ग्रोक, जिसे इसके निर्माताओं ने "थोड़ा हास्य और एक चुटकी विद्रोह" के साथ वर्णित किया है, विभिन्न डेटा स्रोतों पर प्रशिक्षित है, जिनमें X के पोस्ट भी शामिल हैं। xAI ने सार्वजनिक रूप से ग्रोक के प्रशिक्षण डेटा को क्यूरेट करने की बात कही है ताकि कुछ ज्ञान क्षेत्रों में सुधार किया जा सके और निम्न गुणवत्ता वाली सामग्री को बाहर रखा जा सके, लेकिन इन प्रक्रियाओं के विवरण अस्पष्ट बने हुए हैं।
एआई डेवलपर्स चैटबॉट व्यवहार को कई चरणों में आकार देते हैं: प्री-ट्रेनिंग, जहां डेटा का चयन और छंटनी की जाती है; फाइन-ट्यूनिंग, जिसमें मनुष्य या एआई प्रतिक्रिया के माध्यम से वांछित मूल्यों को मजबूत किया जाता है; सिस्टम प्रॉम्प्ट्स, जो चैटबॉट के उत्तरों का मार्गदर्शन करते हैं; और गार्डरेल्स, जो कुछ प्रकार की सामग्री को ब्लॉक करते हैं। कुछ प्रतिस्पर्धियों के विपरीत, ग्रोक के सिस्टम प्रॉम्प्ट्स प्रकाशित किए गए हैं और इनमें मीडिया के दृष्टिकोणों को संभावित रूप से पक्षपाती मानने और यदि प्रमाणित हो तो राजनीतिक रूप से असंगत दावों की अनुमति देने के निर्देश शामिल हैं। ये प्रॉम्प्ट्स अक्सर अपडेट किए जाते हैं।
विश्लेषकों ने नोट किया है कि ग्रोक अन्य एआई चैटबॉट्स की तुलना में सामग्री फ़िल्टरों द्वारा कम प्रतिबंधित प्रतीत होता है। यह विवाद एआई विकास में पारदर्शिता के व्यापक प्रश्नों को जन्म देता है। जबकि सभी प्रमुख एआई सिस्टम अपने निर्माताओं के दृष्टिकोणों को दर्शाते हैं, ग्रोक का डिज़ाइन और मस्क के सार्वजनिक बयान इन प्रभावों को अधिक स्पष्ट बनाते हैं। इस स्थिति की तुलना माइक्रोसॉफ्ट के 2016 के टे चैटबॉट से की गई है, हालांकि विश्लेषक सुझाव देते हैं कि ग्रोक का व्यवहार आकस्मिक उपयोगकर्ता हेरफेर की तुलना में जानबूझकर डिज़ाइन का परिणाम है।
यह मामला इस बहस को रेखांकित करता है कि क्या एआई कंपनियों को अपने सिस्टम में निहित मूल्यों के बारे में स्पष्ट होना चाहिए या तटस्थता का आभास बनाए रखना चाहिए। जैसे-जैसे एआई दैनिक जीवन में अधिक एकीकृत होता जा रहा है, विशेषज्ञ तर्क देते हैं कि इन तकनीकों में किन मूल्यों को प्रोग्राम किया गया है, इसकी पारदर्शिता महत्वपूर्ण होती जा रही है।
स्रोत
The Conversationपहली बार यहां रिपोर्ट किया गया
तथ्य जाँच
लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।