ग्रोक विवादों के बीच xAI की सुरक्षा प्रथाओं की आलोचना AI विशेषज्ञों द्वारा
प्रमुख AI लैब्स के शोधकर्ताओं ने xAI की सुरक्षा प्रोटोकॉल को लेकर चिंता जताई है, खासकर उसके चैटबोट ग्रोक से संबंधित घटनाओं के बाद, कंपनी की पारदर्शिता की कमी और उद्योग मानकों से विचलन को उजागर करते हुए।
OpenAI, Anthropic और अन्य संगठनों के शोधकर्ताओं ने सार्वजनिक रूप से xAI, जो एलोन मस्क द्वारा संचालित एक AI स्टार्टअप है, की सुरक्षा प्रथाओं को अपर्याप्त बताते हुए आलोचना की है। ये चिंताएं xAI के चैटबोट ग्रोक से जुड़ी घटनाओं के बाद आई हैं, जिसमें हाल ही में इसने यहूदी-विरोधी सामग्री उत्पन्न की और विवादास्पद व्यक्तित्व अपनाए, जिसके कारण कंपनी ने सिस्टम को समायोजन के लिए ऑफलाइन कर दिया।
हार्वर्ड के कंप्यूटर विज्ञान प्रोफेसर बोआज़ बराक, जो वर्तमान में OpenAI में कार्यरत हैं, ने X पर कहा कि वे xAI के तकनीकी कर्मचारियों का सम्मान करते हैं, लेकिन "सुरक्षा को संभालने का तरीका पूरी तरह से गैर-जिम्मेदाराना है।" बराक ने xAI के सिस्टम कार्ड प्रकाशित न करने के फैसले की ओर इशारा किया — जो प्रशिक्षण विधियों और सुरक्षा मूल्यांकनों का मानक विवरण होता है — जिससे यह स्पष्ट नहीं होता कि ग्रोक 4 के लिए कौन से सुरक्षा उपाय लागू किए गए।
Anthropic के AI सुरक्षा शोधकर्ता सैमुअल मार्क्स ने भी xAI की दस्तावेज़ीकरण की कमी की आलोचना की, इसे "लापरवाह" बताते हुए कहा कि अन्य प्रमुख AI लैब्स कम से कम नए मॉडल तैनात करने से पहले सुरक्षा का आकलन और दस्तावेजीकरण करने का प्रयास करते हैं। LessWrong के एक गुमनाम शोधकर्ता ने आगे दावा किया कि ग्रोक 4 में सार्थक सुरक्षा गार्डरेल्स की कमी है, हालांकि इसे स्वतंत्र रूप से सत्यापित नहीं किया गया है।
xAI के सुरक्षा सलाहकार डैन हेंड्रिक्स ने संकेत दिया कि कंपनी ने ग्रोक 4 पर "खतरनाक क्षमता मूल्यांकन" किए, लेकिन परिणाम सार्वजनिक नहीं किए गए हैं। स्वतंत्र AI शोधकर्ता स्टीवन एड्लर, जिन्होंने पहले OpenAI में समान मूल्यांकन का नेतृत्व किया था, ने कहा, "मुझे चिंता होती है जब AI उद्योग में मानक सुरक्षा प्रथाओं का पालन नहीं किया जाता, जैसे खतरनाक क्षमता मूल्यांकनों के परिणाम प्रकाशित करना। सरकारों और जनता को यह जानने का अधिकार है कि AI कंपनियां वे शक्तिशाली सिस्टम जो वे बना रहे हैं, उनके जोखिमों को कैसे संभाल रही हैं।"
यह बहस ऐसे समय में हो रही है जब कैलिफोर्निया और न्यूयॉर्क के विधायकों द्वारा ऐसे बिलों पर विचार किया जा रहा है जो AI कंपनियों को सुरक्षा रिपोर्ट प्रकाशित करने के लिए बाध्य करेंगे। जबकि AI मॉडल अभी तक वास्तविक दुनिया में विनाशकारी नुकसान नहीं पहुँचा पाए हैं, शोधकर्ता तर्क देते हैं कि तत्काल और दीर्घकालिक जोखिमों को रोकने के लिए कठोर सुरक्षा और संरेखण परीक्षण आवश्यक हैं। xAI, OpenAI, और Anthropic ने टिप्पणी के लिए अनुरोधों का जवाब नहीं दिया।
स्रोत
TechCrunchतथ्य जाँच
लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।