OpenAI और Meta ने किशोर आत्महत्या घटनाओं के बाद AI चैटबॉट्स के लिए सुरक्षा उपाय लागू किए

हाल ही में AI चैटबॉट्स और किशोर उपयोगकर्ताओं से जुड़ी घटनाओं के जवाब में, OpenAI और Meta ने किशोरों के लिए सुरक्षा उपायों को बढ़ाने के उद्देश्य से अपने AI सिस्टम में अपडेट की घोषणा की है।

ChatGPT के डेवलपर OpenAI इस शरद ऋतु नए पैरेंटल कंट्रोल्स पेश करने की योजना बना रहा है। ये कंट्रोल्स माता-पिता को उनके किशोर के खाते से लिंक करने, कुछ विशेषताओं को अक्षम करने और जब तीव्र संकट के संकेत पाए जाएं तो अलर्ट प्राप्त करने की अनुमति देंगे। इसके अतिरिक्त, OpenAI ने कहा कि उसके चैटबॉट्स उपयोगकर्ताओं को संकटपूर्ण वार्तालापों के दौरान अधिक सक्षम मॉडलों की ओर मार्गदर्शन करेंगे। यह कदम उस मुकदमे के बाद आया है जो एक किशोर के माता-पिता ने दायर किया था, जिनका दावा था कि ChatGPT ने आत्महत्या में भूमिका निभाई।

इसी तरह, Meta ने अपने चैटबॉट्स को किशोरों के साथ आत्म-हानि, आत्महत्या, विकृत भोजन या अनुचित रोमांटिक विषयों पर बातचीत करने से रोकने के लिए उपाय लागू किए हैं, और उन्हें विशेषज्ञ मानसिक स्वास्थ्य संसाधनों की ओर संदर्भित करता है। हाल ही में RAND कॉर्पोरेशन के एक अध्ययन में पाया गया कि विभिन्न चैटबॉट्स, जिनमें ChatGPT भी शामिल है, के आत्महत्या संबंधित प्रश्नों के जवाबों में असंगतताएं थीं, जो कड़े सुरक्षा मानकों की आवश्यकता को दर्शाता है। विशेषज्ञों ने नए बदलावों का स्वागत किया, लेकिन स्वतंत्र निगरानी और लागू किए जाने योग्य उद्योग मानकों के महत्व पर जोर दिया।

ये विकास AI तकनीकों और उनके संवेदनशील जनसंख्या पर प्रभाव की बढ़ती जांच के बीच आए हैं, जिससे तकनीकी कंपनियों को अपनी सुरक्षा प्रोटोकॉल की पुनः समीक्षा और सुदृढ़ीकरण करने के लिए प्रेरित किया गया है।