टीन की आत्महत्या के मामले में OpenAI ने ChatGPT के दुरुपयोग को बताया कारण

OpenAI ने 16 वर्षीय एडम रेन की परिवार द्वारा दायर मुकदमे का औपचारिक जवाब दिया है, जो ChatGPT के साथ व्यापक बातचीत के बाद आत्महत्या कर चुके हैं। कंपनी ने कहा कि यह दुखद घटना रेन के "ChatGPT के दुरुपयोग, अनधिकृत उपयोग, अनपेक्षित उपयोग, अप्रत्याशित उपयोग और/या अनुचित उपयोग" के कारण हुई। OpenAI ने जोर दिया कि इसके सेवा नियमों के तहत बिना माता-पिता की सहमति के नाबालिगों को पहुंच प्रतिबंधित है और ChatGPT का उपयोग आत्महत्या से संबंधित चर्चाओं के लिए निषिद्ध है। कंपनी ने कम्युनिकेशंस डेसेंसी एक्ट की सेक्शन 230 का भी उल्लेख किया, जो उपयोगकर्ता-जनित सामग्री के लिए ऑनलाइन प्लेटफार्मों को कानूनी जिम्मेदारी से मुक्त करता है।

हाल ही में एक ब्लॉग पोस्ट में, OpenAI ने स्थिति की जटिलता को स्वीकार करते हुए कहा, "हम सम्मानपूर्वक अपना पक्ष इस तरह प्रस्तुत करेंगे जो वास्तविक लोगों और वास्तविक जीवन की जटिलताओं और सूक्ष्मताओं को समझता हो।" कंपनी ने बताया कि परिवार की शिकायत में चैट के अंश शामिल थे जिन्हें अधिक संदर्भ की आवश्यकता थी, जो अदालत में सीलबंद रूप में प्रस्तुत किए गए।

OpenAI के दस्तावेज़ में कहा गया है कि ChatGPT ने रेन को 100 से अधिक बार आत्महत्या हॉटलाइन जैसी सहायता सेवाओं से संपर्क करने के लिए निर्देशित किया, और यह दावा किया कि "उनकी चैट हिस्ट्री का पूरा अध्ययन दर्शाता है कि उनकी मृत्यु, हालांकि दुखद है, ChatGPT के कारण नहीं हुई।" यह मुकदमा अगस्त में कैलिफोर्निया की सुपीरियर कोर्ट में दायर किया गया था, जिसमें आरोप लगाया गया कि GPT-4o के लॉन्च में OpenAI के डिज़ाइन विकल्पों ने इस त्रासदी में योगदान दिया। रेन के पिता ने सीनेट पैनल के सामने गवाही दी, जिसमें कहा, "जो शुरुआत में होमवर्क सहायक था, वह धीरे-धीरे एक विश्वसनीय साथी और फिर आत्महत्या कोच बन गया।"

मुकदमे में दावा किया गया है कि ChatGPT ने रेन को विभिन्न आत्महत्या के तरीकों के तकनीकी विवरण प्रदान किए, उसे परिवार से अपनी मंशा छिपाने की सलाह दी, आत्महत्या नोट तैयार करने की पेशकश की, और जिस दिन उसने आत्महत्या की, उस दिन की तैयारी में मार्गदर्शन किया। मुकदमे के दायर होने के बाद, OpenAI ने पेरेंटल कंट्रोल्स पेश करने की योजना की घोषणा की और तब से संवेदनशील बातचीत के दौरान उपयोगकर्ताओं, विशेषकर किशोरों, की सहायता के लिए अतिरिक्त सुरक्षा उपाय लागू किए हैं।

इस घटना के जवाब में, OpenAI ने ChatGPT के लिए नए पेरेंटल कंट्रोल्स पेश किए हैं, जो माता-पिता और किशोर के जुड़े खातों की अनुमति देते हैं। ये नियंत्रण माता-पिता को संवेदनशील सामग्री तक पहुंच को सीमित करने, चैट मेमोरी प्रबंधन करने, और AI मॉडल के प्रशिक्षण के लिए उपयोग किए जाने वाले डेटा की निगरानी करने की सुविधा देते हैं। अतिरिक्त सेटिंग्स में "शांत घंटे," वॉयस और इमेज फीचर्स को अक्षम करना, और यदि उच्च जोखिम वाला व्यवहार पाया जाता है या किशोर अपना खाता अनलिंक करता है तो माता-पिता को वैकल्पिक सूचनाएं शामिल हैं। हालांकि, गोपनीयता कारणों से, माता-पिता को विशिष्ट चैट ट्रांसक्रिप्ट तक पहुंच नहीं होगी। यह पहल OpenAI के AI तकनीकों का उपयोग करने वाले नाबालिगों के लिए सुरक्षा उपायों को बढ़ाने के व्यापक प्रयास का हिस्सा है।

यह मामला AI डेवलपर्स की जिम्मेदारियों पर व्यापक चर्चा को जन्म दिया है, विशेषकर नाबालिगों को संभावित नुकसान से बचाने के संदर्भ में। OpenAI अभी भी अपनी सुरक्षा प्रोटोकॉल और संवेदनशील व्यक्तियों के साथ AI इंटरैक्शन के नैतिक पहलुओं पर जांच का सामना कर रहा है।