कैलिफोर्निया विधानमंडल ने एआई चैटबॉट विनियमन बिल पारित किया
कैलिफोर्निया का सीनेट बिल 243, जो नाबालिगों और संवेदनशील उपयोगकर्ताओं की सुरक्षा के लिए एआई साथी चैटबॉट्स को विनियमित करने का लक्ष्य रखता है, विधानमंडल से पारित हो गया है और अब गवर्नर गैविन न्यूसम के निर्णय का इंतजार कर रहा है।
कैलिफोर्निया का सीनेट बिल 243, जो नाबालिगों और संवेदनशील उपयोगकर्ताओं की सुरक्षा के लिए एआई साथी चैटबॉट्स को विनियमित करने के लिए बनाया गया है, दोनों राज्य विधानसभा और सीनेट में द्विदलीय समर्थन के साथ सफलतापूर्वक पारित हो गया है। अब यह बिल गवर्नर गैविन न्यूसम के निर्णय का इंतजार कर रहा है; उनके पास इस कानून पर हस्ताक्षर या वीटो करने के लिए 12 अक्टूबर तक का समय है। यदि यह लागू हो जाता है, तो कैलिफोर्निया पहला राज्य बन जाएगा जो एआई चैटबॉट्स के लिए सुरक्षा प्रोटोकॉल अनिवार्य करेगा और कंपनियों को अनुपालन विफलताओं के लिए जवाबदेह ठहराएगा।
यह कानून उन एआई सिस्टमों को लक्षित करता है जो उपयोगकर्ताओं की सामाजिक आवश्यकताओं को पूरा करने के लिए अनुकूल, मानव-समान प्रतिक्रियाएं प्रदान करते हैं। यह चैटबॉट्स को आत्महत्या के विचार, आत्म-हानि, या यौन स्पष्ट सामग्री पर बातचीत करने से रोकता है। प्लेटफॉर्म को उपयोगकर्ताओं को बार-बार चेतावनी जारी करनी होगी—नाबालिगों के लिए हर तीन घंटे में—कि वे एआई से बात कर रहे हैं, मानव से नहीं, और उन्हें ब्रेक लेने का सुझाव देना होगा। इसके अतिरिक्त, यह बिल साथी चैटबॉट्स प्रदान करने वाली एआई कंपनियों के लिए वार्षिक रिपोर्टिंग और पारदर्शिता आवश्यकताएं स्थापित करता है, जिनमें प्रमुख कंपनियां जैसे OpenAI, Character.AI, और Replika शामिल हैं, जो 1 जुलाई, 2027 से प्रभावी होंगी।
जो व्यक्ति मानते हैं कि इन मानकों के उल्लंघन से उन्हें नुकसान हुआ है, उनके पास एआई कंपनियों के खिलाफ मुकदमे दायर करने का अधिकार होगा, जिसमें न्यायिक राहत, प्रति उल्लंघन $1,000 तक का मुआवजा, और वकील की फीस शामिल है।
यह बिल किशोर आदम रेन की मृत्यु के बाद गति पकड़ा, जिन्होंने OpenAI के ChatGPT के साथ लंबी बातचीत के बाद आत्महत्या कर ली, जिसमें आत्म-हानि पर चर्चा शामिल थी। यह कानून उन रिपोर्टों का भी जवाब है जिनमें कहा गया है कि मेटा के चैटबॉट्स ने नाबालिगों के साथ अनुचित बातचीत की।
बिल के लेखक सीनेटर स्टीव पाडिला ने सुरक्षा उपायों को लागू करने की तत्कालता पर जोर दिया: "मुझे लगता है कि नुकसान संभावित रूप से बड़ा है, जिसका मतलब है कि हमें तेजी से कदम उठाने होंगे।" उन्होंने यह सुनिश्चित करने के लिए उचित उपायों की आवश्यकता पर प्रकाश डाला कि नाबालिग जानें कि वे असली इंसान से बात नहीं कर रहे हैं और जब उपयोगकर्ता संकट व्यक्त करें तो उचित संसाधन उपलब्ध कराए जाएं।
हालांकि बिल में शुरू में अधिक सख्त आवश्यकताएं शामिल थीं, जैसे कि चैटबॉट्स को अत्यधिक जुड़ाव के लिए परिवर्तनीय पुरस्कार रणनीतियों का उपयोग करने से रोकना, इन प्रावधानों में संशोधन किया गया। वर्तमान संस्करण तत्काल हानियों को संबोधित करने पर केंद्रित है बिना कंपनियों पर तकनीकी रूप से असंभव मांगें थोपे।
जबकि बिल गवर्नर के निर्णय का इंतजार कर रहा है, इसने तेजी से विकसित हो रही एआई उद्योग में नवाचार और उपयोगकर्ता सुरक्षा के बीच संतुलन बनाने पर चर्चा को जन्म दिया है।
स्रोत
TechCrunchतथ्य जाँच
लेख के तथ्यों की जाँच करें बाहरी स्रोतों और डेटाबेस का उपयोग करके।