कॅलिफोर्नियाने एआय चॅटबॉट्सचे नियमन करण्यासाठी आणि अल्पवयीन मुलांचे संरक्षण करण्यासाठी एसबी २४३ पास केले

कॅलिफोर्नियाने कृत्रिम बुद्धिमत्तेच्या देखरेखीमध्ये एक निर्णायक पाऊल उचलले आहे. ज्या नियमात तथाकथित "सहकारी चॅटबॉट्स" वर लक्ष केंद्रित केले आहे, जे मैत्री किंवा जवळीकतेचे अनुकरण करतात. गव्हर्नर गॅविन न्यूसम यांनी एसबी २४३ वर स्वाक्षरी केली, एक कायदा ज्यामध्ये या साधनांना स्वयंचलित प्रणाली म्हणून ओळखणे आणि त्यांच्याशी संवाद साधताना विशिष्ट सुरक्षा उपायांचा अवलंब करणे आवश्यक आहे अल्पवयीन वापरकर्ते.

राज्य सिनेटर स्टीव्ह पॅडिला यांनी प्रायोजित केलेले हे उपाय तांत्रिक वास्तुकलेवर कमी आणि अधिक लक्ष केंद्रित करते लोक आणि यंत्रांमधील भावनिक संवादउद्योगाच्या दबावानंतर मर्यादित असलेली अंतिम आवृत्ती, प्रमुख जबाबदाऱ्या कायम ठेवते: तुम्ही एआयशी बोलत आहात याची नियमित आठवण, वयानुसार कंटेंट फिल्टर आणि प्रतिसाद प्रोटोकॉल. स्वतःला हानी पोहोचवण्याची किंवा आत्महत्येची चिन्हे.

SB 243 ला नेमके काय आवश्यक आहे?

मानकाच्या गाभ्यासाठी चॅटबॉट्सना स्पष्टपणे आणि वारंवार चेतावणी देणे आवश्यक आहे की ते एआय सॉफ्टवेअरअल्पवयीन वापरकर्त्यांसाठी, परस्परसंवादाच्या गैर-मानवी स्वरूपाबद्दल गोंधळ टाळण्यासाठी, सिस्टमने किमान दर तीन तासांनी दृश्यमान आणि समजण्यायोग्य पद्धतीने एक स्मरणपत्र प्रदर्शित केले पाहिजे.

याव्यतिरिक्त, ऑपरेटरना अंमलबजावणी करावी लागेल सामग्री फिल्टर आणि वय मर्यादा: स्पष्ट लैंगिकता आणि स्वतःला हानी पोहोचवणारे किंवा प्रोत्साहन देणारे कोणतेही संवाद अल्पवयीन मुलांशी झालेल्या संभाषणातून वगळण्यात आले आहेत. हे अडथळे आढळून आल्यावर संकटकालीन सेवांकडे पाठवले जातात. जोखीम निर्देशक.

La कायद्यानुसार प्लॅटफॉर्मना लवकर शोध आणि प्रतिसाद प्रोटोकॉल स्थापित करण्याची आवश्यकता आहे., तसेच आत्महत्या करण्याच्या विचारांच्या प्रकरणांचे अहवाल येथे आढळले आत्महत्या प्रतिबंधक कार्यालय कॅलिफोर्नियाचाहे आरोग्य अधिकाऱ्यांशी समन्वय मजबूत करण्याचा आणि मानसिक आरोग्यावर या साधनांच्या परिणामाचे मेट्रिक्स समाविष्ट करण्याचा प्रयत्न करते.

या सुरक्षा उपायांचे पालन करण्यासाठी, कंपन्यांनी राज्यातील रहिवाशांसाठी त्यांच्या सेवांमध्ये वाजवी वय पडताळणी यंत्रणा लागू केल्या पाहिजेत.ही आवश्यकता कॅलिफोर्नियामध्ये कार्यरत असलेल्या गेमिंग प्लॅटफॉर्म किंवा विकेंद्रित पर्यायांसह, सहचर चॅटबॉट्स ऑफर करणाऱ्या सोशल नेटवर्क्स, वेबसाइट्स आणि अॅप्सना लागू होते.

एसबी २४३ च्या अंतिम आवृत्तीमध्ये तृतीय-पक्ष ऑडिट आणि सर्व वापरकर्त्यांसाठी (फक्त अल्पवयीन मुलांसाठी नाही) एक अॅप वगळण्यात आले होते ज्यांचा पूर्वीच्या मसुद्यांमध्ये विचार करण्यात आला होता. या कपात असूनही, न्यूजमने विधेयकाचा बचाव केला. प्रतिबंधक धरण जानेवारी २०२६ पासून अंमलात येण्याचे नियोजित असलेले, टाळता येण्याजोग्या नुकसानाविरुद्ध.

राज्यात एआय कायद्यांचे विस्तृत पॅकेज

एसबी २४३ हे एसबी ५३ सारख्या अलीकडेच मंजूर झालेल्या इतर उपक्रमांसोबत येते, ज्यासाठी मोठ्या एआय डेव्हलपर्सना त्यांच्या एआय धोरणे सार्वजनिकपणे उघड करणे आवश्यक आहे. सुरक्षा आणि जोखीम कमी करणेआधीच मोठ्या प्रमाणात सामाजिक प्रभाव असलेल्या प्रगत मॉडेल्सची पारदर्शकता सुधारणे हे उद्दिष्ट आहे.

त्याच वेळी, तंत्रज्ञानाचा वापर करून कंपन्यांना जबाबदारी टाळण्यापासून रोखण्यासाठी उपाययोजनांना प्रोत्साहन देण्यात आले आहे. "स्वायत्तपणे कार्य करते"संमतीशिवाय केलेल्या लैंगिक डीपफेकसाठी दंड देखील कडक करण्यात आला आहे, ज्यामुळे अल्पवयीन पीडितांवर परिणाम झाल्यास दंडात लक्षणीय वाढ झाली आहे.

पॅकेजमध्ये चॅटबॉट्सना तोतयागिरी करण्यापासून रोखण्यासाठी निर्बंध देखील समाविष्ट आहेत व्यावसायिक स्वच्छतागृहे किंवा अधिकार्‍यांचे आकडे, एक युक्ती जी असुरक्षित वापरकर्त्यांना दिशाभूल करू शकते. या तुकड्यांसह, सॅक्रामेंटो एक राज्य चौकट रेखाटते जी नवोपक्रम, अधिकार आणि सार्वजनिक सुरक्षा.

त्याच्या व्याप्तीबद्दल समर्थन, टीका आणि शंका

या मानकाला क्रांतिकारी कामगिरीबद्दल प्रशंसा मिळाली आहे, तर त्याच वेळी कमी पडल्याबद्दल टीकाही झाली आहे. जसे की संस्था कॉमन सेन्स मीडिया आणि टेक ओव्हरसाईट प्रोजेक्टने बाह्य ऑडिट काढून टाकल्यानंतर आणि त्यांची व्याप्ती अल्पवयीन मुलांसाठी मर्यादित केल्यानंतर त्यांचा पाठिंबा काढून घेतला, ज्यामुळे ते इशारा देतात की सध्याच्या जोखमींना तोंड देताना कायदा अपुरा ठरू शकतो.

दुसऱ्या टोकावर, विकासक आणि तज्ञ इशारा देतात की अप्रमाणित जबाबदारी "सावधगिरीचे उपाय" होऊ शकतात: फिल्टर इतके कडक असतात की ते मानसिक आरोग्य किंवा लैंगिक शिक्षणाबद्दलच्या कायदेशीर संभाषणांना शांत करतात, ज्यामुळे ऑनलाइन मदत मागणाऱ्या किशोरांना महत्त्वपूर्ण मदतीपासून वंचित ठेवले जाते.

राजकीय आणि आर्थिक दबाव तीव्र होता: सर्वात कठीण मजकुरांचे नियमन करण्यासाठी सत्रादरम्यान तंत्रज्ञान गट आणि उद्योग संघटनांनी लॉबिंगमध्ये लाखोंची गुंतवणूक केली.त्याच वेळी, राज्य अभियोक्ता कार्यालय आणि द एफटीसी अशा वातावरणात, अल्पवयीन मुलांना लक्ष्य करणाऱ्या चॅटबॉट पद्धतींवर छाननी सुरू केली आहे दिवाणी खटले आणि बाधित कुटुंबांच्या तक्रारी.

विरुद्ध अलीकडील प्रकरणे आणि खटले कॅरेक्टर.एआय किंवा ओपनएआय सारख्या प्लॅटफॉर्ममुळे सार्वजनिक वादविवाद वाढला आहे.आरोपांनंतर, मेटा आणि ओपनएआय सारख्या प्रमुख खेळाडूंनी बदल जाहीर केले: किशोरवयीन मुलांशी अनुचित संभाषणे आणि विशेष संसाधनांचे रेफरल ब्लॉक करणे, तसेच नवीन पालक नियंत्रणे.

अंमलबजावणीतील आव्हाने आणि अपेक्षित परिणाम

या प्रक्षेपणामुळे ऑपरेशनल आव्हाने निर्माण झाली आहेत. जागतिक प्लॅटफॉर्मना कोण आहे हे अचूकपणे ठरवावे लागेल कॅलिफोर्नियामधील अल्पवयीन रहिवासी आणि गोपनीयतेवर अतिक्रमण न करता लाखो दैनंदिन संवादांवर लक्ष ठेवतो, जे तांत्रिक आणि कायदेशीरदृष्ट्या गुंतागुंतीचे आहे.

आणखी एक आव्हान म्हणजे अतिरेकी सेन्सॉरशिपचा "धोकादायक परिणाम" टाळणे: जर कंपन्यांना निर्बंधांची भीती वाटत असेल तर ते माघार घेऊ शकतात उपयुक्त सामग्री शुद्ध विवेकबुद्धीतून भावनिक कल्याण. नियमनाच्या यशाचे मूल्यांकन करण्यासाठी संरक्षण आणि विश्वसनीय माहितीची उपलब्धता यांच्यातील संतुलन शोधणे महत्त्वाचे असेल.

राष्ट्रीय परिणामाचा प्रश्न देखील कायम आहे: कॅलिफोर्नियाच्या इतर सुरुवातीच्या नियमांप्रमाणेच, त्याच्या आवश्यकता प्रत्यक्षात येऊ शकतात. मानक संपूर्ण अमेरिकेतील ऑपरेटर्ससाठी, प्रभावीतेचे ठोस पुरावे उपलब्ध होण्यापूर्वीच.

जरी अंतिम मजकूर सुरुवातीच्या प्रस्तावांपेक्षा अरुंद असला तरी, एसबी २४३ ने "कंपेनियन चॅटबॉट्स" साठी अभूतपूर्व नियम निश्चित केले आहेत.: संस्थात्मक अहवालासह स्पष्ट इशारे, वय फिल्टर आणि संकट प्रोटोकॉल. जर तुम्ही असाल तर किमान अडथळे जर त्यांनी कायदेशीर आधार न दाबता अल्पवयीन मुलांचे संरक्षण केले तर कॅलिफोर्नियाने एक मध्यम मार्ग शोधला असेल जो इतर राज्ये अवलंबू शकतात.

संबंधित लेख:

OpenAI चॅटजीपीटीमध्ये कुटुंब खाती, जोखीम चेतावणी आणि वापर मर्यादांसह पालक नियंत्रणे जोडेल.

अल्बर्टो नवारो

मी एक तंत्रज्ञान उत्साही आहे ज्याने त्याच्या "गीक" आवडींना व्यवसायात बदलले आहे. मी माझ्या आयुष्यातील 10 वर्षांहून अधिक काळ अत्याधुनिक तंत्रज्ञानाचा वापर करून आणि सर्व प्रकारच्या कार्यक्रमांना निव्वळ उत्सुकतेपोटी घालवले आहे. आता मी कॉम्प्युटर टेक्नॉलॉजी आणि व्हिडिओ गेम्समध्ये स्पेशलायझेशन केले आहे. याचे कारण असे की, मी 5 वर्षांहून अधिक काळ तंत्रज्ञान आणि व्हिडिओ गेमवरील विविध वेबसाइट्ससाठी लिहित आहे, प्रत्येकाला समजेल अशा भाषेत तुम्हाला आवश्यक असलेली माहिती देण्यासाठी लेख तयार करत आहे.

तुम्हाला काही प्रश्न असल्यास, माझे ज्ञान विंडोज ऑपरेटिंग सिस्टीम तसेच मोबाइल फोनसाठी अँड्रॉइडशी संबंधित सर्व गोष्टींपासून आहे. आणि माझी वचनबद्धता तुमच्याशी आहे, मी नेहमी काही मिनिटे घालवण्यास तयार आहे आणि या इंटरनेटच्या जगात तुम्हाला पडणाऱ्या कोणत्याही प्रश्नांचे निराकरण करण्यात मदत करण्यास तयार आहे.