- SB 243 ჩატბოტებს ავალდებულებს, რომ საკუთარი თავი იდენტიფიცირებულად აქციონ და პერიოდულად შეხსენებები გააგზავნონ, არასრულწლოვნებისთვის კი შეტყობინებები ყოველ სამ საათში ერთხელ გაეგზავნოთ.
- არასრულწლოვანებთან სექსუალურობისა და თვითდაზიანების შესახებ დისკუსიები შეზღუდულია და კრიზისული პროტოკოლები გააქტიურებულია.
- პლატფორმებმა სუიციდური აზრების ნიშნების შესახებ თვითმკვლელობის პრევენციის სახელმწიფო ოფისს უნდა აცნობონ.
- პაკეტი მოიცავს კალიფორნიის ხელოვნური ინტელექტის სხვა რეგულაციებს რისკების, ღრმა ფეიკებისა და პასუხისმგებლობის შესახებ.
კალიფორნიამ ხელოვნური ინტელექტის ზედამხედველობის კუთხით გადამწყვეტი ნაბიჯი გადადგა. წესით, რომელიც ფოკუსირებულია ე.წ. „თანამგზავრ ჩატბოტებზე“, რომლებიც მეგობრობის ან ინტიმურობის სიმულირებას ახდენენ. გუბერნატორმა გევინ ნიუსომმა ხელი მოაწერა SB 243-ს, კანონი, რომელიც მოითხოვს, რომ ამ ინსტრუმენტებმა თავი ავტომატიზირებულ სისტემებად აღიარონ და მიიღონ კონკრეტული დამცავი ზომები მათთან ურთიერთქმედებისას. მცირეწლოვანი მომხმარებლები.
შტატის სენატორის სტივ პადილას მიერ დაფინანსებული ღონისძიება ნაკლებად ფოკუსირებულია ტექნიკურ არქიტექტურაზე და უფრო მეტად... ემოციური ურთიერთქმედება ადამიანებსა და მანქანებს შორისსაბოლოო ვერსია, რომელიც ინდუსტრიის მხრიდან ზეწოლის შემდეგ უფრო შეზღუდული იყო, ძირითად ვალდებულებებს ინარჩუნებს: რეგულარული შეხსენებები, რომ ხელოვნურ ინტელექტს ესაუბრებით, ასაკის შესაბამისი კონტენტის ფილტრები და რეაგირების პროტოკოლები თვითდაზიანების ან თვითმკვლელობის ნიშნები.
რას მოითხოვს ზუსტად SB 243?
სტანდარტის არსი მოითხოვს, რომ ჩატბოტებმა ნათლად და განმეორებით გააფრთხილონ, რომ ისინი... ხელოვნური ინტელექტის პროგრამული უზრუნველყოფაარასრულწლოვანი მომხმარებლებისთვის, სისტემამ შეხსენება უნდა აჩვენოს მინიმუმ სამ საათში ერთხელ, თვალსაჩინო და გასაგები ფორმით, რათა თავიდან იქნას აცილებული დაბნეულობა ურთიერთქმედების არაადამიანურ ბუნებასთან დაკავშირებით.
გარდა ამისა, ოპერატორებმა უნდა განახორციელონ კონტენტის ფილტრები და ასაკობრივი შეზღუდვებიარასრულწლოვანებთან საუბრებიდან გამორიცხულია აშკარა სექსუალობა და ნებისმიერი ურთიერთქმედება, რომელიც თვითდაზიანებას ნორმალიზებს ან ხელს უწყობს. ამ ბარიერებს ემატება კრიზისული სერვისების მიმართვა მათი გამოვლენის შემთხვევაში. რისკის ინდიკატორები.
La კანონი პლატფორმებს ავალდებულებს, შექმნან ადრეული გამოვლენისა და რეაგირების პროტოკოლები., ასევე სუიციდური იდეების შემთხვევების შესახებ ცნობები, რომლებიც გამოვლენილია თვითმკვლელობის პრევენციის ოფისი კალიფორნიიდანეს მიზნად ისახავს ჯანდაცვის ორგანოებთან კოორდინაციის გაძლიერებას და ამ ინსტრუმენტების ფსიქიკურ ჯანმრთელობაზე ზემოქმედების მეტრიკის ჩართვას.
ამ დაცვის ზომების დასაცავად, კომპანიებმა შტატის მაცხოვრებლებისთვის განკუთვნილ თავიანთ მომსახურებაში ასაკის დადასტურების გონივრული მექანიზმები უნდა დანერგონ.მოთხოვნა ვრცელდება სოციალურ ქსელებზე, ვებსაიტებსა და აპლიკაციებზე, რომლებიც თანმხლებ ჩატბოტებს სთავაზობენ, მათ შორის კალიფორნიაში მოქმედ სათამაშო პლატფორმებზე ან დეცენტრალიზებულ ვარიანტებზე.
SB 243-ის საბოლოო ვერსიაში გამოტოვებული იყო მესამე მხარის აუდიტები და აპლიკაცია ყველა მომხმარებლისთვის (და არა მხოლოდ არასრულწლოვნებისთვის), რაც ადრეულ პროექტებში იყო გათვალისწინებული. ამ შემცირების მიუხედავად, ნიუსომმა კანონპროექტი დაიცვა, როგორც... შემაკავებელი კაშხალი თავიდან აცილებადი ზიანისგან, რომლის ძალაში შესვლაც 2026 წლის იანვრისთვის არის დაგეგმილი.
ხელოვნური ინტელექტის შესახებ კანონების უფრო ფართო პაკეტი შტატში
SB 243 სხვა ახლახან მიღებულ ინიციატივებთან ერთად მოდის, როგორიცაა SB 53, რომელიც მსხვილ ხელოვნური ინტელექტის დეველოპერებს ავალდებულებს საჯაროდ გაამჟღავნონ თავიანთი ხელოვნური ინტელექტის სტრატეგიები. უსაფრთხოება და რისკის შემცირებამიზანია იმ მოწინავე მოდელების გამჭვირვალობის გაუმჯობესება, რომლებსაც უკვე აქვთ ფართომასშტაბიანი სოციალური გავლენა.
პარალელურად, დაწესდა ზომები, რათა კომპანიებმა არ აიცილონ პასუხისმგებლობა იმ მტკიცებით, რომ ტექნოლოგია „ავტონომიურად მოქმედებს“ასევე გამკაცრდა სასჯელები თანხმობის გარეშე განხორციელებული სექსუალური ღრმა ფეიკისთვის, რაც მნიშვნელოვნად ზრდის ჯარიმებს, როდესაც ისინი არასრულწლოვან მსხვერპლებზე მოქმედებს.
პაკეტი ასევე მოიცავს შეზღუდვებს, რათა თავიდან აიცილონ ჩატბოტების მიერ იმიტაცია. ჯანდაცვის პროფესიონალები ან ავტორიტეტული ფიგურები, ტაქტიკა, რომელსაც შეუძლია დაუცველი მომხმარებლების შეცდომაში შეყვანა. ამ ნაშრომებით საკრამენტო ასახავს სახელმწიფო ჩარჩოს, რომელიც ცდილობს დააბალანსოს ინოვაცია, უფლებები და საზოგადოებრივი უსაფრთხოება.
მხარდაჭერა, კრიტიკა და ეჭვები მისი მასშტაბის შესახებ
სტანდარტს ინოვაციური ხასიათის გამო მოწონება დაიმსახურა, თუმცა ამავდროულად, კრიტიკა დაიმსახურა არასრულყოფილების გამო. ისეთი ორგანიზაციები, როგორიცაა საღი აზრის მედია და ტექნოლოგიური ზედამხედველობის პროექტმა მხარდაჭერა შეწყვიტა გარე აუდიტების გაუქმებისა და მათი მოქმედების არეალის არასრულწლოვნებით შეზღუდვის შემდეგ, რამაც, მათი თქმით, შესაძლოა კანონი არასაკმარისი ჟესტი გახადოს არსებული რისკების გათვალისწინებით.
მეორე უკიდურესობაში, დეველოპერები და ექსპერტები აფრთხილებენ, რომ არაპროპორციული პასუხისმგებლობა შეიძლება გამოიწვიოს „პრევენციული ბლოკები“: ფილტრები იმდენად მკაცრია, რომ ახშობს ფსიქიკური ჯანმრთელობის ან სექსუალური განათლების შესახებ ლეგიტიმურ საუბრებს, რაც ონლაინ დახმარების მაძიებელ მოზარდებს სასიცოცხლოდ მნიშვნელოვან მხარდაჭერას ართმევს.
პოლიტიკური და ეკონომიკური ზეწოლა ინტენსიური იყო: ტექნოლოგიურმა ჯგუფებმა და ინდუსტრიულმა კოალიციებმა მილიონები ჩადეს სესიის დროს ლობირებაში, რათა ყველაზე რთული ტექსტები მოდერირებულიყო.ამავდროულად, სახელმწიფო პროკურატურამ და ფედერალური სავაჭრო კომისია არასრულწლოვანთა მიმართ ჩატბოტების პრაქტიკის შესწავლა გამოიწვია, გარემოში სამოქალაქო სარჩელები და დაზარალებული ოჯახების საჩივრები.
ბოლოდროინდელი საქმეები და სასამართლო პროცესები ისეთმა პლატფორმებმა, როგორიცაა Character.AI ან OpenAI, საზოგადოებრივი დებატები გაამწვავა.ბრალდებების შემდეგ, ისეთმა მსხვილმა მოთამაშეებმა, როგორიცაა Meta და OpenAI, ცვლილებები გამოაცხადესმოზარდებთან შეუფერებელი საუბრების დაბლოკვა და სპეციალიზებულ რესურსებზე გადამისამართება, პლუს მშობლების მიერ კონტროლის ახალი მექანიზმები.
განხორციელების სირთულეები და მოსალოდნელი შედეგები
გაშვება ოპერაციულ სირთულეებს წარმოშობს. გლობალურ პლატფორმებს ზუსტად მოუწევთ იმის დადგენა, თუ ვინ... კალიფორნიაში არასრულწლოვანი მცხოვრები და აკონტროლონ მილიონობით ყოველდღიური ურთიერთქმედება კონფიდენციალურობის დარღვევის გარეშე, რაც ტექნიკურად და იურიდიულად რთულია.
კიდევ ერთი გამოწვევა იქნება ზედმეტი ცენზურის „წვეთოვანი ეფექტის“ თავიდან აცილება: თუ კომპანიები სანქციების შიშით შეჩერდებიან, მათ შეუძლიათ უარი თქვან სასარგებლო კონტენტი ემოციური კეთილდღეობა სუფთა წინდახედულებიდან გამომდინარე. დაცვასა და სანდო ინფორმაციაზე წვდომას შორის ბალანსის პოვნა რეგულაციის წარმატების შეფასების გასაღები იქნება.
ეროვნული გავლენის საკითხიც ღიად რჩება: როგორც ეს კალიფორნიის სხვა ადრეული რეგულაციების შემთხვევაში მოხდა, მისი მოთხოვნები შეიძლება ფაქტობრივ ხასიათს ატარებდეს. სტანდარტი ოპერატორებისთვის მთელი აშშ-ის მასშტაბით, ეფექტურობის მყარი მტკიცებულებების ხელმისაწვდომობამდეც კი.
მიუხედავად იმისა, რომ საბოლოო ტექსტი უფრო ვიწროა, ვიდრე საწყისი წინადადებები, SB 243 „თანმხლები ჩატბოტებისთვის“ უპრეცედენტო წესებს აწესებს: მკაფიო გაფრთხილებები, ასაკობრივი ფილტრები და კრიზისული პროტოკოლები ინსტიტუციური ანგარიშგებით. თუ თქვენ მინიმალური ბარიერები თუ ისინი არასრულწლოვანთა დაცვას ლეგიტიმური მხარდაჭერის ჩახშობის გარეშე მოახერხებენ, კალიფორნია შუალედურ გზას გაკვალავს, რომლის გაყოლაც სხვა შტატებსაც შეუძლიათ.
მე ვარ ტექნოლოგიების ენთუზიასტი, რომელმაც თავისი „გიკის“ ინტერესები პროფესიად აქცია. ჩემი ცხოვრების 10 წელზე მეტი გავატარე უახლესი ტექნოლოგიის გამოყენებით და ყველა სახის პროგრამაში სუფთა ცნობისმოყვარეობის გამო. ახლა სპეციალიზირებული ვარ კომპიუტერულ ტექნოლოგიებსა და ვიდეო თამაშებში. ეს იმიტომ ხდება, რომ 5 წელზე მეტია ვწერ ტექნოლოგიებისა და ვიდეო თამაშების სხვადასხვა ვებსაიტებზე, ვქმნი სტატიებს, რომლებიც ცდილობენ მოგაწოდოთ თქვენთვის საჭირო ინფორმაცია ყველასთვის გასაგებ ენაზე.
თუ თქვენ გაქვთ რაიმე შეკითხვები, ჩემი ცოდნა მერყეობს Windows ოპერაციულ სისტემასთან და ასევე Android-თან დაკავშირებულ ყველაფერზე მობილური ტელეფონებისთვის. და ჩემი ვალდებულება არის თქვენ მიმართ, მე ყოველთვის მზად ვარ გავატარო რამდენიმე წუთი და დაგეხმაროთ გადაჭრას ნებისმიერი შეკითხვა, რომელიც შეიძლება გქონდეთ ამ ინტერნეტ სამყაროში.