- SB 243 nõuab vestlusrobotitelt enda tuvastamist ja perioodiliste meeldetuletuste saatmist, alaealiste puhul teavitustega iga kolme tunni järel.
- Alaealistega seksuaalsuse ja enesevigastamise teemalised arutelud on piiratud ning aktiveeritakse kriisiprotokollid.
- Platvormid peavad enesetapumõtete märkidest teatama riiklikule enesetapu ennetamise büroole.
- Pakett sisaldab ka teisi California tehisintellekti eeskirju riski, süvavõltsinguid ja vastutust käsitlevate kohta.
California on astunud otsustava sammu tehisintellekti järelevalves. reegliga, mis keskendub niinimetatud "kaaslastele mõeldud vestlusrobotitele", mis simuleerivad sõprust või lähedust. Kuberner Gavin Newsom allkirjastas seaduseelnõu SB 243., seadus, mis nõuab, et need tööriistad identifitseeriksid end automatiseeritud süsteemidena ja võtaksid kasutusele konkreetsed kaitsemeetmed suhtlemisel alaealised kasutajad.
Osariigi senaator Steve Padilla algatatud meede keskendub vähem tehnilisele arhitektuurile ja rohkem... emotsionaalne liides inimeste ja masinate vahelLõplik versioon, mis pärast tööstusharu survet oli piiratum, säilitab peamised kohustused: Regulaarsed meeldetuletused, et räägite tehisintellektiga, vanusele vastavad sisufiltrid ja vastamisprotokollid enesevigastamise või enesetapu tunnused.
Mida täpselt SB 243 nõuab?
Standardi põhiolemus nõuab, et vestlusrobotid hoiataksid selgelt ja korduvalt, et nad on Tehisintellekti tarkvaraAlaealiste kasutajate puhul peab süsteem kuvama meeldetuletuse vähemalt iga kolme tunni järel nähtaval ja arusaadaval viisil, et vältida segadust suhtluse mitte-inimliku olemuse osas.
Lisaks peavad operaatorid rakendama sisufiltrid ja vanusepiirangudAlaealistega peetavatest vestlustest on välja jäetud selgesõnaline seksuaalsus ja igasugune enesevigastamist normaliseeriv või soodustav suhtlus. Neid tõkkeid täiendavad suunamised kriisiteenuste juurde, kui sellised tegevused avastatakse. riskinäitajad.
La Seadus nõuab platvormidelt varajase avastamise ja reageerimise protokollide kehtestamist., samuti teateid enesetapumõtete juhtudest, mis on tuvastatud Enesetapu ennetamise büroo CaliforniastSelle eesmärk on tugevdada koostööd tervishoiuasutustega ja lisada mõõdikuid nende vahendite mõju kohta vaimsele tervisele.
Nende kaitsemeetmete säilitamiseks Ettevõtted peavad oma osariigi elanikele suunatud teenustes rakendama mõistlikke vanuse kontrollimise mehhanisme.Nõue kehtib sotsiaalvõrgustike, veebisaitide ja rakenduste kohta, mis pakuvad kaasvestlusroboteid, sealhulgas Californias tegutsevaid mänguplatvorme või detsentraliseeritud valikuid.
SB 243 lõplikust versioonist jäeti välja kolmandate osapoolte auditid ja kõigile kasutajatele (mitte ainult alaealistele) mõeldud rakendus, mida varasemates mustandites kaaluti. Vaatamata sellele kärbele kaitses Newsom seaduseelnõu kui... kaitsepiirde tamm ennetatava kahju eest, mille jõustumine on kavandatud jaanuariks 2026.
Laiem tehisintellekti seaduste pakett osariigis
SB 243 tuleb koos teiste hiljuti vastu võetud algatustega, näiteks SB 53, mis nõuab suurtelt tehisintellekti arendajatelt oma tehisintellekti strateegiate avalikustamist. turvalisus ja riskide maandamineEesmärk on parandada selliste täiustatud mudelite läbipaistvust, millel on juba ulatuslik sotsiaalne mõju.
Paralleelselt on edendatud meetmeid, et takistada ettevõtetel vastutusest kõrvale hiilida, väites, et tehnoloogia "Tegutseb autonoomselt"Samuti on karmistatud karistusi mittekonsensusliku seksuaalse süvavõltsimise eest, suurendades märkimisväärselt trahve, kui need mõjutavad alaealisi ohvreid.
Pakett sisaldab ka piiranguid, mis takistavad vestlusrobotite isikupärastamist professionaalsed sanitaarruumid või autoriteetide poolt – taktika, mis võib haavatavaid kasutajaid eksitada. Nende teostega visandab Sacramento osariigi raamistiku, mis püüab tasakaalustada innovatsiooni, õigusi ja avalik julgeolek.
Toetus, kriitika ja kahtlused selle ulatuse suhtes
Standardit on kiidetud murrangulisuse eest, kuid samal ajal on kriitikat esitatud ka puudujääkide pärast. Sellised organisatsioonid nagu Terve mõistuse meedia ja Tech Oversight Project loobusid oma toetusest pärast välisauditite kaotamist ja nende ulatuse piiramist alaealiste omaga, mis nende sõnul võib muuta seaduse praeguste riskide valguses ebapiisavaks žestiks.
Teises äärmuses hoiatavad arendajad ja eksperdid, et a ebaproportsionaalne vastutus võib viia „ettevaatusabinõude blokeerimiseni“: filtrid on nii ranged, et need vaigistavad õigustatud vestlused vaimse tervise või seksuaalhariduse teemadel, jättes teismelised, kes otsivad abi internetist, ilma olulisest toest.
Poliitiline ja majanduslik surve on olnud tugev: Tehnoloogiagrupid ja tööstuskoalitsioonid investeerisid istungjärgu ajal miljoneid dollareid lobitöösse, et leevendada kõige keerulisemaid tekste.Samal ajal riigiprokuratuur ja FTC on käivitanud alaealistele suunatud vestlusrobotite tavade uurimise keskkonnas, kus tsiviilhagid ja kaebused mõjutatud peredelt.
Hiljutised juhtumid ja kohtuasjad Platvormid nagu Character.AI või OpenAI on avaliku arutelu eskaleerinudPärast süüdistusi Suured tegijad nagu Meta ja OpenAI teatasid muudatustestSobimatute vestluste blokeerimine teismelistega ja suunamine spetsiaalsetele ressurssidele, lisaks uued vanemliku kontrolli vahendid.
Rakendamisega seotud väljakutsed ja ettenähtavad mõjud
Käivitamine tekitab operatiivseid väljakutseid. Globaalsed platvormid peavad täpselt kindlaks tegema, kes on alaealine elanik Californias ja jälgida miljoneid igapäevaseid suhtlusi privaatsust rikkumata, mis on tehniliselt ja juriidiliselt keeruline.
Teine väljakutse on vältida liigse tsensuuri „tilkuvat mõju“: kui ettevõtted kardavad sanktsioone, võivad nad sellest loobuda. kasulik sisu emotsionaalne heaolu puhtast ettevaatlikkusest. Kaitse ja usaldusväärsele teabele juurdepääsu vahelise tasakaalu leidmine on määruse edukuse hindamisel võtmetähtsusega.
Samuti jääb küsimus riikliku mõju kohta: nagu on juhtunud teiste varajaste California eeskirjadega, võivad selle nõuded muutuda de facto standard operaatoritele kogu USA-s, isegi enne, kui olid olemas kindlad tõendid efektiivsuse kohta.
Kuigi lõplik tekst on esialgsetest ettepanekutest kitsam, SB 243 seab enneolematud reeglid "kaaslasvestlusrobotite" jaoksselged hoiatused, vanusefiltrid ja kriisiprotokollid koos institutsioonilise aruandlusega. Kui te olete minimaalsed tõkked Kui neil õnnestub alaealisi kaitsta ilma seaduslikku tuge lämmatamata, on California sillutanud kesktee, mida teised osariigid saavad järgida.
Olen tehnoloogiahuviline, kes on muutnud oma "nohikese" huvidest elukutse. Olen veetnud üle 10 aasta oma elust tipptehnoloogiat kasutades ja puhtast uudishimust igasuguste programmide kallal nokitsenud. Nüüd olen spetsialiseerunud arvutitehnoloogiale ja videomängudele. Seda seetõttu, et rohkem kui 5 aastat olen kirjutanud erinevatele tehnoloogia ja videomängude veebisaitidele, luues artikleid, mille eesmärk on anda teile vajalikku teavet kõigile arusaadavas keeles.
Kui teil on küsimusi, siis minu teadmised ulatuvad kõigest, mis on seotud nii Windowsi operatsioonisüsteemiga kui ka Androidiga mobiiltelefonidele. Ja ma olen pühendunud teile, olen alati nõus kulutama paar minutit ja aitama teil lahendada kõik küsimused, mis teil selles Interneti-maailmas tekkida võivad.