- SB 243 fereasket dat chatbots harsels identifisearje en periodike herinneringen jouwe, mei notifikaasjes elke trije oeren foar minderjierrigen.
- Diskusjes oer seksualiteit en selsferwûning mei minderjierrigen binne beheind, en krisisprotokollen wurde aktivearre.
- Platfoarms moatte tekens fan selsmoardgedachten melde by it steatskantoar foar selsmoardprevinsje.
- It pakket omfettet oare Kalifornyske AI-regeljouwing oer risiko, deepfakes en oanspraaklikens.
Kalifornje hat in beslissende stap nommen yn it tafersjoch op keunstmjittige yntelliginsje. mei in regel dy't him rjochtet op saneamde "begeliederchatbots", dyjingen dy't freonskip of yntimiteit simulearje. Gûverneur Gavin Newsom hat SB 243 ûndertekene, in wet dy't fereasket dat dizze ark harsels identifisearje as automatisearre systemen en spesifike befeiligingsmaatregels nimme by ynteraksje mei lytse brûkers.
De maatregel, sponsore troch steatssenator Steve Padilla, rjochtet him minder op technyske arsjitektuer en mear op emosjonele ynterface tusken minsken en masinesDe definitive ferzje, dy't beheinder waard nei druk fan 'e yndustry, hâldt wichtige ferplichtingen yn stân: Regelmjittige herinneringen dat jo mei in AI prate, leeftydsgeskikte ynhâldfilters en antwurdprotokollen tekens fan selsferwûning of selsmoard.
Wat fereasket SB 243 krekt?
De kearn fan 'e standert fereasket dat chatbots dúdlik en werhelle warskôgje dat se AI softwareFoar minderjierrige brûkers moat it systeem teminsten elke trije oeren in herinnering werjaan, op in sichtbere en begryplike manier om betizing oer de net-minsklike aard fan 'e ynteraksje te foarkommen.
Derneist moatte operators ymplementearje ynhâldfilters en leeftydsgrinzenEksplisite seksualiteit en elke ynteraksje dy't selsferwûning normalisearret of oanmoediget, wurde útsletten fan petearen mei minderjierrigen. Dizze barriêres wurde oanfolle troch ferwizings nei krisistsjinsten as se ûntdutsen wurde. risiko-yndikatoaren.
La De wet fereasket dat platfoarms protokollen foar iere deteksje en reaksje fêststelle., lykas rapporten fan gefallen fan selsmoardgedachten dy't identifisearre binne by de Kantoar foar selsmoardprevinsje Fan KalifornjeDit besiket de koördinaasje mei sûnensautoriteiten te fersterkjen en metriken op te nimmen oer de ynfloed fan dizze ark op mentale sûnens.
Om dizze beskermingsmaatregels te hanthavenjen, Bedriuwen moatte ridlike leeftydsferifikaasjemeganismen ymplementearje yn har tsjinsten rjochte op ynwenners fan 'e steat.De eask jildt foar sosjale netwurken, websiden en apps dy't begeliedende chatbots oanbiede, ynklusyf gamingplatfoarms of desintralisearre opsjes dy't operearje yn Kalifornje.
De definitive ferzje fan SB 243 liet audits fan tredden en in app foar alle brûkers (net allinich minderjierrigen) dy't yn eardere konsepten bedoeld wiene, wei. Nettsjinsteande dizze besuniging ferdigene Newsom it wetsfoarstel as in ynslutingsdaam tsjin foarkombere skea, mei yngong fan krêft pland foar jannewaris 2026.
In breder pakket fan AI-wetten yn 'e steat
SB 243 komt neist oare koartlyn oannommen inisjativen, lykas SB 53, dy't fereasket dat grutte AI-ûntwikkelders har AI-strategyen iepenbier meitsje. feiligens en risikobeperkingIt doel is om de transparânsje te ferbetterjen fan avansearre modellen dy't al grutskalige maatskiplike ynfloed hawwe.
Parallel binne maatregels befoardere om te foarkommen dat bedriuwen ferantwurdlikheden ûntwike troch te beweare dat technology "Handearret autonoom"Straffen foar net-konsensuele seksuele deepfakes binne ek oanskerpe, wêrtroch't boetes signifikant ferhege wurde as se minderjierrige slachtoffers beynfloedzje.
It pakket befettet ek beheiningen om te foarkommen dat chatbots har imitearje sûnens professionals of autoriteitsfigueren, in taktyk dy't kwetsbere brûkers misliede kin. Mei dizze stikken sketst Sacramento in steatskader dat besiket ynnovaasje, rjochten en iepenbiere feiligens.
Stipe, krityk en twifels oer de omfang dêrfan
De standert hat lof krigen foar it baanbrekkend wêzen, mar tagelyk krityk foar it tekoartkommen. Organisaasjes lykas Common Sense Media en it Tech Oversight Project lutsen har stipe yn nei't se eksterne audits eliminearre hiene en har omfang beheind hiene ta minderjierrigen, wat se warskôgje dat de wet in ûnfoldwaande gebaar meitsje koe yn it ljocht fan 'e hjoeddeistige risiko's.
Oan it oare uterste warskôgje ûntwikkelders en saakkundigen dat in ûnevenredige ferantwurdlikens kin liede ta "foarsoarchsblokkades": filters dy't sa strang binne dat se legitime petearen oer geastlike sûnens of seksuele foarljochting stilmeitsje, wêrtroch't jongerein dy't online help sykje krúsjale stipe ûntnimt.
De politike en ekonomyske druk wie yntinsyf: Technologygroepen en yndustrykoalysjes hawwe miljoenen bestege oan lobbyjen tidens de sesje om de dregste teksten te moderearjen.Tagelyk hawwe it steatsadvokaat en de FTC hawwe kontrôle oproppen nei chatbot-praktiken rjochte op minderjierrigen, yn in omjouwing fan boargerlike rjochtsaken en klachten fan troffen famyljes.
Resinte gefallen en rjochtsaken tsjin platfoarms lykas Character.AI of OpenAI hawwe it iepenbiere debat eskalearreNei de beskuldigingen, Grutte spilers lykas Meta en OpenAI hawwe feroarings oankundige: It blokkearjen fan ûnfatsoenlike petearen mei jongerein en ferwizings nei spesjalisearre boarnen, plus nije âlderlike kontrôles.
Útfieringsútdagings en foarsisbere effekten
De ymplemintaasje bringt operative útdagings mei. Globale platfoarms sille sekuer moatte bepale wa't is minderjierrige ynwenner yn Kalifornje en miljoenen deistige ynteraksjes kontrolearje sûnder ynbreuk te meitsjen op privacy, eat dat technysk en juridysk yngewikkeld is.
In oare útdaging sil wêze om it "drippeleffekt" nei oermjittige sensuer te foarkommen: as bedriuwen bang binne foar sanksjes, kinne se har weromlûke brûkbere ynhâld emosjoneel wolwêzen út pure foarsichtigens. It finen fan de lykwicht tusken beskerming en tagong ta betroubere ynformaasje sil de kaai wêze foar it beoardieljen fan it súkses fan 'e regeljouwing.
De fraach fan nasjonale ynfloed bliuwt ek: lykas bard is mei oare iere regeljouwing yn Kalifornje, kinne de easken dêrfan de facto wurde standert foar operators yn 'e FS, sels foardat solide bewiis fan effektiviteit beskikber wie.
Hoewol't de definitive tekst smeller is as de earste foarstellen, SB 243 stelt noch nea earder sjoen regels foar "begeliedende chatbots"dúdlike warskôgings, leeftydsfilters en krisisprotokollen mei ynstitúsjonele rapportaazje. As jo binne minimale barriêres As se it slagje om minderjierrigen te beskermjen sûnder legitime stipe te fersmoarjen, sil Kalifornje in middenwei baanmakke hawwe dy't oare steaten folgje kinne.
Ik bin in technology-entûsjast dy't syn "geek" ynteresses hat omset yn in berop. Ik haw mear as 10 jier fan myn libben bestege oan it brûken fan moderne technology en oan allerhande programma's út pure nijsgjirrigens te tinken. No haw ik my spesjalisearre yn kompjûtertechnology en fideospultsjes. Dit is om't ik mear dan 5 jier wurke oan skriuwen foar ferskate websiden oer technology en fideospultsjes, artikels oanmeitsje dy't besykje jo de ynformaasje te jaan dy't jo nedich binne yn in taal dy't elkenien begrypt.
As jo fragen hawwe, rint myn kennis fan alles relatearre oan it Windows-bestjoeringssysteem as Android foar mobile tillefoans. En myn ynset is foar jo, ik bin altyd ree om in pear minuten te besteegjen en jo te helpen mei it oplossen fan alle fragen dy't jo hawwe yn dizze ynternetwrâld.