- SB 243 postulas, ke babilrobotoj identigu sin kaj provizu periodajn memorigilojn, kun sciigoj ĉiujn tri horojn por neplenaĝuloj.
- Diskutoj pri sekseco kaj memvundado kun neplenaĝuloj estas limigitaj, kaj krizprotokoloj estas aktivigitaj.
- Platformoj devas raporti signojn de suicidaj pensoj al la ŝtata Oficejo pri Memmortigo-Preventado.
- La pakaĵo inkluzivas aliajn kaliforniajn regularojn pri AI pri risko, profundaj falsaĵoj kaj respondeco.
Kalifornio faris decidan paŝon en la superrigardo de artefarita inteligenteco. kun regulo kiu fokusiĝas al tiel nomataj "kunulaj babilrobotoj", tiuj kiuj simulas amikecon aŭ intimecon. Guberniestro Gavin Newsom subskribis SB 243, leĝo kiu postulas, ke ĉi tiuj iloj identigu sin kiel aŭtomatajn sistemojn kaj adoptu specifajn protektojn dum interagado kun negravaj uzantoj.
La iniciato, sponsorita de ŝtatsenatano Steve Padilla, malpli fokusiĝas al teknika arkitekturo kaj pli al emocia interfaco inter homoj kaj maŝinojLa fina versio, kiu estis pli limigita post premo de la industrio, konservas ŝlosilajn devojn: Regulaj memorigiloj, ke vi parolas kun artefarita inteligenteco, aĝ-taŭgaj enhavaj filtriloj kaj respondo-protokoloj signoj de memvundado aŭ memmortigo.
Kion precize postulas SB 243?
La kerno de la normo postulas, ke babilrobotoj klare kaj plurfoje avertu, ke ili estas AI-programaroPor neplenaĝaj uzantoj, la sistemo devas montri memorigilon almenaŭ ĉiujn tri horojn, videble kaj kompreneble por eviti konfuzon pri la nehoma naturo de la interagado.
Krome, funkciigistoj devas efektivigi enhavaj filtriloj kaj aĝlimojEksplicita sekseco kaj ĉia interagado, kiu normaligas aŭ instigas memvundadon, estas ekskluditaj el konversacioj kun neplenaĝuloj. Ĉi tiujn barojn kompletigas plusendadoj al krizservoj kiam ili estas detektitaj. riskindikiloj.
La La leĝo postulas, ke platformoj establu protokolojn por frua detekto kaj respondo., same kiel raportoj pri kazoj de suicidaj pensoj identigitaj ĉe la Oficejo de Memmortigo-Preventado el KalifornioĈi tio celas plifortigi kunordigon kun saninstancoj kaj integri metrikojn pri la efiko de ĉi tiuj iloj sur mensan sanon.
Por subteni ĉi tiujn protektojn, Firmaoj devas efektivigi akcepteblajn aĝkontrolmekanismojn en siaj servoj celantaj loĝantojn de la ŝtato.La postulo validas por sociaj retoj, retejoj kaj aplikaĵoj, kiuj ofertas kunulajn babilrobotojn, inkluzive de ludplatformoj aŭ malcentralizitaj opcioj funkciigantaj en Kalifornio.
La fina versio de SB 243 preterlasis triapartajn reviziojn kaj aplikaĵon por ĉiuj uzantoj (ne nur neplenaĝuloj), kiuj estis antaŭviditaj en pli fruaj skizoj. Malgraŭ ĉi tiu redukto, Newsom defendis la leĝprojekton kiel retena digo kontraŭ evitebla damaĝo, kun ekvalidiĝo planita por januaro 2026.
Pli vasta pakaĵo da AI-leĝoj en la ŝtato
SB 243 venas kune kun aliaj ĵus aprobitaj iniciatoj, kiel ekzemple SB 53, kiu postulas, ke grandaj AI-programistoj publike malkaŝu siajn AI-strategiojn. sekureco kaj riskomildigoLa celo estas plibonigi la travideblecon de progresintaj modeloj, kiuj jam havas grandskalan socian efikon.
Paralele, oni antaŭenigis mezurojn por malhelpi kompaniojn eviti respondecojn per asertado, ke teknologio "agas sendepende"Punoj pro nekonsentaj seksaj profundaj falsaĵoj ankaŭ estis plifortigitaj, signife pliigante monpunojn kiam ili koncernas neplenaĝajn viktimojn.
La pakaĵo ankaŭ inkluzivas limigojn por malhelpi babilrobotojn ŝajnigi esti sanprofesiuloj aŭ aŭtoritatuloj, taktiko kiu povas misinformi vundeblajn uzantojn. Per ĉi tiuj pecoj, Sakramento skizas ŝtatan kadron kiu provas balanci novigadon, rajtojn kaj publika sekureco.
Subteno, kritiko kaj duboj pri ĝia amplekso
La normo ricevis laŭdojn pro esti pionira, sed samtempe kritikojn pro nesufiĉa plenumo. Organizoj kiel ekzemple Komuna Mesaĝo kaj la Tech Oversight Project retiris sian subtenon post elimino de eksteraj revizioj kaj limigo de ilia amplekso al neplenaĝuloj, kion ili avertas povus igi la leĝon nesufiĉa gesto fronte al nunaj riskoj.
Ĉe la alia ekstremo, programistoj kaj fakuloj avertas, ke neproporcia respondeco povus konduki al "antaŭzorgaj blokadoj": filtriloj tiel striktaj, ke ili silentigas legitimajn konversaciojn pri mensa sano aŭ seksedukado, senhavigante adoleskantojn serĉantajn helpon interrete je esenca subteno.
La politika kaj ekonomia premo estis intensa: Teknologiaj grupoj kaj industriaj koalicioj elspezis milionojn por lobiado dum la sesio por moderigi la plej malfacilajn tekstojn.Samtempe, la oficejo de la ŝtata prokuroro kaj la FTC ekigis ekzamenadon pri babilrobotaj praktikoj celantaj neplenaĝulojn, en medio de civilaj procesoj kaj plendoj de koncernitaj familioj.
Lastatempaj kazoj kaj procesoj kontraŭ platformoj kiel Character.AI aŭ OpenAI pliintensigis la publikan debatonPost la akuzoj, Gravaj ludantoj kiel Meta kaj OpenAI anoncis ŝanĝojnBlokado de maltaŭgaj konversacioj kun adoleskantoj kaj plusendoj al specialigitaj rimedoj, plus novaj gepatraj kontroloj.
Defioj de efektivigo kaj antaŭvideblaj efikoj
La efektivigo prezentas funkciajn defiojn. Tutmondaj platformoj devos precize determini kiu estas neplenaĝa loĝanto en Kalifornio kaj monitori milionojn da ĉiutagaj interagoj sen invadi privatecon, io teknike kaj laŭleĝe kompleksa.
Alia defio estos eviti la "gutetan efikon" al troa cenzuro: se kompanioj timas sankciojn, ili povus retiriĝi utila enhavo emocia bonfarto pro pura prudento. Trovi la ekvilibron inter protekto kaj aliro al fidindaj informoj estos ŝlosila por taksi la sukceson de la reguligo.
La demando pri la nacia efiko ankaŭ restas: kiel okazis kun aliaj fruaj kaliforniaj regularoj, ĝiaj postuloj povus fariĝi faktaj normo por funkciigistoj tra Usono, eĉ antaŭ ol solida pruvo pri efikeco estis havebla.
Kvankam la fina teksto estas pli mallarĝa ol la komencaj proponoj, la SB 243 starigas senprecedencajn regulojn por "kunulaj babilrobotoj": klaraj avertoj, aĝfiltriloj kaj krizprotokoloj kun institucia raportado. Se vi estas minimumaj baroj Se ili sukcesos protekti neplenaĝulojn sen subpremi legitimajn subtenojn, Kalifornio estos malferminta mezan vojon, kiun aliaj ŝtatoj povos sekvi.
Mi estas teknologientuziasmulo, kiu transformis siajn "geek" interesojn en profesion. Mi pasigis pli ol 10 jarojn de mia vivo uzante avangardan teknologion kaj tuŝante ĉiajn programojn pro pura scivolemo. Nun mi specialiĝis pri komputila teknologio kaj videoludoj. Ĉi tio estas ĉar de pli ol 5 jaroj mi verkas por diversaj retejoj pri teknologio kaj videoludoj, kreante artikolojn, kiuj celas doni al vi la informojn, kiujn vi bezonas en lingvo komprenebla por ĉiuj.
Se vi havas demandojn, mia scio varias de ĉio rilata al la Vindoza operaciumo same kiel Android por poŝtelefonoj. Kaj mia devontigo estas al vi, mi ĉiam pretas pasigi kelkajn minutojn kaj helpi vin solvi ajnajn demandojn, kiujn vi povas havi en ĉi tiu interreta mondo.