- SB 243 jirrikjedi li ċ-chatbots jidentifikaw lilhom infushom u jipprovdu tfakkiriet perjodiċi, b'notifiki kull tliet sigħat għall-minorenni.
- Diskussjonijiet dwar is-sesswalità u l-awto-leżjonijiet ma' minorenni huma ristretti, u jiġu attivati protokolli ta' kriżi.
- Il-pjattaformi għandhom jirrappurtaw sinjali ta’ ideazzjoni suwiċidali lill-Uffiċċju statali għall-Prevenzjoni tas-Suwiċidju.
- Il-pakkett jinkludi regolamenti oħra tal-AI ta' California dwar ir-riskju, id-deepfakes, u r-responsabbiltà.
California ħadet pass deċiżiv fis-superviżjoni tal-intelliġenza artifiċjali. b'regola li tiffoka fuq l-hekk imsejħa "companion chatbots," dawk li jissimulaw ħbiberija jew intimità. Il-Gvernatur Gavin Newsom iffirma SB 243, liġi li tirrikjedi li dawn l-għodod jidentifikaw lilhom infushom bħala sistemi awtomatizzati u jadottaw salvagwardji speċifiċi meta jinteraġixxu magħhom utenti minuri.
Il-miżura, sponsorjata mis-Senatur tal-Istat Steve Padilla, tiffoka inqas fuq l-arkitettura teknika u aktar fuq interfaċċja emozzjonali bejn in-nies u l-magniIl-verżjoni finali, li kienet aktar limitata wara pressjoni mill-industrija, iżżomm obbligi ewlenin: Tifkiriet regolari li qed titkellem ma' AI, filtri tal-kontenut xierqa għall-età, u protokolli ta' rispons sinjali ta’ awto-ħsara jew suwiċidju.
X'jirrikjedi eżattament SB 243?
Il-qalba tal-istandard tirrikjedi li ċ-chatbots iwissu b'mod ċar u ripetut li qed Softwer AIGħal utenti minuri, is-sistema trid turi tfakkira mill-inqas kull tliet sigħat, b'mod viżibbli u li jinftiehem biex tevita konfużjoni dwar in-natura mhux umana tal-interazzjoni.
Barra minn hekk, l-operaturi jridu jimplimentaw filtri tal-kontenut u limiti tal-etàSesswalità espliċita u kwalunkwe interazzjoni li tinnormalizza jew tħeġġeġ l-awto-leżjonijiet huma esklużi minn konversazzjonijiet ma' minorenni. Dawn l-ostakli huma kkomplementati minn riferimenti għal servizzi ta' kriżi meta jiġu skoperti. indikaturi tar-riskju.
La Il-liġi tirrikjedi li l-pjattaformi jistabbilixxu protokolli ta’ skoperta bikrija u ta’ rispons., kif ukoll rapporti ta’ każijiet ta’ ideazzjoni suwiċidali identifikati fil- Uffiċċju għall-Prevenzjoni tas-Suwiċidju Tal-KalifornjaDan ifittex li jsaħħaħ il-koordinazzjoni mal-awtoritajiet tas-saħħa u jinkorpora metriċi dwar l-impatt ta’ dawn l-għodod fuq is-saħħa mentali.
Biex jiġu rispettati dawn is-salvagwardji, Il-kumpaniji għandhom jimplimentaw mekkaniżmi raġonevoli ta' verifika tal-età fis-servizzi tagħhom immirati lejn ir-residenti tal-istat.Ir-rekwiżit japplika għal netwerks soċjali, websajts, u apps li joffru chatbots li jakkumpanjawhom, inklużi pjattaformi tal-logħob jew għażliet deċentralizzati li joperaw f'California.
Il-verżjoni finali tal-SB 243 ħalliet barra l-awditi ta’ partijiet terzi u app għall-utenti kollha (mhux biss il-minorenni) li kienu kkunsidrati f’abbozzi preċedenti. Minkejja dan it-tnaqqis, Newsom iddefenda l-abbozz bħala diga ta' konteniment kontra ħsara li tista' tiġi evitata, bid-dħul fis-seħħ ippjanat għal Jannar 2026.
Pakkett usa' ta' liġijiet tal-IA fl-istat
SB 243 jiġi flimkien ma' inizjattivi oħra li ġew approvati reċentement, bħal SB 53, li tirrikjedi li żviluppaturi kbar tal-IA jiżvelaw pubblikament l-istrateġiji tal-IA tagħhom. sigurtà u mitigazzjoni tar-riskjuL-għan huwa li tittejjeb it-trasparenza ta' mudelli avvanzati li diġà għandhom impatt soċjali fuq skala kbira.
B'mod parallel, ġew promossi miżuri biex jipprevjenu lill-kumpaniji milli jevadu r-responsabbiltajiet billi jsostnu li t-teknoloġija "jaġixxi b'mod awtonomu"Il-penali għal deepfakes sesswali mhux kunsenswali ġew ukoll aktar stretti, u żdiedu b'mod sinifikanti l-multi meta dawn jaffettwaw vittmi minorenni.
Il-pakkett jinkludi wkoll restrizzjonijiet biex jipprevjeni li ċ-chatbots jimpersonaw professjonisti tas-saħħa jew figuri ta' awtorità, tattika li tista' tqarraq b'utenti vulnerabbli. B'dawn il-biċċiet, Sacramento tiddeskrivi qafas statali li jipprova jibbilanċja l-innovazzjoni, id-drittijiet, u sigurtà pubblika.
Appoġġ, kritika u dubji dwar l-ambitu tiegħu
L-istandard irċieva tifħir talli kien pijunier, filwaqt li fl-istess ħin ġie kkritikat talli ma laħaqx il-livell mistenni. Organizzazzjonijiet bħal Sens Komuni tal-Midja u t-Tech Oversight Project irtiraw l-appoġġ tagħhom wara li eliminaw l-awditi esterni u llimitaw l-ambitu tagħhom għal minorenni, li jwissu li jistgħu jagħmlu l-liġi ġest insuffiċjenti fid-dawl tar-riskji attwali.
Fl-estrem l-ieħor, l-iżviluppaturi u l-esperti jwissu li responsabbiltà sproporzjonata jista’ jwassal għal “imblukki ta’ prekawzjoni”: filtri tant stretti li jsikktu konversazzjonijiet leġittimi dwar is-saħħa mentali jew l-edukazzjoni sesswali, u b’hekk iċaħħdu lill-adolexxenti li qed ifittxu għajnuna online minn appoġġ kruċjali.
Il-pressjoni politika u ekonomika kienet intensa: Gruppi teknoloġiċi u koalizzjonijiet tal-industrija nefqu miljuni jagħmlu lobbying matul is-sessjoni biex jimmoderaw l-aktar testi diffiċli.Fl-istess ħin, l-uffiċċju tal-prosekutur tal-istat u l- FTC wasslu għal skrutinju fuq il-prattiki taċ-chatbots immirati lejn il-minorenni, f'ambjent ta' kawżi ċivili u lmenti minn familji milquta.
Każijiet u kawżi riċenti kontra pjattaformi bħal Character.AI jew OpenAI żiedu d-dibattitu pubblikuWara l-akkużi, Atturi ewlenin bħal Meta u OpenAI ħabbru bidlietImblukkar ta' konversazzjonijiet mhux xierqa ma' żgħażagħ u riferimenti għal riżorsi speċjalizzati, flimkien ma' kontrolli ġodda tal-ġenituri.
Sfidi fl-implimentazzjoni u effetti prevedibbli
L-implimentazzjoni tippreżenta sfidi operattivi. Il-pjattaformi globali se jkollhom jiddeterminaw b'mod preċiż min hu resident minorenni f'California u tissorvelja miljuni ta' interazzjonijiet ta' kuljum mingħajr ma tinvadi l-privatezza, xi ħaġa li hija teknikament u legalment kumplessa.
Sfida oħra se tkun li jiġi evitat l-"effett ta' tnaqqis" lejn ċensura eċċessiva: jekk il-kumpaniji jibżgħu mis-sanzjonijiet, jistgħu jirtiraw kontenut utli benesseri emozzjonali minn prudenza pura. Is-sejba ta' bilanċ bejn il-protezzjoni u l-aċċess għal informazzjoni affidabbli se tkun kruċjali biex jiġi vvalutat is-suċċess tar-regolament.
Tibqa' wkoll il-kwistjoni tal-impatt nazzjonali: kif ġara b'regolamenti bikrija oħra ta' Kalifornja, ir-rekwiżiti tagħha jistgħu jsiru de facto standard għall-operaturi madwar l-Istati Uniti, anke qabel ma kienet disponibbli evidenza soda ta' effikaċja.
Għalkemm it-test finali huwa iktar dejjaq mill-proposti inizjali, il- SB 243 jistabbilixxi regoli bla preċedent għal "chatbots ta' akkumpanjament"twissijiet ċari, filtri tal-età u protokolli ta' kriżi b'rappurtar istituzzjonali. Jekk inti ostakli minimi Jekk jirnexxilhom jipproteġu lill-minorenni mingħajr ma jrażżnu l-appoġġi leġittimi, California tkun fetħet triq tan-nofs li stati oħra jistgħu jsegwu.
Jien dilettant tat-teknoloġija li bidlet l-interessi "geek" tiegħu fi professjoni. Għamilt aktar minn 10 snin minn ħajti nuża teknoloġija avvanzata u nagħmel tbagħbis ma’ kull tip ta’ programmi għal kurżità pura. Issa speċjajtejt fit-teknoloġija tal-kompjuter u l-logħob tal-kompjuter. Dan għaliex ilni aktar minn 5 snin naħdem nikteb għal diversi websajts dwar teknoloġija u video games, noħloq artikli li jfittxu li jagħtuk l-informazzjoni li għandek bżonn b’lingwa li tinftiehem minn kulħadd.
Jekk għandek xi mistoqsijiet, l-għarfien tiegħi jvarja minn dak kollu relatat mas-sistema operattiva Windows kif ukoll Android għat-telefowns ċellulari. U l-impenn tiegħi huwa għalik, jien dejjem lest li nqatta' ftit minuti u ngħinek issolvi kwalunkwe mistoqsija li jista' jkollok f'din id-dinja tal-internet.