Kalifornía samþykkir SB 243 til að stjórna gervigreindarspjallþjónum og vernda börn.

Kalifornía hefur stigið afgerandi skref í eftirliti með gervigreind. með reglu sem beinist að svokölluðum „félagaspjallþjónum“, þeim sem herma eftir vináttu eða nánd. Gavin Newsom, ríkisstjóri, undirritaði SB 243., lög sem krefjast þess að þessi verkfæri skilgreini sig sem sjálfvirk kerfi og geri sérstakar öryggisráðstafanir þegar þau hafa samskipti við minniháttar notendur.

Aðgerðin, sem Steve Padilla, öldungadeildarþingmaður, studdi, leggur minni áherslu á tæknilega uppbyggingu og meira á... tilfinningalegt samspil milli fólks og vélaLokaútgáfan, sem var takmarkaðri eftir þrýsting frá atvinnulífinu, heldur áfram með lykilskyldur: Reglulegar áminningar um að þú sért að tala við gervigreind, aldurshæf efnissíur og svörunarreglur merki um sjálfsskaða eða sjálfsvíg.

Hvað nákvæmlega krefst SB 243?

Kjarni staðalsins krefst þess að spjallþjónar gefi skýra og ítrekaða viðvörun um að þeir séu ... AI hugbúnaðurFyrir ólögráða notendur verður kerfið að birta áminningu að minnsta kosti á þriggja tíma fresti, á sýnilegan og skiljanlegan hátt til að forðast rugling um að samskiptin séu ekki mannleg.

Að auki verða rekstraraðilar að innleiða efnissíur og aldurstakmarkanirKynferðislegt átak og öll samskipti sem eðlilega eða hvetja til sjálfsskaða eru útilokuð í samræðum við börn. Þessum hindrunum er bætt upp með tilvísunum til neyðarþjónustu þegar þær eru uppgötvaðar. áhættuvísar.

La Lögin krefjast þess að kerfi komi á fót verklagsreglum um snemmbúna greiningu og viðbrögð., sem og tilkynningar um tilfelli sjálfsvígshugsana sem komu fram á Skrifstofa sjálfsvígsvarna Af KaliforníuÞetta miðar að því að styrkja samræmingu við heilbrigðisyfirvöld og fella inn mælikvarða á áhrif þessara tækja á geðheilsu.

Til að viðhalda þessum öryggisráðstöfunum, Fyrirtæki verða að innleiða sanngjarnar aldursstaðfestingaraðferðir í þjónustu sinni sem miðar að íbúum ríkisins.Krafan á við um samfélagsmiðla, vefsíður og öpp sem bjóða upp á tengda spjallþjóna, þar á meðal leikjavettvanga eða dreifða valkosti sem starfa í Kaliforníu.

Í lokaútgáfu SB 243 voru úttektir þriðja aðila og app fyrir alla notendur (ekki bara börn) sleppt, sem gert var ráð fyrir í fyrri drögum. Þrátt fyrir þessa lækkun varði Newsom frumvarpið sem ... innilokunarstífla gegn fyrirbyggjanlegum skaða, og áætlað er að gildistaka verði í janúar 2026.

Víðtækari pakki af lögum um gervigreind í ríkinu

SB 243 kemur samhliða öðrum nýlega samþykktum verkefnum, svo sem SB 53, sem krefst þess að stórir gervigreindarframleiðendur birti opinberlega gervigreindarstefnur sínar. öryggi og áhættuminnkunMarkmiðið er að auka gagnsæi háþróaðra líkana sem þegar hafa mikil samfélagsleg áhrif.

Samhliða því hafa verið kynntar aðgerðir til að koma í veg fyrir að fyrirtæki komist undan ábyrgð með því að halda því fram að tækni „hegðar sér sjálfstætt“Refsingar fyrir djúpfölsun kynferðislegra myndbanda án samþykkis hafa einnig verið hertar, sem hækkar sektir verulega þegar þær hafa áhrif á ólögráða þolendur.

Pakkinn inniheldur einnig takmarkanir til að koma í veg fyrir að spjallþjónar þykjast vera einstaklingar. heilbrigðisstarfsfólk eða yfirvaldspersónur, aðferð sem getur villt viðkvæma notendur. Með þessum greinum lýsir Sacramento ramma ríkisins sem reynir að vega og meta nýsköpun, réttindi og almannaöryggi.

Stuðningur, gagnrýni og efasemdir um umfang þess

Staðallinn hefur hlotið lof fyrir að vera byltingarkenndur, en jafnframt gagnrýni fyrir að standa sig ekki nógu vel. Stofnanir eins og Common Sense Media og Tæknieftirlitsverkefnið drógu til baka stuðning sinn eftir að hafa afnumið utanaðkomandi endurskoðanir og takmarkað umfang þeirra við ólögráða einstaklinga, sem þeir vara við að gæti gert lögin ófullnægjandi í ljósi núverandi áhættu.

Í hinum endanum vara verktaki og sérfræðingar við því að a óhófleg ábyrgð gæti leitt til „varúðarblokkana“: síur sem eru svo strangar að þær þagga niður í lögmætum samræðum um geðheilsu eða kynfræðslu og svipta unglinga sem leita sér aðstoðar á netinu mikilvægum stuðningi.

Pólitískur og efnahagslegur þrýstingur hefur verið mikill: Tæknihópar og iðnaðarsamtök fjárfestu milljónir í þrýstihópastarfsemi á þinginu til að miðla skoðunum á erfiðustu textunum.Á sama tíma, ríkissaksóknari og FTC hafa vakið athygli á spjallþjónum sem miða að ólögráða einstaklingum, í umhverfi þar sem einkamál og kvartanir frá fjölskyldum sem verða fyrir barðinu á þessu.

Nýleg mál og málaferli gegn Pallar eins og Character.AI eða OpenAI hafa aukið umræðuna í þjóðfélaginu.Eftir ásakanirnar, Stórir aðilar eins og Meta og OpenAI tilkynntu breytingarAð loka fyrir óviðeigandi samræður við unglinga og tilvísanir í sérhæfðar auðlindir, auk nýrra foreldraeftirlita.

Áskoranir í framkvæmd og fyrirsjáanleg áhrif

Útgáfan hefur í för með sér rekstrarlegar áskoranir. Alþjóðlegir vettvangar þurfa að ákvarða nákvæmlega hverjir eru Ólögráða íbúi í Kaliforníu og fylgjast með milljónum daglegra samskipta án þess að brjóta gegn friðhelgi einkalífsins, eitthvað sem er tæknilega og lagalega flókið.

Önnur áskorun verður að forðast „dropaáhrif“ í átt að óhóflegri ritskoðun: ef fyrirtæki óttast refsiaðgerðir gætu þau dregið sig til baka. gagnlegt efni Tilfinningaleg vellíðan af hreinni varfærni. Að finna jafnvægið milli verndar og aðgangs að áreiðanlegum upplýsingum verður lykilatriði til að meta árangur reglugerðarinnar.

Spurningin um áhrif á landsvísu stendur einnig eftir: eins og hefur gerst með aðrar reglugerðir í Kaliforníu snemma á ferlinu gætu kröfur hennar orðið að veruleika. staðlað fyrir rekstraraðila um öll Bandaríkin, jafnvel áður en traustar sannanir fyrir virkni lágu fyrir.

Þó að lokatextinn sé þrengri en upphaflegu tillögurnar, þá SB 243 setur fordæmalausar reglur fyrir „félagaspjallþjóna“: skýrar viðvaranir, aldurssíur og neyðarreglur með stofnanaskýrslugerð. Ef þú ert lágmarks hindranir Ef þeim tekst að vernda ólögráða börn án þess að kæfa lögmætan stuðning, þá hefur Kalifornía rutt meðalveg sem önnur ríki geta farið.

Tengd grein:

OpenAI mun bæta við foreldraeftirliti við ChatGPT með fjölskyldureikningum, áhættuviðvörunum og notkunartakmörkunum.

Alberto navarro

Ég er tækniáhugamaður sem hefur breytt "nörda" áhugamálum sínum í fag. Ég hef eytt meira en 10 árum af lífi mínu í að nota háþróaða tækni og fikta í alls kyns forritum af einskærri forvitni. Nú hef ég sérhæft mig í tölvutækni og tölvuleikjum. Þetta er vegna þess að í meira en 5 ár hef ég skrifað fyrir ýmsar vefsíður um tækni og tölvuleiki, búið til greinar sem leitast við að veita þér þær upplýsingar sem þú þarft á tungumáli sem er skiljanlegt fyrir alla.

Ef þú hefur einhverjar spurningar þá nær þekking mín frá öllu sem tengist Windows stýrikerfinu sem og Android fyrir farsíma. Og skuldbinding mín er til þín, ég er alltaf tilbúin að eyða nokkrum mínútum og hjálpa þér að leysa allar spurningar sem þú gætir haft í þessum internetheimi.