- Mae SB 243 yn ei gwneud yn ofynnol i robotiaid sgwrsio adnabod eu hunain a darparu nodyn atgoffa cyfnodol, gyda hysbysiadau bob tair awr i blant dan oed.
- Mae trafodaethau am rywioldeb a hunan-niweidio gyda phobl ifanc yn gyfyngedig, ac mae protocolau argyfwng yn cael eu gweithredu.
- Rhaid i lwyfannau roi gwybod am arwyddion o syniadau hunanladdol i Swyddfa Atal Hunanladdiad y dalaith.
- Mae'r pecyn yn cynnwys rheoliadau AI eraill yng Nghaliffornia ar risg, ffugiadau dwfn, ac atebolrwydd.
Mae Califfornia wedi cymryd cam pendant o ran goruchwylio deallusrwydd artiffisial. gyda rheol sy'n canolbwyntio ar yr hyn a elwir yn "sgwrsbotiau cydymaith," y rhai sy'n efelychu cyfeillgarwch neu agosatrwydd. Llofnododd y Llywodraethwr Gavin Newsom SB 243, cyfraith sy'n ei gwneud yn ofynnol i'r offer hyn nodi eu hunain fel systemau awtomataidd a mabwysiadu mesurau diogelwch penodol wrth ryngweithio â defnyddwyr bach.
Mae'r mesur, a noddwyd gan y Seneddwr Talaith Steve Padilla, yn canolbwyntio llai ar bensaernïaeth dechnegol a mwy ar rhyngwyneb emosiynol rhwng pobl a pheiriannauMae'r fersiwn derfynol, a oedd yn fwy cyfyngedig ar ôl pwysau gan y diwydiant, yn cynnal rhwymedigaethau allweddol: Nodiadau atgoffa rheolaidd eich bod chi'n siarad â deallusrwydd artiffisial, hidlwyr cynnwys sy'n briodol i'r oedran, a phrotocolau ymateb arwyddion o hunan-niweidio neu hunanladdiad.
Beth yn union sydd ei angen ar gyfer SB 243?
Mae craidd y safon yn ei gwneud yn ofynnol i robotiaid sgwrsio rybuddio'n glir ac dro ar ôl tro eu bod nhw meddalwedd AIAr gyfer defnyddwyr dan oed, rhaid i'r system arddangos nodyn atgoffa o leiaf bob tair awr, mewn modd gweladwy a dealladwy er mwyn osgoi dryswch ynghylch natur an-ddynol y rhyngweithio.
Yn ogystal, mae'n rhaid i weithredwyr weithredu hidlwyr cynnwys a therfynau oedranMae rhywioldeb eglur ac unrhyw ryngweithio sy'n normaleiddio neu'n annog hunan-niweidio wedi'u heithrio o sgyrsiau â phobl ifanc. Mae'r rhwystrau hyn yn cael eu hategu gan atgyfeiriadau at wasanaethau argyfwng pan gânt eu canfod. dangosyddion risg.
La Mae'r gyfraith yn ei gwneud yn ofynnol i lwyfannau sefydlu protocolau canfod ac ymateb cynnar., yn ogystal ag adroddiadau am achosion o syniadau hunanladdol a nodwyd yn y Swyddfa Atal Hunanladdiad O CaliforniaMae hyn yn ceisio cryfhau cydgysylltu ag awdurdodau iechyd ac ymgorffori metrigau ar effaith yr offer hyn ar iechyd meddwl.
Er mwyn cynnal y mesurau diogelwch hyn, Rhaid i gwmnïau weithredu mecanweithiau gwirio oedran rhesymol yn eu gwasanaethau sydd wedi'u hanelu at drigolion y dalaith.Mae'r gofyniad yn berthnasol i rwydweithiau cymdeithasol, gwefannau ac apiau sy'n cynnig robotiaid sgwrsio cysylltiedig, gan gynnwys llwyfannau gemau neu opsiynau datganoledig sy'n gweithredu yng Nghaliffornia.
Gadawodd fersiwn derfynol SB 243 archwiliadau trydydd parti ac ap ar gyfer pob defnyddiwr (nid plant dan oed yn unig) a oedd wedi'u hystyried mewn drafftiau cynharach. Er gwaethaf y toriad hwn, amddiffynnodd Newsom y bil fel argae cyfyngiant yn erbyn difrod y gellir ei atal, gyda'r bwriad o ddod i rym ar gyfer Ionawr 2026.
Pecyn ehangach o gyfreithiau AI yn y dalaith
Daw SB 243 ochr yn ochr â mentrau eraill a basiwyd yn ddiweddar, fel SB 53, sy'n ei gwneud yn ofynnol i ddatblygwyr AI mawr ddatgelu eu strategaethau AI yn gyhoeddus. diogelwch a lliniaru risgY nod yw gwella tryloywder modelau uwch sydd eisoes ag effaith gymdeithasol ar raddfa fawr.
Ochr yn ochr â hynny, mae mesurau wedi cael eu hyrwyddo i atal cwmnïau rhag osgoi cyfrifoldebau drwy honni bod technoleg "yn gweithredu'n ymreolaethol"Mae cosbau am ddelweddau dwfn ffug rhywiol heb ganiatâd hefyd wedi'u tynhau, gan gynyddu dirwyon yn sylweddol pan fyddant yn effeithio ar ddioddefwyr dan oed.
Mae'r pecyn hefyd yn cynnwys cyfyngiadau i atal chatbots rhag dynwared sanitarios profesionales neu ffigurau awdurdod, tacteg a all gamarwain defnyddwyr agored i niwed. Gyda'r darnau hyn, mae Sacramento yn amlinellu fframwaith gwladwriaethol sy'n ceisio cydbwyso arloesedd, hawliau, a diogelwch y cyhoedd.
Cefnogaeth, beirniadaeth ac amheuon ynghylch ei gwmpas
Mae'r safon wedi derbyn canmoliaeth am fod yn arloesol, tra ar yr un pryd yn cael ei beirniadu am fethu. Sefydliadau fel Cyfryngau Synnwyr Cyffredin a thynnodd y Prosiect Goruchwylio Technoleg eu cefnogaeth yn ôl ar ôl dileu archwiliadau allanol a chyfyngu eu cwmpas i blant dan oed, a rhybuddiasant y gallai hyn wneud y gyfraith yn ystum annigonol yng ngwyneb y risgiau cyfredol.
Ar y pen arall, mae datblygwyr ac arbenigwyr yn rhybuddio bod a cyfrifoldeb anghymesur gallai arwain at “flociau rhagofalus”: hidlwyr mor llym fel eu bod yn tawelu sgyrsiau cyfreithlon am iechyd meddwl neu addysg rhyw, gan amddifadu pobl ifanc sy’n chwilio am gymorth ar-lein o gefnogaeth hanfodol.
Mae'r pwysau gwleidyddol ac economaidd wedi bod yn ddwys: Buddsoddodd grwpiau technoleg a chynghreiriau diwydiant filiynau mewn lobïo yn ystod y sesiwn i gymedroli'r testunau anoddaf.Ar yr un pryd, swyddfa erlynydd y wladwriaeth a'r FTC wedi sbarduno craffu ar arferion chatbot sy'n targedu pobl dan oed, mewn amgylchedd o achosion cyfreithiol sifil a chwynion gan deuluoedd yr effeithiwyd arnynt.
Achosion a chyfreithiau diweddar yn erbyn Mae llwyfannau fel Character.AI neu OpenAI wedi cynyddu'r ddadl gyhoeddusAr ôl y cyhuddiadau, Cyhoeddodd chwaraewyr mawr fel Meta ac OpenAI newidiadauRhwystro sgyrsiau amhriodol gyda phobl ifanc ac atgyfeiriadau at adnoddau arbenigol, ynghyd â rheolaethau rhieni newydd.
Heriau gweithredu ac effeithiau rhagweladwy
Mae'r lansiad yn peri heriau gweithredol. Bydd yn rhaid i lwyfannau byd-eang benderfynu'n gywir pwy sydd preswylydd dan oed yng Nghaliffornia a monitro miliynau o ryngweithiadau dyddiol heb ymyrryd â phreifatrwydd, rhywbeth sy'n gymhleth yn dechnegol ac yn gyfreithiol.
Her arall fydd osgoi'r "effaith diferu" tuag at sensoriaeth ormodol: os yw cwmnïau'n ofni sancsiynau, gallent dynnu'n ôl cynnwys defnyddiol lles emosiynol allan o ddoethineb pur. Bydd dod o hyd i'r cydbwysedd rhwng amddiffyniad a mynediad at wybodaeth ddibynadwy yn allweddol i asesu llwyddiant y rheoliad.
Mae cwestiwn yr effaith genedlaethol hefyd yn parhau: fel sydd wedi digwydd gyda rheoliadau cynnar eraill yng Nghaliffornia, gallai ei ofynion ddod yn de facto safonol i weithredwyr ledled yr Unol Daleithiau, hyd yn oed cyn bod tystiolaeth gadarn o effeithiolrwydd ar gael.
Er bod y testun terfynol yn gulach na'r cynigion cychwynnol, y Mae SB 243 yn gosod rheolau digynsail ar gyfer "sgwrsbotiau cydymaith"rhybuddion clir, hidlwyr oedran a phrotocolau argyfwng gydag adrodd sefydliadol. Os ydych chi rhwystrau lleiaf posibl Os ydyn nhw'n llwyddo i amddiffyn plant dan oed heb fygu cefnogaeth gyfreithlon, bydd Califfornia wedi torri llwybr canol y gall taleithiau eraill ei ddilyn.
Rwy'n frwd dros dechnoleg sydd wedi troi ei ddiddordebau "geek" yn broffesiwn. Rwyf wedi treulio mwy na 10 mlynedd o fy mywyd yn defnyddio technoleg flaengar ac yn tinkering gyda phob math o raglenni allan o chwilfrydedd pur. Nawr rydw i wedi arbenigo mewn technoleg gyfrifiadurol a gemau fideo. Mae hyn oherwydd ers mwy na 5 mlynedd rwyf wedi bod yn ysgrifennu ar gyfer gwefannau amrywiol ar dechnoleg a gemau fideo, gan greu erthyglau sy'n ceisio rhoi'r wybodaeth sydd ei hangen arnoch mewn iaith sy'n ddealladwy i bawb.
Os oes gennych unrhyw gwestiynau, mae fy ngwybodaeth yn amrywio o bopeth sy'n ymwneud â system weithredu Windows yn ogystal ag Android ar gyfer ffonau symudol. Ac mae fy ymrwymiad i chi, rwyf bob amser yn barod i dreulio ychydig funudau a'ch helpu i ddatrys unrhyw gwestiynau sydd gennych yn y byd rhyngrwyd hwn.