- SB 243 zahteva, da se klepetalni roboti identificirajo in zagotavljajo občasne opomnike, mladoletnikom pa obvestila vsake tri ure.
- Pogovori o spolnosti in samopoškodovanju z mladoletniki so omejeni, aktivirani pa so tudi krizni protokoli.
- Platforme morajo znake samomorilnih misli prijaviti državnemu uradu za preprečevanje samomorov.
- Paket vključuje tudi druge kalifornijske predpise o umetni inteligenci glede tveganja, ponarejanja in odgovornosti.
Kalifornija je naredila odločilen korak pri nadzoru umetne inteligence. s pravilom, ki se osredotoča na tako imenovane "spremljevalne klepetalne robote", tiste, ki simulirajo prijateljstvo ali intimnost. Guverner Gavin Newsom je podpisal SB 243., zakon, ki od teh orodij zahteva, da se identificirajo kot avtomatizirani sistemi in sprejmejo posebne zaščitne ukrepe pri interakciji z mladoletni uporabniki.
Ukrep, ki ga sponzorira državni senator Steve Padilla, se manj osredotoča na tehnično arhitekturo in bolj na čustveni vmesnik med ljudmi in strojiKončna različica, ki je bila zaradi pritiska industrije bolj omejena, ohranja ključne obveznosti: Redni opomniki, da se pogovarjate z umetno inteligenco, filtri vsebine, primerni starosti, in protokoli odzivanja znaki samopoškodovanja ali samomora.
Kaj točno zahteva SB 243?
Jedro standarda zahteva, da klepetalni roboti jasno in večkrat opozorijo, da so Programska oprema za umetno inteligencoZa mladoletne uporabnike mora sistem vsaj vsake tri ure prikazati opomnik na viden in razumljiv način, da se izognemo zmedi glede nečloveške narave interakcije.
Poleg tega morajo operaterji izvajati filtri vsebine in starostne omejitveEksplicitna spolnost in vsaka interakcija, ki normalizira ali spodbuja samopoškodovanje, sta izključeni iz pogovorov z mladoletniki. Te ovire dopolnjujejo napotitve na krizne službe, ko so odkrite. kazalniki tveganja.
La Zakon od platform zahteva, da vzpostavijo protokole za zgodnje odkrivanje in odzivanje., kot tudi poročila o primerih samomorilnih misli, ugotovljenih na Urad za preprečevanje samomorov KalifornijeNamen tega je okrepiti usklajevanje z zdravstvenimi organi in vključiti meritve o vplivu teh orodij na duševno zdravje.
Da bi ohranili te zaščitne ukrepe, Podjetja morajo v svojih storitvah, namenjenih prebivalcem države, uvesti mehanizme za preverjanje razumne starosti.Zahteva velja za družbena omrežja, spletna mesta in aplikacije, ki ponujajo spremljevalne klepetalne robote, vključno z igralnimi platformami ali decentraliziranimi možnostmi, ki delujejo v Kaliforniji.
Končna različica zakona SB 243 je izpustila revizije tretjih oseb in aplikacijo za vse uporabnike (ne le za mladoletnike), ki sta bila predvidena v prejšnjih osnutkih. Kljub tej rezi je Newsom zagovarjal zakon kot zadrževalni jez pred preprečljivo škodo, začetek veljavnosti pa je načrtovan za januar 2026.
Širši paket zakonov o umetni inteligenci v državi
SB 243 je sprejet skupaj z drugimi nedavno sprejetimi pobudami, kot je SB 53, ki od velikih razvijalcev umetne inteligence zahteva, da javno razkrijejo svoje strategije za umetno inteligenco. varnost in zmanjševanje tveganjCilj je izboljšati preglednost naprednih modelov, ki že imajo velik družbeni vpliv.
Vzporedno so bili spodbujani ukrepi, s katerimi bi preprečili podjetjem, da bi se izognila odgovornosti s trditvijo, da tehnologija "Deluje samostojno"Prav tako so bile poostrene kazni za spolne deepfake brez privolitve, kar znatno poveča globe, kadar prizadenejo mladoletne žrtve.
Paket vključuje tudi omejitve, ki preprečujejo lažno predstavljanje klepetalnih robotov. zdravstveni delavci ali avtoritete, taktika, ki lahko zavede ranljive uporabnike. S temi deli Sacramento opisuje državni okvir, ki poskuša uravnotežiti inovacije, pravice in javno varnost.
Podpora, kritika in dvomi o njegovem obsegu
Standard je bil deležen pohval kot prelomen, hkrati pa kritik zaradi pomanjkljivosti. Organizacije, kot so Navadni mediji in Projekt za tehnološki nadzor sta umaknila svojo podporo, potem ko sta odpravila zunanje revizije in omejila njihov obseg na mladoletnike, kar bi po njihovem mnenju lahko zakon naredilo nezadostno gesto glede na trenutna tveganja.
Na drugi skrajnosti razvijalci in strokovnjaki opozarjajo, da nesorazmerna odgovornost lahko vodi do »previdnostnih blokad«: filtrov, ki so tako strogi, da utišajo legitimne pogovore o duševnem zdravju ali spolni vzgoji, s čimer najstnikom, ki iščejo pomoč na spletu, odvzamejo ključno podporo.
Politični in gospodarski pritisk je bil močan: Tehnološke skupine in industrijske koalicije so med sejo porabile milijone za lobiranje, da bi moderirale najzahtevnejša besedila.Hkrati državno tožilstvo in FTC sprožile so nadzor nad praksami klepetalnih robotov, usmerjenih v mladoletnike, v okolju civilne tožbe in pritožbe prizadetih družin.
Nedavni primeri in tožbe proti Platforme, kot sta Character.AI ali OpenAI, so zaostrile javno razpravoPo obtožbah, Veliki igralci, kot sta Meta in OpenAI, so napovedali spremembeBlokiranje neprimernih pogovorov z najstniki in napotitve na specializirane vire ter novi starševski nadzor.
Izvedbeni izzivi in predvidljivi učinki
Izvajanje predstavlja operativne izzive. Globalne platforme bodo morale natančno določiti, kdo je mladoletni prebivalec Kalifornije in spremljati milijone dnevnih interakcij brez vdiranja v zasebnost, kar je tehnično in pravno zapleteno.
Drug izziv bo preprečiti "učinek kapljanja" pretirane cenzure: če se podjetja bojijo sankcij, se lahko umaknejo uporabna vsebina čustveno dobro počutje iz čiste previdnosti. Iskanje ravnovesja med zaščito in dostopom do zanesljivih informacij bo ključnega pomena za oceno uspešnosti uredbe.
Vprašanje nacionalnega vpliva ostaja tudi: kot se je zgodilo z drugimi zgodnjimi kalifornijskimi predpisi, bi lahko njegove zahteve postale de facto Estandar za operaterje po vsej ZDA, še preden so bili na voljo trdni dokazi o učinkovitosti.
Čeprav je končno besedilo ožje od prvotnih predlogov, SB 243 postavlja brez primere pravila za "spremljevalne klepetalne robote": jasna opozorila, starostni filtri in krizni protokoli z institucionalnim poročanjem. Če ste minimalne ovire Če jim uspe zaščititi mladoletnike, ne da bi pri tem zadušili legitimno podporo, bo Kalifornija utrla srednjo pot, ki ji lahko sledijo druge države.
Sem tehnološki navdušenec, ki je svoja "geek" zanimanja spremenil v poklic. Več kot 10 let svojega življenja sem porabil za uporabo vrhunske tehnologije in premleval najrazličnejše programe iz čiste radovednosti. Zdaj sem se specializiral za računalniško tehnologijo in video igre. To je zato, ker že več kot 5 let pišem za različna spletna mesta o tehnologiji in video igrah ter ustvarjam članke, ki vam želijo dati informacije, ki jih potrebujete, v jeziku, ki je razumljiv vsem.
Če imate kakršna koli vprašanja, moje znanje sega od vsega v zvezi z operacijskim sistemom Windows kot tudi Androidom za mobilne telefone. In moja zaveza je vam, vedno sem pripravljen porabiti nekaj minut in vam pomagati razrešiti kakršna koli vprašanja, ki jih morda imate v tem internetnem svetu.