- SB 243 zahtijeva da se chatbotovi identificiraju i pružaju periodične podsjetnike, s obavijestima svaka tri sata za maloljetnike.
- Razgovori o seksualnosti i samoozljeđivanju s maloljetnicima su ograničeni, a aktiviraju se protokoli za krizne situacije.
- Platforme moraju prijaviti znakove suicidalnih misli državnom Uredu za prevenciju samoubojstava.
- Paket uključuje i ostale kalifornijske propise o umjetnoj inteligenciji o riziku, deepfakeovima i odgovornosti.
Kalifornija je poduzela odlučan korak u nadzoru umjetne inteligencije. s pravilom koje se usredotočuje na takozvane "chatbotove za pratnju", one koji simuliraju prijateljstvo ili intimnost. Guverner Gavin Newsom potpisao je SB 243, zakon koji zahtijeva da se ovi alati identificiraju kao automatizirani sustavi i usvoje posebne zaštitne mjere prilikom interakcije s maloljetni korisnici.
Mjera, koju sponzorira državni senator Steve Padilla, manje se usredotočuje na tehničku arhitekturu, a više na emocionalno sučelje između ljudi i strojevaKonačna verzija, koja je bila ograničenija nakon pritiska industrije, zadržava ključne obveze: Redoviti podsjetnici da razgovarate s umjetnom inteligencijom, filteri sadržaja primjereni dobi i protokoli odgovora znakovi samoozljeđivanja ili samoubojstva.
Što točno zahtijeva SB 243?
Jezgra standarda zahtijeva od chatbotova da jasno i više puta upozore da su AI softverZa maloljetne korisnike sustav mora prikazivati podsjetnik barem svaka tri sata, na vidljiv i razumljiv način kako bi se izbjegla zabuna oko neljudske prirode interakcije.
Osim toga, operateri moraju implementirati filteri sadržaja i dobna ograničenjaEksplicitna seksualnost i svaka interakcija koja normalizira ili potiče samoozljeđivanje isključene su iz razgovora s maloljetnicima. Ove prepreke nadopunjuju se upućivanjem na krizne službe kada se otkriju. pokazatelji rizika.
La Zakon zahtijeva od platformi da uspostave protokole za rano otkrivanje i odgovor., kao i izvješća o slučajevima suicidalnih ideja identificiranih na Ured za prevenciju samoubojstava KalifornijeTime se nastoji ojačati koordinacija sa zdravstvenim vlastima i uključiti metrike o utjecaju tih alata na mentalno zdravlje.
Kako bi se održale ove zaštitne mjere, Tvrtke moraju implementirati mehanizme provjere razumne dobi u svojim uslugama namijenjenim stanovnicima države.Zahtjev se odnosi na društvene mreže, web-stranice i aplikacije koje nude prateće chatbotove, uključujući platforme za igre ili decentralizirane opcije koje posluju u Kaliforniji.
U konačnoj verziji zakona SB 243 izostavljene su revizije trećih strana i aplikacija za sve korisnike (ne samo maloljetnike) koje su bile predviđene u ranijim nacrtima. Unatoč ovom rezu, Newsom je branio zakon kao zaštitna brana protiv štete koja se može spriječiti, s planiranim stupanjem na snagu u siječnju 2026.
Širi paket zakona o umjetnoj inteligenciji u državi
SB 243 dolazi uz druge nedavno usvojene inicijative, poput SB 53, koji zahtijeva od velikih programera umjetne inteligencije da javno objave svoje strategije umjetne inteligencije. sigurnost i ublažavanje rizikaCilj je poboljšati transparentnost naprednih modela koji već imaju veliki društveni utjecaj.
Paralelno s tim, promovirane su mjere kako bi se spriječilo da tvrtke izbjegavaju odgovornosti tvrdeći da tehnologija „djeluje autonomno“Kazne za deepfakeove seksualnog karaktera bez pristanka također su pooštrene, značajno povećavajući kazne kada pogode maloljetne žrtve.
Paket također uključuje ograničenja kako bi se spriječilo lažno predstavljanje chatbotova. zdravstveni radnici ili autoritete, taktika koja može zavarati ranjive korisnike. Ovim tekstovima Sacramento ocrtava državni okvir koji pokušava uravnotežiti inovacije, prava i javna sigurnost.
Podrška, kritika i sumnje u njegov opseg
Standard je dobio pohvale zbog svoje revolucionarnosti, ali istovremeno i kritike zbog nedostatka. Organizacije poput Zdrav razum Mediji i Projekt nadzora tehnologije povukli su svoju podršku nakon što su ukinuli vanjske revizije i ograničili njihov opseg na maloljetnike, što bi, kako upozoravaju, moglo učiniti zakon nedovoljnom gestom s obzirom na trenutne rizike.
S druge strane, programeri i stručnjaci upozoravaju da nesrazmjerna odgovornost moglo bi dovesti do „preventivnih blokada“: filtera toliko strogih da ušutkaju legitimne razgovore o mentalnom zdravlju ili spolnom odgoju, uskraćujući tinejdžerima koji traže pomoć online ključnu podršku.
Politički i ekonomski pritisak je bio intenzivan: Tehnološke skupine i industrijske koalicije uložile su milijune u lobiranje tijekom sjednice kako bi moderirale najteže tekstove.Istovremeno, državno tužiteljstvo i Savezna trgovinska komora (FTC) pokrenuli su nadzor nad praksama chatbotova usmjerenim na maloljetnike, u okruženju građanske parnice i pritužbe pogođenih obitelji.
Nedavni slučajevi i tužbe protiv Platforme poput Character.AI ili OpenAI eskalirale su javnu raspravuNakon optužbi, Veliki igrači poput Mete i OpenAI-a najavili su promjeneBlokiranje neprikladnih razgovora s tinejdžerima i upućivanje na specijalizirane resurse, plus novi roditeljski nadzor.
Izazovi provedbe i predvidljivi učinci
Lansiranje predstavlja operativne izazove. Globalne platforme morat će točno utvrditi tko je maloljetni stanovnik Kalifornije i pratiti milijune dnevnih interakcija bez narušavanja privatnosti, što je tehnički i pravno složeno.
Drugi izazov bit će izbjegavanje "učinka kapanja" prema pretjeranoj cenzuri: ako se tvrtke boje sankcija, mogle bi se povući koristan sadržaj emocionalna dobrobit iz čiste razboritosti. Pronalaženje ravnoteže između zaštite i pristupa pouzdanim informacijama bit će ključno za procjenu uspjeha regulacije.
Ostaje i pitanje nacionalnog utjecaja: kao što se dogodilo s drugim ranim kalifornijskim propisima, njegovi zahtjevi mogli bi postati de facto standard za operatere diljem SAD-a, čak i prije nego što su bili dostupni čvrsti dokazi o učinkovitosti.
Iako je konačni tekst uži od početnih prijedloga, SB 243 postavlja neviđena pravila za "prateće chatbotove"jasna upozorenja, filteri za dob i protokoli za krizne situacije s institucionalnim izvještavanjem. Ako ste minimalne barijere Ako uspiju zaštititi maloljetnike bez gušenja legitimne podrške, Kalifornija će utrti srednji put kojim mogu slijediti i druge države.
Ja sam tehnološki entuzijast koji je svoje "geek" interese pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći vrhunsku tehnologiju i petljajući sa svim vrstama programa iz čiste znatiželje. Sada sam se specijalizirao za računalne tehnologije i video igre. To je zato što sam više od 5 godina pisao za razne web stranice o tehnologiji i videoigrama, stvarajući članke koji vam nastoje dati informacije koje su vam potrebne na jeziku koji je svima razumljiv.
Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog uz Windows operativni sustav kao i Android za mobitele. I moja je posvećenost vama, uvijek sam spreman odvojiti nekoliko minuta i pomoći vam riješiti sva pitanja koja imate u ovom internetskom svijetu.