- SB 243 zahtijeva da se chatbotovi identifikuju i daju periodične podsjetnike, s obavijestima svaka tri sata za maloljetnike.
- Razgovori o seksualnosti i samopovređivanju s maloljetnicima su ograničeni, a aktiviraju se i protokoli za krizne situacije.
- Platforme moraju prijaviti znakove suicidalnih ideja državnom Uredu za prevenciju samoubistava.
- Paket uključuje i druge kalifornijske propise o vještačkoj inteligenciji o riziku, deepfakeovima i odgovornosti.
Kalifornija je poduzela odlučan korak u nadzoru umjetne inteligencije. s pravilom koje se fokusira na takozvane "družeće chatbotove", one koji simuliraju prijateljstvo ili intimnost. Guverner Gavin Newsom potpisao je SB 243, zakon koji zahtijeva da se ovi alati identificiraju kao automatizirani sistemi i usvoje posebne zaštitne mjere prilikom interakcije s maloljetni korisnici.
Mjera, koju je sponzorirao državni senator Steve Padilla, fokusira se manje na tehničku arhitekturu, a više na emocionalni interfejs između ljudi i mašinaKonačna verzija, koja je bila ograničenija nakon pritiska industrije, zadržava ključne obaveze: Redovni podsjetnici da razgovarate s umjetnom inteligencijom, filteri sadržaja prilagođeni dobi i protokoli za odgovore znakovi samopovređivanja ili samoubistva.
Šta tačno zahtijeva SB 243?
Suština standarda zahtijeva od chatbotova da jasno i više puta upozore da su AI softverZa maloljetne korisnike, sistem mora prikazivati podsjetnik najmanje svaka tri sata, na vidljiv i razumljiv način kako bi se izbjegla zabuna oko neljudske prirode interakcije.
Osim toga, operateri moraju implementirati filteri sadržaja i starosna ograničenjaEksplicitna seksualnost i svaka interakcija koja normalizuje ili podstiče samopovređivanje isključene su iz razgovora sa maloljetnicima. Ove barijere se dopunjuju upućivanjem na krizne službe kada se otkriju. indikatori rizika.
La Zakon zahtijeva od platformi da uspostave protokole za rano otkrivanje i odgovor., kao i izvještaji o slučajevima suicidalnih ideja identifikovanih na Ured za prevenciju samoubistava KalifornijeOvo nastoji ojačati koordinaciju sa zdravstvenim vlastima i uključiti metriku o utjecaju ovih alata na mentalno zdravlje.
Da bi se održale ove zaštitne mjere, Kompanije moraju implementirati mehanizme za provjeru razumne dobi u svojim uslugama namijenjenim stanovnicima države.Zahtjev se odnosi na društvene mreže, web stranice i aplikacije koje nude prateće chatbotove, uključujući platforme za igre ili decentralizirane opcije koje posluju u Kaliforniji.
U konačnoj verziji zakona SB 243 izostavljene su revizije trećih strana i aplikacija za sve korisnike (ne samo maloljetnike) koje su bile predviđene u ranijim nacrtima. Uprkos ovom smanjenju, Newsom je branio zakon kao zaštitna brana protiv štete koja se može spriječiti, a stupanje na snagu planirano je za januar 2026. godine.
Širi paket zakona o umjetnoj inteligenciji u državi
SB 243 dolazi uz druge nedavno usvojene inicijative, kao što je SB 53, koji zahtijeva od velikih programera umjetne inteligencije da javno objave svoje strategije umjetne inteligencije. sigurnost i ublažavanje rizikaCilj je poboljšati transparentnost naprednih modela koji već imaju veliki društveni utjecaj.
Paralelno s tim, promovirane su mjere kako bi se spriječilo da kompanije izbjegavaju odgovornosti tvrdeći da tehnologija "djeluje autonomno"Kazne za deepfakeove seksualnog karaktera bez pristanka su također pooštrene, značajno povećavajući novčane kazne kada pogode maloljetne žrtve.
Paket također uključuje ograničenja kako bi se spriječilo lažno predstavljanje chatbotova. zdravstveni radnici ili autoritetske figure, taktika koja može zavarati ranjive korisnike. Ovim tekstovima, Sacramento ocrtava državni okvir koji pokušava uravnotežiti inovacije, prava i javna sigurnost.
Podrška, kritika i sumnje u vezi s njegovim dosegom
Standard je dobio pohvale zbog svoje revolucionarnosti, ali istovremeno i kritike zbog nedostatka rezultata. Organizacije poput Zdrav razum Mediji i Projekt za tehnološki nadzor povukli su svoju podršku nakon što su ukinuli eksterne revizije i ograničili njihov opseg na maloljetnike, što bi, kako upozoravaju, moglo učiniti zakon nedovoljnom gestom s obzirom na trenutne rizike.
S druge strane, programeri i stručnjaci upozoravaju da nesrazmjerna odgovornost moglo bi dovesti do „preventivnih blokada“: filtera toliko strogih da utišavaju legitimne razgovore o mentalnom zdravlju ili seksualnom obrazovanju, uskraćujući tinejdžerima koji traže pomoć online ključnu podršku.
Politički i ekonomski pritisak je bio intenzivan: Tehnološke grupe i industrijske koalicije potrošile su milione lobirajući tokom sesije kako bi moderirale najteže tekstove.Istovremeno, državno tužilaštvo i Federalna trgovinska komora (FTC) pokrenuli su istragu o praksama chatbotova usmjerenim na maloljetnike, u okruženju građanske parnice i pritužbe pogođenih porodica.
Nedavni slučajevi i tužbe protiv Platforme poput Character.AI ili OpenAI eskalirale su javnu debatuNakon optužbi, Veliki igrači poput Mete i OpenAI-a najavili su promjeneBlokiranje neprikladnih razgovora s tinejdžerima i upućivanje na specijalizirane resurse, plus nove roditeljske kontrole.
Izazovi u implementaciji i predvidljivi efekti
Implementacija predstavlja operativne izazove. Globalne platforme će morati precizno utvrditi ko je maloljetni stanovnik Kalifornije i pratiti milione dnevnih interakcija bez narušavanja privatnosti, što je tehnički i pravno složeno.
Još jedan izazov bit će izbjegavanje "efekta kapanja" prema pretjeranoj cenzuri: ako se kompanije boje sankcija, mogle bi se povući koristan sadržaj emocionalno blagostanje iz čiste razboritosti. Pronalaženje ravnoteže između zaštite i pristupa pouzdanim informacijama bit će ključno za procjenu uspjeha regulacije.
Ostaje i pitanje nacionalnog uticaja: kao što se dogodilo s drugim ranim kalifornijskim propisima, njeni zahtjevi mogli bi postati de facto standard za operatere širom SAD-a, čak i prije nego što su bili dostupni čvrsti dokazi o efikasnosti.
Iako je konačni tekst uži od početnih prijedloga, SB 243 postavlja neviđena pravila za "prateće chatbotove"jasna upozorenja, filteri za godine i protokoli za krizne situacije s institucionalnim izvještavanjem. Ako ste minimalne barijere Ako uspiju zaštititi maloljetnike bez gušenja legitimne podrške, Kalifornija će utrti srednji put kojim mogu slijediti i druge države.
Ja sam tehnološki entuzijasta koji je svoja "geek" interesovanja pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći najsavremeniju tehnologiju i petljajući po svim vrstama programa iz čiste radoznalosti. Sada sam se specijalizirao za kompjutersku tehnologiju i video igrice. To je zato što više od 5 godina pišem za razne web stranice o tehnologiji i video igricama, stvarajući članke koji nastoje dati vam potrebne informacije na jeziku koji je svima razumljiv.
Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog za Windows operativni sistem kao i Android za mobilne telefone. I moja posvećenost je vama, uvijek sam spreman potrošiti nekoliko minuta i pomoći vam da riješite sva pitanja koja imate u ovom svijetu interneta.