- SB 243 kræver, at chatbots identificerer sig selv og giver periodiske påmindelser, med notifikationer hver tredje time for mindreårige.
- Diskussioner om seksualitet og selvskade med mindreårige er begrænsede, og kriseprotokoller er aktiveret.
- Platforme skal rapportere tegn på selvmordstanker til statens kontor for selvmordsforebyggelse.
- Pakken indeholder andre californiske AI-regler om risiko, deepfakes og ansvar.
Californien har taget et afgørende skridt i retning af at overvåge kunstig intelligens. med en regel, der fokuserer på såkaldte "companion chatbots", dem der simulerer venskab eller intimitet. Guvernør Gavin Newsom underskrev SB 243, en lov, der kræver, at disse værktøjer identificerer sig selv som automatiserede systemer og indfører specifikke sikkerhedsforanstaltninger, når de interagerer med mindre brugere.
Forslaget, der er støttet af senator Steve Padilla, fokuserer mindre på teknisk arkitektur og mere på den følelsesmæssige grænseflade mellem mennesker og maskinerDen endelige version, som blev mere begrænset efter pres fra industrien, fastholder vigtige forpligtelser: Regelmæssige påmindelser om, at du taler til en AI, alderstilpassede indholdsfiltre og svarprotokoller tegn på selvskade eller selvmord.
Hvad kræver SB 243 præcist?
Kernen i standarden kræver, at chatbots tydeligt og gentagne gange advarer om, at de er IA-softwareFor mindreårige brugere skal systemet vise en påmindelse mindst hver tredje time på en synlig og forståelig måde for at undgå forvirring om interaktionens ikke-menneskelige karakter.
Derudover skal operatørerne implementere indholdsfiltre og aldersgrænserEksplicit seksualitet og enhver interaktion, der normaliserer eller opfordrer til selvskade, er udelukket fra samtaler med mindreårige. Disse barrierer suppleres af henvisninger til krisetjenester, når de opdages. risikoindikatorer.
La Loven kræver, at platforme etablerer protokoller for tidlig detektion og reaktion., samt rapporter om tilfælde af selvmordstanker identificeret hos Kontoret for selvmordsforebyggelse Af CalifornienDette har til formål at styrke koordineringen med sundhedsmyndighederne og inkorporere metrikker for disse værktøjers indvirkning på mental sundhed.
For at opretholde disse sikkerhedsforanstaltninger, Virksomheder skal implementere rimelige aldersbekræftelsesmekanismer i deres tjenester rettet mod indbyggere i staten.Kravet gælder for sociale netværk, websteder og apps, der tilbyder tilhørende chatbots, herunder spilplatforme eller decentraliserede muligheder, der opererer i Californien.
Den endelige version af SB 243 udelod tredjepartsrevisioner og en app til alle brugere (ikke kun mindreårige), som var overvejet i tidligere udkast. Trods denne beskæring forsvarede Newsom lovforslaget som en inddæmningsdæmning mod forebyggelige skader, med planlagt ikrafttræden i januar 2026.
En bredere pakke af AI-love i staten
SB 243 kommer sideløbende med andre nyligt vedtagne initiativer, såsom SB 53, som kræver, at store AI-udviklere offentliggør deres AI-strategier. sikkerhed og risikoreduktionMålet er at forbedre gennemsigtigheden af avancerede modeller, der allerede har storstilet social indflydelse.
Parallelt er der blevet fremmet foranstaltninger for at forhindre virksomheder i at unddrage sig ansvar ved at hævde, at teknologi "handler autonomt"Straffene for ikke-samtykke seksuelle deepfakes er også blevet strammet, hvilket øger bøderne betydeligt, når de påvirker mindreårige ofre.
Pakken indeholder også restriktioner for at forhindre chatbots i at udgive sig for at være sundhedsprofessionelle eller autoritetsfigurer, en taktik der kan vildlede sårbare brugere. Med disse artikler skitserer Sacramento en statslig ramme, der forsøger at skabe balance mellem innovation, rettigheder og offentlig sikkerhed.
Støtte, kritik og tvivl om dens omfang
Standarden har modtaget ros for at være banebrydende, men samtidig kritik for at være utilstrækkelig. Organisationer som f.eks. Common Sense Media og Tech Oversight Project trak deres støtte tilbage efter at have fjernet eksterne revisioner og begrænset deres anvendelsesområde til mindreårige, hvilket de advarer om kan gøre loven til en utilstrækkelig gestus i lyset af de nuværende risici.
I den anden ende advarer udviklere og eksperter om, at en uforholdsmæssigt stort ansvar kan føre til "forsigtighedsblokeringer": filtre så strenge, at de tavser legitime samtaler om mental sundhed eller seksualundervisning og fratager teenagere, der søger hjælp online, afgørende støtte.
Det politiske og økonomiske pres har været intenst: Teknologigrupper og industrikoalitioner investerede millioner i lobbyvirksomhed under sessionen for at moderere de vanskeligste tekster.Samtidig har statsadvokaturen og FTC har udløst granskning af chatbot-praksis rettet mod mindreårige i et miljø af civile søgsmål og klager fra berørte familier.
Nylige sager og retssager mod Platforme som Character.AI eller OpenAI har eskaleret den offentlige debatEfter beskyldningerne, Store aktører som Meta og OpenAI annoncerede ændringerBlokering af upassende samtaler med teenagere og henvisninger til specialiserede ressourcer samt nye forældrekontroller.
Implementeringsudfordringer og forudsigelige effekter
Lanceringen medfører operationelle udfordringer. Globale platforme bliver nødt til præcist at fastslå, hvem der er mindreårig bosiddende i Californien og overvåge millioner af daglige interaktioner uden at krænke privatlivets fred, noget der er teknisk og juridisk komplekst.
En anden udfordring vil være at undgå den "trickling-effekt" i retning af overdreven censur: hvis virksomheder frygter sanktioner, kan de trække sig tilbage nyttigt indhold følelsesmæssig velvære ud af ren forsigtighed. At finde balancen mellem beskyttelse og adgang til pålidelige oplysninger vil være nøglen til at vurdere reguleringens succes.
Spørgsmålet om national indvirkning står også tilbage: som det er sket med andre tidlige californiske regler, kan dens krav blive de facto standard for operatører i hele USA, selv før der var solid dokumentation for effektivitet.
Selvom den endelige tekst er mere snæver end de oprindelige forslag, SB 243 sætter hidtil usete regler for "ledsagerchatbots"Tydelige advarsler, aldersfiltre og kriseprotokoller med institutionel rapportering. Hvis du er minimale barrierer Hvis de formår at beskytte mindreårige uden at kvæle legitim støtte, vil Californien have banet en mellemvej, som andre stater kan følge.
Jeg er en teknologientusiast, der har vendt sine "nørde" interesser til et erhverv. Jeg har brugt mere end 10 år af mit liv på at bruge avanceret teknologi og pille ved alle slags programmer af ren nysgerrighed. Nu har jeg specialiseret mig i computerteknologi og videospil. Dette skyldes, at jeg i mere end 5 år har skrevet til forskellige hjemmesider om teknologi og videospil, og lavet artikler, der søger at give dig den information, du har brug for, på et sprog, der er forståeligt for alle.
Har du spørgsmål, så spænder min viden fra alt relateret til Windows styresystemet samt Android til mobiltelefoner. Og mit engagement er over for dig, jeg er altid villig til at bruge et par minutter og hjælpe dig med at løse eventuelle spørgsmål, du måtte have i denne internetverden.