Kalifornien antar SB 243 för att reglera AI-chattrobotar och skydda minderåriga

Kalifornien har tagit ett avgörande steg i övervakningen av artificiell intelligens. med en regel som fokuserar på så kallade "companion chatbots", de som simulerar vänskap eller intimitet. Guvernör Gavin Newsom undertecknade SB 243, en lag som kräver att dessa verktyg identifierar sig som automatiserade system och vidtar specifika skyddsåtgärder när de interagerar med mindre användare.

Åtgärden, som sponsras av delstatssenator Steve Padilla, fokuserar mindre på teknisk arkitektur och mer på emotionellt gränssnitt mellan människor och maskinerDen slutliga versionen, som blev mer begränsad efter påtryckningar från branschen, bibehåller viktiga skyldigheter: Regelbundna påminnelser om att du pratar med en AI, åldersanpassade innehållsfilter och svarsprotokoll tecken på självskadebeteende eller självmord.

Vad exakt kräver SB 243?

Kärnan i standarden kräver att chatbotar tydligt och upprepade gånger varnar att de är IA-programvaraFör minderåriga användare måste systemet visa en påminnelse minst var tredje timme, på ett synligt och förståeligt sätt för att undvika förvirring om interaktionens icke-mänskliga natur.

Dessutom måste operatörerna implementera innehållsfilter och åldersgränserExplicit sexualitet och all interaktion som normaliserar eller uppmuntrar till självskadebeteende exkluderas från samtal med minderåriga. Dessa hinder kompletteras av hänvisningar till krismottagningar när de upptäcks. riskindikatorer.

La Lagen kräver att plattformar etablerar protokoll för tidig upptäckt och respons., såväl som rapporter om fall av självmordstankar som identifierats vid Kontoret för självmordsprevention Av KalifornienDetta syftar till att stärka samordningen med hälsomyndigheter och införliva mätvärden för dessa verktygs inverkan på den psykiska hälsan.

För att upprätthålla dessa skyddsåtgärder, Företag måste implementera rimliga åldersverifieringsmekanismer i sina tjänster riktade till invånare i staten.Kravet gäller sociala nätverk, webbplatser och appar som erbjuder tillhörande chattrobotar, inklusive spelplattformar eller decentraliserade alternativ som är verksamma i Kalifornien.

Den slutliga versionen av SB 243 uteslöt tredjepartsgranskningar och en app för alla användare (inte bara minderåriga) som övervägdes i tidigare utkast. Trots denna sänkning försvarade Newsom lagförslaget som en inneslutningsdamm mot förebyggbara skador, med planerat ikraftträdande i januari 2026.

Ett bredare paket med AI-lagar i delstaten

SB 243 kommer tillsammans med andra nyligen antagna initiativ, såsom SB 53, som kräver att stora AI-utvecklare offentliggör sina AI-strategier. säkerhet och riskreduceringMålet är att förbättra transparensen hos avancerade modeller som redan har storskalig social påverkan.

Parallellt har åtgärder främjats för att förhindra att företag undviker ansvar genom att hävda att teknik "agerar självständigt"Straffen för sexuella djupfak utan samtyckande har också skärpts, vilket avsevärt ökar böterna när de drabbar minderåriga offer.

Paketet innehåller även begränsningar för att förhindra att chatbotar utger sig för att vara hälsoproffs eller auktoritetsfigurer, en taktik som kan vilseleda sårbara användare. Med dessa artiklar skisserar Sacramento ett statligt ramverk som försöker balansera innovation, rättigheter och seguridad pública.

Stöd, kritik och tvivel om dess omfattning

Standarden har fått beröm för att vara banbrytande, men samtidigt kritik för att vara till korta. Organisationer som Common Sense Media och Tech Oversight Project drog tillbaka sitt stöd efter att ha eliminerat externa revisioner och begränsat deras omfattning till minderåriga, vilket de varnar för kan göra lagen till en otillräcklig gest med tanke på nuvarande risker.

I den andra extremen varnar utvecklare och experter för att en oproportionerligt ansvar kan leda till ”försiktighetsblockeringar”: filter som är så strikta att de tystar ner legitima samtal om psykisk hälsa eller sexundervisning, vilket berövar tonåringar som söker hjälp online viktigt stöd.

Det politiska och ekonomiska trycket har varit intensivt: Teknikgrupper och branschkoalitioner investerade miljoner i lobbyverksamhet under sessionen för att moderera de tuffaste texterna.Samtidigt har åklagarmyndigheten och FTC har utlöst granskning av chatbotmetoder som riktar sig mot minderåriga, i en miljö av civilrättsliga stämningar och klagomål från drabbade familjer.

Nyligen inledda fall och stämningar mot Plattformar som Character.AI eller OpenAI har eskalerat den offentliga debattenEfter anklagelserna, Stora aktörer som Meta och OpenAI tillkännagav förändringarBlockering av olämpliga samtal med tonåringar och hänvisningar till specialiserade resurser, plus nya föräldrakontroller.

Implementeringsutmaningar och förutsebara effekter

Lanseringen innebär operativa utmaningar. Globala plattformar måste noggrant avgöra vem som är minderårig bosatt i Kalifornien och övervaka miljontals dagliga interaktioner utan att inkräkta på integriteten, något som är tekniskt och juridiskt komplext.

En annan utmaning blir att undvika den "sipprande effekten" mot överdriven censur: om företag fruktar sanktioner kan de dra sig tillbaka användbart innehåll emotionellt välbefinnande av ren försiktighet. Att hitta balansen mellan skydd och tillgång till tillförlitlig information kommer att vara avgörande för att bedöma regleringens framgång.

Frågan om nationell påverkan kvarstår också: liksom med andra tidiga kaliforniska bestämmelser kan dess krav i praktiken bli standard för operatörer över hela USA, redan innan solida bevis för effekt fanns tillgängliga.

Även om den slutliga texten är snävare än de ursprungliga förslagen, SB 243 sätter exempellösa regler för "följande chatbotar"tydliga varningar, åldersfilter och krisprotokoll med institutionell rapportering. Om du är minimala hinder Om de lyckas skydda minderåriga utan att kväva legitima stödpersoner, har Kalifornien banat en medelväg som andra stater kan följa.

Relaterad artikel:

OpenAI kommer att lägga till föräldrakontroller till ChatGPT med familjekonton, riskvarningar och användningsgränser.

Alberto Navarro

Jag är en teknikentusiast som har gjort sina "nördar"-intressen till ett yrke. Jag har tillbringat mer än 10 år av mitt liv med att använda den senaste tekniken och mixtrat med alla typer av program av ren nyfikenhet. Nu har jag specialiserat mig på datateknik och tv-spel. Detta beror på att jag i mer än 5 år har arbetat med att skriva för olika webbplatser om teknik och videospel, skapa artiklar som försöker ge dig den information du behöver på ett språk som är begripligt för alla.

Om du har några frågor sträcker sig min kunskap från allt som rör operativsystemet Windows samt Android för mobiltelefoner. Och mitt engagemang är för dig, jag är alltid villig att spendera några minuter och hjälpa dig att lösa alla frågor du kan ha i den här internetvärlden.