California vedtar SB 243 for å regulere AI-chatboter og beskytte mindreårige

California har tatt et avgjørende skritt i tilsynet med kunstig intelligens. med en regel som fokuserer på såkalte «følgesvenn-chatboter», de som simulerer vennskap eller intimitet. Guvernør Gavin Newsom signerte SB 243, en lov som krever at disse verktøyene identifiserer seg som automatiserte systemer og innfører spesifikke sikkerhetstiltak når de samhandler med mindre brukere.

Tiltaket, sponset av senator Steve Padilla, fokuserer mindre på teknisk arkitektur og mer på emosjonelt grensesnitt mellom mennesker og maskinerDen endelige versjonen, som ble mer begrenset etter press fra bransjen, opprettholder viktige forpliktelser: Regelmessige påminnelser om at du snakker med en AI, alderstilpassede innholdsfiltre og responsprotokoller tegn på selvskading eller selvmord.

Hva krever SB 243 egentlig?

Kjernen i standarden krever at chatboter tydelig og gjentatte ganger varsler om at de er AI-programvareFor mindreårige brukere må systemet vise en påminnelse minst hver tredje time, på en synlig og forståelig måte for å unngå forvirring om samhandlingens ikke-menneskelige natur.

I tillegg må operatørene implementere innholdsfiltre og aldersgrenserEksplisitt seksualitet og enhver interaksjon som normaliserer eller oppmuntrer til selvskading er ekskludert fra samtaler med mindreårige. Disse barrierene suppleres av henvisninger til krisetjenester når de oppdages. risikoindikatorer.

La Loven krever at plattformer etablerer protokoller for tidlig deteksjon og respons., samt rapporter om tilfeller av selvmordstanker identifisert ved Kontoret for selvmordsforebygging Av CaliforniaDette har som mål å styrke koordineringen med helsemyndigheter og innlemme målinger av effekten av disse verktøyene på mental helse.

For å opprettholde disse sikkerhetstiltakene, Bedrifter må implementere rimelige mekanismer for aldersverifisering i sine tjenester rettet mot innbyggere i staten.Kravet gjelder sosiale nettverk, nettsteder og apper som tilbyr tilhørende chatboter, inkludert spillplattformer eller desentraliserte alternativer som opererer i California.

Den endelige versjonen av SB 243 utelot tredjepartsrevisjoner og en app for alle brukere (ikke bare mindreårige) som var vurdert i tidligere utkast. Til tross for dette kuttet forsvarte Newsom lovforslaget som et inneslutningsdemning mot forebyggbar skade, med planlagt ikrafttredelse i januar 2026.

En bredere pakke med AI-lover i staten

SB 243 kommer sammen med andre nylig vedtatte initiativer, som SB 53, som krever at store AI-utviklere offentliggjør sine AI-strategier. sikkerhet og risikoreduseringMålet er å forbedre åpenheten rundt avanserte modeller som allerede har storskala sosial innvirkning.

Parallelt har det blitt fremmet tiltak for å hindre at selskaper unndrar seg ansvar ved å hevde at teknologi «handler autonomt»Straffene for ikke-samtykkelige seksuelle deepfakes har også blitt skjerpet, noe som øker bøtene betydelig når de rammer mindreårige ofre.

Pakken inkluderer også restriksjoner for å forhindre at chatboter utgir seg for å være helsepersonell eller autoritetsfigurer, en taktikk som kan villede sårbare brukere. Med disse tekstene skisserer Sacramento et statlig rammeverk som forsøker å balansere innovasjon, rettigheter og offentlig sikkerhet.

Støtte, kritikk og tvil om omfanget

Standarden har fått ros for å være banebrytende, samtidig som den har blitt kritisert for å være utilstrekkelig. Organisasjoner som Common Sense Media og Tech Oversight Project trakk tilbake støtten sin etter å ha eliminert eksterne revisjoner og begrenset omfanget til mindreårige, noe de advarer om kan gjøre loven til en utilstrekkelig gest i møte med nåværende risikoer.

I den andre ytterligheten advarer utviklere og eksperter om at en uforholdsmessig ansvar kan føre til «forebyggende blokkeringer»: filtre som er så strenge at de stilner legitime samtaler om mental helse eller seksualundervisning, og fratar tenåringer som søker hjelp på nettet viktig støtte.

Det politiske og økonomiske presset har vært intenst: Teknologigrupper og bransjekoalisjoner investerte millioner i lobbyvirksomhet under sesjonen for å moderere de vanskeligste tekstene.Samtidig har statsadvokatembetet og FTC har utløst gransking av chatbot-praksis rettet mot mindreårige, i et miljø av sivile søksmål og klager fra berørte familier.

Nylige saker og søksmål mot Plattformer som Character.AI eller OpenAI har eskalert den offentlige debatten.Etter anklagene, Store aktører som Meta og OpenAI annonserte endringerBlokkering av upassende samtaler med tenåringer og henvisninger til spesialiserte ressurser, pluss nye foreldrekontroller.

Implementeringsutfordringer og forutsigbare effekter

Lanseringen byr på operative utfordringer. Globale plattformer må nøyaktig avgjøre hvem som er mindreårig bosatt i California og overvåke millioner av daglige interaksjoner uten å krenke personvernet, noe som er teknisk og juridisk komplekst.

En annen utfordring vil være å unngå «sildringseffekten» mot overdreven sensur: hvis selskaper frykter sanksjoner, kan de trekke seg tilbake nyttig innhold emosjonelt velvære av ren forsiktighet. Å finne balansen mellom beskyttelse og tilgang til pålitelig informasjon vil være nøkkelen til å vurdere hvor vellykket reguleringen er.

Spørsmålet om nasjonal innvirkning gjenstår også: som det har skjedd med andre tidlige californiske forskrifter, kan kravene bli de facto standard for operatører over hele USA, selv før solid bevis på effekt var tilgjengelig.

Selv om den endelige teksten er smalere enn de opprinnelige forslagene, SB 243 setter enestående regler for «følgende chatboter»Tydelige advarsler, aldersfiltre og kriseprotokoller med institusjonell rapportering. Hvis du er minimale barrierer Hvis de klarer å beskytte mindreårige uten å kvele legitim støtte, vil California ha banet en middelvei som andre stater kan følge.

Relatert artikkel:

OpenAI vil legge til foreldrekontroller til ChatGPT med familiekontoer, risikoadvarsler og bruksgrenser.

Alberto navarro

Jeg er en teknologientusiast som har gjort sine "geek"-interesser til et yrke. Jeg har brukt mer enn 10 år av livet mitt på å bruke banebrytende teknologi og fikse med alle slags programmer av ren nysgjerrighet. Nå har jeg spesialisert meg på datateknologi og videospill. Dette er fordi jeg i mer enn 5 år har skrevet for forskjellige nettsteder om teknologi og videospill, og laget artikler som prøver å gi deg den informasjonen du trenger på et språk som er forståelig for alle.

Hvis du har spørsmål, spenner min kunnskap fra alt relatert til Windows-operativsystemet samt Android for mobiltelefoner. Og mitt engasjement er til deg, jeg er alltid villig til å bruke noen minutter og hjelpe deg med å løse eventuelle spørsmål du måtte ha i denne internettverdenen.