- SB 243 vereist dat chatbots zichzelf identificeren en periodieke herinneringen sturen, met meldingen om de drie uur voor minderjarigen.
- Gesprekken over seksualiteit en zelfbeschadiging met minderjarigen worden beperkt en er zijn crisisprotocollen van kracht.
- Platforms moeten signalen van zelfmoordgedachten melden bij het Bureau voor Zelfmoordpreventie van de staat.
- Het pakket omvat andere Californische AI-regelgeving over risico, deepfakes en aansprakelijkheid.
Californië heeft een beslissende stap gezet in het toezicht op kunstmatige intelligentie. met een regel die zich richt op zogenaamde "companion chatbots", chatbots die vriendschap of intimiteit simuleren. Gouverneur Gavin Newsom ondertekende SB 243een wet die vereist dat deze tools zichzelf identificeren als geautomatiseerde systemen en specifieke waarborgen invoeren bij interactie met minderjarige gebruikers.
De maatregel, gesponsord door senator Steve Padilla, richt zich minder op technische architectuur en meer op emotionele interface tussen mensen en machinesDe definitieve versie, die na druk vanuit de industrie beperkter was, behoudt de volgende belangrijke verplichtingen: Regelmatige herinneringen dat u met een AI praat, leeftijdsgeschikte inhoudsfilters en responsprotocollen tekenen van zelfbeschadiging of zelfmoord.
Wat vereist SB 243 precies?
De kern van de standaard vereist dat chatbots duidelijk en herhaaldelijk waarschuwen dat ze AI-softwareVoor minderjarige gebruikers moet het systeem minimaal elke drie uur een herinnering weergeven, op een zichtbare en begrijpelijke manier, om verwarring over het niet-menselijke karakter van de interactie te voorkomen.
Bovendien moeten exploitanten: inhoudsfilters en leeftijdsgrenzen: Expliciete seksualiteit en elke interactie die zelfbeschadiging normaliseert of aanmoedigt, worden uitgesloten van gesprekken met minderjarigen. Deze barrières worden aangevuld met doorverwijzingen naar crisisdiensten wanneer ze worden opgemerkt. risico-indicatoren.
La De wet vereist dat platformen protocollen voor vroege detectie en reactie opstellen., evenals meldingen van gevallen van suïcidale gedachten die bij de Bureau voor Zelfmoordpreventie Van CaliforniëHiermee willen we de coördinatie met gezondheidsautoriteiten versterken en statistieken verzamelen over de impact van deze hulpmiddelen op de geestelijke gezondheid.
Om deze waarborgen te handhaven, Bedrijven moeten redelijke leeftijdsverificatiemechanismen implementeren in hun diensten die gericht zijn op inwoners van de staat.De vereiste geldt voor sociale netwerken, websites en apps die begeleidende chatbots aanbieden, inclusief gamingplatforms of gedecentraliseerde opties die in Californië actief zijn.
De definitieve versie van SB 243 liet audits door derden en een app voor alle gebruikers (niet alleen minderjarigen) achterwege, die in eerdere versies wel waren voorzien. Ondanks deze bezuiniging verdedigde Newsom het wetsvoorstel als een indammen tegen vermijdbare schade. De inwerkingtreding is gepland voor januari 2026.
Een breder pakket AI-wetten in de staat
SB 243 volgt op andere onlangs aangenomen initiatieven, zoals SB 53, die van grote AI-ontwikkelaars eist dat ze hun AI-strategieën openbaar maken. beveiliging en risicobeperkingHet doel is om de transparantie te verbeteren van geavanceerde modellen die al een grootschalige maatschappelijke impact hebben.
Tegelijkertijd zijn er maatregelen gepromoot om te voorkomen dat bedrijven hun verantwoordelijkheden ontlopen door te beweren dat technologie “handelt autonoom”Ook de straffen voor seksuele deepfakes die zonder wederzijdse toestemming zijn gemaakt, zijn strenger geworden. De boetes voor deepfakes die minderjarige slachtoffers treffen, zijn aanzienlijk hoger.
Het pakket bevat ook beperkingen om te voorkomen dat chatbots zich voordoen als professionele sanitaire voorzieningen of autoriteitsfiguren, een tactiek die kwetsbare gebruikers kan misleiden. Met deze stukken schetst Sacramento een staatskader dat probeert een evenwicht te vinden tussen innovatie, rechten en openbare veiligheid.
Steun, kritiek en twijfels over de reikwijdte ervan
De standaard is geprezen vanwege zijn baanbrekende karakter, maar er is ook kritiek op het feit dat het tekortschiet. Organisaties zoals Common Sense Media en het Tech Oversight Project trokken hun steun in nadat ze externe audits hadden afgeschaft en de reikwijdte ervan hadden beperkt tot minderjarigen. Zij waarschuwen dat dit de wet een onvoldoende gebaar zou kunnen maken in het licht van de huidige risico's.
Aan de andere kant waarschuwen ontwikkelaars en experts dat een onevenredige verantwoordelijkheid kan leiden tot ‘voorzorgsblokkades’: filters die zo streng zijn dat ze legitieme gesprekken over geestelijke gezondheid of seksuele voorlichting onmogelijk maken, waardoor tieners die online hulp zoeken, cruciale ondersteuning wordt onthouden.
De politieke en economische druk is enorm: Technologiegroepen en industriële coalities investeerden miljoenen in lobbyactiviteiten tijdens de sessie om de meest kritische teksten te modereren.Tegelijkertijd hebben het Openbaar Ministerie en de FTC hebben geleid tot een onderzoek naar chatbot-praktijken die op minderjarigen zijn gericht, in een omgeving van civiele rechtszaken en klachten van getroffen families.
Recente zaken en rechtszaken tegen Platforms zoals Character.AI of OpenAI hebben het publieke debat aangewakkerdNa de beschuldigingen, Grote spelers zoals Meta en OpenAI hebben veranderingen aangekondigd: Blokkering van ongepaste gesprekken met tieners en verwijzingen naar gespecialiseerde bronnen, plus nieuwe ouderlijk toezicht.
Implementatie-uitdagingen en voorzienbare effecten
De lancering brengt operationele uitdagingen met zich mee. Wereldwijde platforms zullen nauwkeurig moeten bepalen wie er verantwoordelijk is. minderjarige inwoner van Californië en miljoenen dagelijkse interacties monitoren zonder de privacy te schenden, iets dat technisch en juridisch complex is.
Een andere uitdaging zal zijn om het ‘doorsijpelende effect’ van overmatige censuur te vermijden: als bedrijven sancties vrezen, zouden ze zich kunnen terugtrekken nuttige inhoud Emotioneel welzijn uit pure voorzichtigheid. Het vinden van de balans tussen bescherming en toegang tot betrouwbare informatie zal cruciaal zijn voor het beoordelen van het succes van de regelgeving.
De vraag naar de nationale impact blijft ook bestaan: net als bij andere eerdere Californische regelgevingen, zouden de eisen ervan de facto van kracht kunnen worden. standaard voor operators in de hele VS, zelfs voordat er concreet bewijs voor de effectiviteit beschikbaar was.
Hoewel de uiteindelijke tekst beperkter is dan de oorspronkelijke voorstellen, SB 243 stelt ongekende regels vast voor 'companion chatbots': duidelijke waarschuwingen, leeftijdsfilters en crisisprotocollen met institutionele rapportage. Als u minimale barrières Als het hen lukt om minderjarigen te beschermen zonder legitieme steun te onderdrukken, heeft Californië een middenweg uitgestippeld die andere staten kunnen volgen.
Ik ben een technologieliefhebber die van zijn 'nerd'-interesses zijn beroep heeft gemaakt. Ik heb meer dan 10 jaar van mijn leven doorgebracht met het gebruik van de allernieuwste technologie en het sleutelen aan allerlei programma's uit pure nieuwsgierigheid. Nu heb ik mij gespecialiseerd in computertechnologie en videogames. Dit komt omdat ik al meer dan vijf jaar voor verschillende websites over technologie en videogames schrijf en artikelen heb gemaakt die proberen u de informatie te geven die u nodig heeft in een taal die voor iedereen begrijpelijk is.
Als je vragen hebt, mijn kennis strekt zich uit van alles wat te maken heeft met het Windows-besturingssysteem tot Android voor mobiele telefoons. En mijn toewijding is aan jou, ik ben altijd bereid om een paar minuten te besteden en je te helpen bij het oplossen van eventuele vragen die je hebt in deze internetwereld.