- SB 243 vereis dat kletsbotte hulself identifiseer en periodieke herinnerings verskaf, met kennisgewings elke drie uur vir minderjariges.
- Besprekings oor seksualiteit en selfbesering met minderjariges word beperk, en krisisprotokolle word geaktiveer.
- Platforms moet tekens van selfmoordgedagtes aan die staatskantoor vir selfmoordvoorkoming rapporteer.
- Die pakket sluit ander Kaliforniese KI-regulasies oor risiko, diepvalse en aanspreeklikheid in.
Kalifornië het 'n beslissende stap geneem in die toesig oor kunsmatige intelligensie. met 'n reël wat fokus op sogenaamde "metgesel-kletsbots", dié wat vriendskap of intimiteit simuleer. Goewerneur Gavin Newsom het SB 243 onderteken, 'n wet wat vereis dat hierdie gereedskap hulself as outomatiese stelsels identifiseer en spesifieke voorsorgmaatreëls tref wanneer hulle met hulle interaksie het minderjarige gebruikers.
Die maatreël, geborg deur staatssenator Steve Padilla, fokus minder op tegniese argitektuur en meer op emosionele koppelvlak tussen mense en masjieneDie finale weergawe, wat meer beperk was na druk van die bedryf, handhaaf belangrike verpligtinge: Gereelde herinneringe dat jy met 'n KI praat, ouderdomsgepaste inhoudfilters en reaksieprotokolle tekens van selfbesering of selfmoord.
Wat presies vereis SB 243?
Die kern van die standaard vereis dat kletsbotte duidelik en herhaaldelik waarsku dat hulle is AI sagtewareVir minderjarige gebruikers moet die stelsel ten minste elke drie uur 'n herinnering vertoon, op 'n sigbare en verstaanbare wyse, om verwarring oor die nie-menslike aard van die interaksie te vermy.
Daarbenewens moet operateurs implementeer inhoudfilters en ouderdomsbeperkingsEksplisiete seksualiteit en enige interaksie wat selfbesering normaliseer of aanmoedig, word uitgesluit van gesprekke met minderjariges. Hierdie hindernisse word aangevul deur verwysings na krisisdienste wanneer dit opgespoor word. risiko-aanwysers.
La Die wet vereis dat platforms vroeë opsporings- en reaksieprotokolle moet vestig., sowel as verslae van gevalle van selfmoordgedagtes wat by die Kantoor van Selfmoordvoorkoming Van KaliforniëDit poog om koördinering met gesondheidsowerhede te versterk en statistieke oor die impak van hierdie instrumente op geestesgesondheid in te sluit.
Om hierdie waarborge te handhaaf, Maatskappye moet redelike ouderdomsverifikasiemeganismes implementeer in hul dienste wat op inwoners van die staat gemik is.Die vereiste geld vir sosiale netwerke, webwerwe en toepassings wat gepaardgaande kletsbotte bied, insluitend speletjieplatforms of gedesentraliseerde opsies wat in Kalifornië bedryf word.
Die finale weergawe van SB 243 het derdeparty-oudits en 'n toepassing vir alle gebruikers (nie net minderjariges nie) wat in vorige konsepte beoog is, uitgelaat. Ten spyte van hierdie besnoeiing het Newsom die wetsontwerp verdedig as 'n inperkingsdam teen voorkombare skade, met inwerkingtreding beplan vir Januarie 2026.
'n Breër pakket KI-wette in die staat
SB 243 kom saam met ander onlangs aangeneemde inisiatiewe, soos SB 53, wat vereis dat groot KI-ontwikkelaars hul KI-strategieë in die openbaar moet bekend maak. sekuriteit en risikobeperkingDie doel is om die deursigtigheid van gevorderde modelle wat reeds grootskaalse sosiale impak het, te verbeter.
Terselfdertyd is maatreëls bevorder om te verhoed dat maatskappye verantwoordelikhede ontduik deur te beweer dat tegnologie "tree outonoom op"Strawwe vir nie-konsensuele seksuele diepnamaaksels is ook verskerp, wat boetes aansienlik verhoog wanneer dit minderjarige slagoffers raak.
Die pakket sluit ook beperkings in om te verhoed dat kletsbotte hulself voordoen. gesondheidswerkers of gesagsfigure, 'n taktiek wat kwesbare gebruikers kan mislei. Met hierdie stukke skets Sacramento 'n staatsraamwerk wat poog om innovasie, regte en openbare veiligheid.
Ondersteuning, kritiek en twyfel oor die omvang daarvan
Die standaard is geprys vir baanbrekerswerk, maar terselfdertyd gekritiseer omdat dit tekort skiet. Organisasies soos Common Sense Media en die Tech Oversight Project het hul steun onttrek nadat hulle eksterne oudits uitgeskakel het en hul omvang tot minderjariges beperk het, wat hulle waarsku die wet 'n onvoldoende gebaar kan maak in die lig van huidige risiko's.
Aan die ander uiterste waarsku ontwikkelaars en kenners dat 'n onevenredige verantwoordelikheid kan lei tot "voorsorgblokkades": filters so streng dat hulle wettige gesprekke oor geestesgesondheid of seksopvoeding stilmaak, wat tieners wat aanlyn hulp soek van noodsaaklike ondersteuning ontneem.
Die politieke en ekonomiese druk was intens: Tegnologiegroepe en bedryfskoalisies het miljoene in lobbywerk tydens die sitting belê om die moeilikste tekste te modereer.Terselfdertyd het die staatsaanklaer se kantoor en die FTC het ondersoeke na kletsbotpraktyke wat minderjariges teiken, in 'n omgewing van siviele regsgedinge en klagtes van geaffekteerde families.
Onlangse sake en regsgedinge teen Platforms soos Character.AI of OpenAI het die openbare debat verhoogNa die beskuldigings, Groot spelers soos Meta en OpenAI het veranderinge aangekondigBlokkering van onvanpaste gesprekke met tieners en verwysings na gespesialiseerde hulpbronne, plus nuwe ouerkontroles.
Implementeringsuitdagings en voorsienbare gevolge
Die bekendstelling hou operasionele uitdagings in. Globale platforms sal akkuraat moet bepaal wie is minderjarige inwoner in Kalifornië en miljoene daaglikse interaksies monitor sonder om privaatheid te skend, iets wat tegnies en wetlik kompleks is.
Nog 'n uitdaging sal wees om die "druppeleffek" teenoor oormatige sensuur te vermy: as maatskappye sanksies vrees, kan hulle onttrek nuttige inhoud emosionele welstand uit pure versigtigheid. Om die balans te vind tussen beskerming en toegang tot betroubare inligting sal die sleutel wees tot die beoordeling van die sukses van die regulasie.
Die vraag van nasionale impak bly ook: soos met ander vroeë Kaliforniese regulasies gebeur het, kan die vereistes daarvan de facto word standaard vir operateurs regoor die VSA, selfs voordat soliede bewyse van doeltreffendheid beskikbaar was.
Alhoewel die finale teks nouer is as die aanvanklike voorstelle, die SB 243 stel ongekende reëls vir "metgesel-kletsbots"duidelike waarskuwings, ouderdomsfilters en krisisprotokolle met institusionele verslagdoening. Indien u minimale hindernisse As hulle daarin slaag om minderjariges te beskerm sonder om wettige ondersteuning te onderdruk, sal Kalifornië 'n middelweg gebaan het wat ander state kan volg.
Ek is 'n tegnologie-entoesias wat sy "geek"-belangstellings in 'n beroep verander het. Ek het meer as 10 jaar van my lewe bestee om die nuutste tegnologie te gebruik en uit pure nuuskierigheid met allerhande programme te peuter. Nou het ek gespesialiseer in rekenaartegnologie en videospeletjies. Dit is omdat ek al vir meer as 5 jaar vir verskeie webwerwe oor tegnologie en videospeletjies skryf en artikels skep wat poog om jou die inligting te gee wat jy nodig het in 'n taal wat vir almal verstaanbaar is.
As jy enige vrae het, strek my kennis van alles wat verband hou met die Windows-bedryfstelsel sowel as Android vir selfone. En my verbintenis is aan jou, ek is altyd bereid om 'n paar minute te spandeer en jou te help om enige vrae op te los wat jy in hierdie internetwêreld mag hê.