- SB 243 edellyttää chatbottien tunnistautuvan ja tarjoavan säännöllisiä muistutuksia, alaikäisille ilmoituksia kolmen tunnin välein.
- Keskusteluja seksuaalisuudesta ja itsensä vahingoittamisesta alaikäisten kanssa rajoitetaan, ja kriisiprotokollat aktivoidaan.
- Alustan on ilmoitettava itsemurha-ajatusten merkeistä osavaltion itsemurhien ehkäisyn toimistolle.
- Paketti sisältää muita Kalifornian tekoälymääräyksiä riskeistä, deepfakeista ja vastuusta.
Kalifornia on ottanut ratkaisevan askeleen tekoälyn valvonnassa. säännöllä, joka keskittyy niin sanottuihin "seuralais-chatbotteihin", jotka simuloivat ystävyyttä tai läheisyyttä. Kuvernööri Gavin Newsom allekirjoitti SB 243:n, laki, joka edellyttää näiden työkalujen tunnistavan itsensä automatisoiduiksi järjestelmiksi ja ottavan käyttöön erityisiä suojatoimia ollessaan vuorovaikutuksessa alaikäiset käyttäjät.
Osavaltion senaattori Steve Padillan esittämä toimenpide keskittyy vähemmän tekniseen arkkitehtuuriin ja enemmän ihmisten ja koneiden välinen emotionaalinen rajapintaLopullinen versio, jota alan painostuksesta rajoitettiin, säilyttää keskeiset velvoitteet: Säännölliset muistutukset siitä, että puhut tekoälyn kanssa, ikätasolle sopivat sisällönsuodattimet ja vastausprotokollat merkkejä itsetuhoisuudesta tai itsemurhasta.
Mitä SB 243 tarkalleen ottaen vaatii?
Standardin ydin edellyttää, että chatbotit varoittavat selkeästi ja toistuvasti, että ne ovat TekoälyohjelmistoJärjestelmän on näytettävä alaikäisille käyttäjille muistutus vähintään kolmen tunnin välein näkyvällä ja ymmärrettävällä tavalla, jotta vältetään epäselvyyksiä siitä, onko kyseessä ei-inhimillinen vuorovaikutus.
Lisäksi operaattoreiden on pantava täytäntöön sisällönsuodattimet ja ikärajoituksetAlaikäisten kanssa käytävissä keskusteluissa ei käytetä eksplisiittistä seksuaalisuutta ja kaikkea itsetuhoisuutta normalisoivaa tai siihen kannustavaa vuorovaikutusta. Näitä esteitä täydentävät ohjaaminen kriisipalveluihin, kun tällaisia tilanteita havaitaan. riski-indikaattorit.
La Laki edellyttää alustoilta varhaisen havaitsemisen ja reagoinnin protokollien laatimista.sekä raportteja itsemurha-ajatusten tapauksista, jotka on havaittu Itsemurhien ehkäisyn toimisto KaliforniassaTällä pyritään vahvistamaan koordinointia terveysviranomaisten kanssa ja sisällyttämään mittareita näiden työkalujen vaikutuksesta mielenterveyteen.
Näiden suojatoimien ylläpitämiseksi Yritysten on otettava käyttöön kohtuulliset iän varmennusmekanismit osavaltion asukkaille suunnatuissa palveluissaan.Vaatimus koskee sosiaalisia verkostoja, verkkosivustoja ja sovelluksia, jotka tarjoavat chatbotteja, mukaan lukien Kaliforniassa toimivat pelialustat tai hajautetut vaihtoehdot.
SB 243:n lopullisesta versiosta jätettiin pois kolmannen osapuolen auditoinnit ja kaikille käyttäjille (ei vain alaikäisille) tarkoitettu sovellus, joita kaavailtiin aiemmissa luonnoksissa. Tästä leikkauksesta huolimatta Newsom puolusti lakiesitystä suojapato ehkäistävissä olevia vahinkoja vastaan, ja sen on määrä tulla voimaan tammikuussa 2026.
Laajempi tekoälylakipaketti osavaltiossa
SB 243 tulee rinnakkain muiden äskettäin hyväksyttyjen aloitteiden, kuten SB 53:n, kanssa, joka edellyttää suurilta tekoälykehittäjiltä tekoälystrategioidensa julkistamista. turvallisuus ja riskien hallintaTavoitteena on parantaa sellaisten edistyneiden mallien läpinäkyvyyttä, joilla on jo laajamittaista yhteiskunnallista vaikutusta.
Samanaikaisesti on edistetty toimenpiteitä, joilla estetään yrityksiä kiertämästä vastuutaan väittämällä, että teknologia "toimii itsenäisesti"Myös pakottamattomien seksuaalisten syväväärennösten rangaistuksia on tiukennettu, ja sakot ovat merkittävästi korkeammat, kun ne kohdistuvat alaikäisiin uhreihin.
Paketti sisältää myös rajoituksia, jotka estävät chatbotteja tekeytymästä toiseksi henkilöksi. ammattimaisia sanitaarisia tai auktoriteettihahmoja, mikä voi johtaa haavoittuvia käyttäjiä harhaan. Näillä teoksilla Sacramento hahmottelee osavaltion kehyksen, joka pyrkii tasapainottamaan innovaatioita, oikeuksia ja yleinen turvallisuus.
Tukea, kritiikkiä ja epäilyksiä sen laajuudesta
Standardia on kehuttu uraauurtavuudesta, mutta samalla kritisoitu sen puutteellisuudesta. Organisaatiot, kuten Common Sense Media ja Tech Oversight Project vetäytyivät tukestaan poistettuaan ulkoiset tarkastukset ja rajoitettuaan niiden soveltamisalan alaikäisiin, mikä heidän mukaansa voisi tehdä laista riittämättömän eleen nykyisten riskien edessä.
Toisessa ääripäässä kehittäjät ja asiantuntijat varoittavat, että a suhteeton vastuu voi johtaa "varotoimenpiteisiin": niin tiukkoihin suodattimiin, että ne vaientavat mielenterveyteen tai seksuaalikasvatukseen liittyvät asialliset keskustelut ja estävät verkosta apua etsiviä nuoria saamasta elintärkeää tukea.
Poliittinen ja taloudellinen paine on ollut voimakasta: Teknologiaryhmät ja teollisuuskoalitiot investoivat miljoonia lobbaukseen istunnon aikana vaikeimpien tekstien hillitsemiseksi.Samaan aikaan valtionsyyttäjänvirasto ja FTC ovat herättäneet tarkastelua alaikäisiin kohdistuvista chatbot-käytännöistä ympäristössä, jossa siviilioikeudenkäynnit ja valituksia asianomaisilta perheiltä.
Viimeaikaiset tapaukset ja oikeusjutut Alustat, kuten Character.AI tai OpenAI, ovat kiihdyttäneet julkista keskusteluaSyytösten jälkeen Suuret toimijat, kuten Meta ja OpenAI, ilmoittivat muutoksistaEstetään sopimattomat keskustelut teini-ikäisten kanssa ja ohjataan erikoistuneille resursseille sekä uudet lapsilukot.
Täytäntöönpanon haasteet ja ennakoitavissa olevat vaikutukset
Lanseeraus aiheuttaa toiminnallisia haasteita. Globaalien alustojen on määritettävä tarkasti, kuka on alaikäinen asukas Kaliforniassa ja seurata miljoonia päivittäisiä vuorovaikutuksia loukkaamatta yksityisyyttä, mikä on teknisesti ja juridisesti monimutkaista.
Toinen haaste on välttää liiallisen sensuurin "valumavaikutus": jos yritykset pelkäävät pakotteita, ne voivat vetäytyä hyödyllinen sisältö emotionaalista hyvinvointia puhtaasta varovaisuudesta. Tasapainon löytäminen suojelun ja luotettavan tiedon saatavuuden välillä on avainasemassa sääntelyn onnistumisen arvioinnissa.
Kysymys kansallisesta vaikutuksesta on myös edelleen olemassa: kuten muidenkin Kalifornian varhaisten säännösten kohdalla on käynyt, sen vaatimuksista voi tulla tosiasiallisia estándar toimijoille kaikkialla Yhdysvalloissa, jo ennen kuin tehokkuudesta oli saatavilla vankkaa näyttöä.
Vaikka lopullinen teksti on alkuperäisiä ehdotuksia suppeampi, SB 243 asettaa ennennäkemättömät säännöt "kumppani-chatboteille"selkeät varoitukset, ikäsuodattimet ja kriisiprotokollat institutionaalisen raportoinnin avulla. Jos olet minimaaliset esteet Jos he onnistuvat suojelemaan alaikäisiä tukahduttamatta laillisia tukia, Kalifornia on raivannut keskitien, jota muut osavaltiot voivat seurata.
Olen teknologian harrastaja, joka on muuttanut "nörtti"-harrastuksensa ammatiksi. Olen käyttänyt yli 10 vuotta elämästäni uusinta teknologiaa käyttäen ja kaikenlaisten ohjelmien parissa puhtaasta uteliaisuudesta. Nyt olen erikoistunut tietotekniikkaan ja videopeleihin. Tämä johtuu siitä, että yli 5 vuoden ajan olen työskennellyt kirjoittaen useille teknologiaa ja videopelejä käsitteleville verkkosivustoille ja luonut artikkeleita, jotka pyrkivät antamaan sinulle tarvitsemaasi tietoa kielellä, jota kaikki ymmärtävät.
Jos sinulla on kysyttävää, tietoni ulottuu kaikesta Windows-käyttöjärjestelmään liittyvästä sekä matkapuhelimien Androidista. Ja sitoumukseni on sinulle, olen aina valmis käyttämään muutaman minuutin ja auttamaan sinua ratkaisemaan kaikki kysymyksesi, joita sinulla saattaa olla tässä Internet-maailmassa.