- SB 243 impune chatbot-urilor să se identifice și să ofere mementouri periodice, cu notificări la fiecare trei ore pentru minori.
- Discuțiile despre sexualitate și autovătămare cu minorii sunt restricționate, iar protocoalele de criză sunt activate.
- Platformele trebuie să raporteze semnele de ideație suicidară către Biroul de Prevenire a Suicidului din stat.
- Pachetul include alte reglementări californiene privind inteligența artificială privind riscul, deepfake-urile și răspunderea.
California a făcut un pas decisiv în supravegherea inteligenței artificiale. cu o regulă care se concentrează pe așa-numiții „chatboți însoțitori”, cei care simulează prietenia sau intimitatea. Guvernatorul Gavin Newsom a semnat proiectul de lege SB 243, o lege care impune acestor instrumente să se identifice drept sisteme automate și să adopte măsuri de siguranță specifice atunci când interacționează cu utilizatori minori.
Măsura, sponsorizată de senatorul de stat Steve Padilla, se concentrează mai puțin pe arhitectura tehnică și mai mult pe interfața emoțională dintre oameni și mașiniVersiunea finală, care a fost mai limitată în urma presiunilor din partea industriei, menține obligații cheie: Mementouri regulate că vorbești cu o inteligență artificială, filtre de conținut adecvate vârstei și protocoale de răspuns semne de autovătămare sau suicid.
Ce prevede mai exact SB 243?
Nucleul standardului impune ca chatboții să avertizeze clar și în mod repetat că sunt Software AIPentru utilizatorii minori, sistemul trebuie să afișeze o reamintire cel puțin la fiecare trei ore, într-un mod vizibil și ușor de înțeles, pentru a evita confuzia cu privire la natura non-umană a interacțiunii.
În plus, operatorii trebuie să implementeze filtre de conținut și limite de vârstăSexualitatea explicită și orice interacțiune care normalizează sau încurajează autovătămarea sunt excluse din conversațiile cu minorii. Aceste bariere sunt completate de trimiteri către serviciile de criză atunci când sunt detectate. indicatori de risc.
La Legea impune platformelor să stabilească protocoale de detectare timpurie și de răspuns., precum și rapoarte de cazuri de ideație suicidară identificate la Biroul de Prevenire a Suicidului Din CaliforniaAcest lucru vizează consolidarea coordonării cu autoritățile sanitare și încorporarea unor indicatori privind impactul acestor instrumente asupra sănătății mintale.
Pentru a menține aceste garanții, Companiile trebuie să implementeze mecanisme rezonabile de verificare a vârstei în serviciile lor destinate rezidenților statului.Cerința se aplică rețelelor sociale, site-urilor web și aplicațiilor care oferă chatbot-uri însoțitoare, inclusiv platformelor de jocuri sau opțiunilor descentralizate care operează în California.
Versiunea finală a proiectului de lege SB 243 a omis auditurile terților și o aplicație pentru toți utilizatorii (nu doar minorii), aspecte care au fost prevăzute în versiunile anterioare. În ciuda acestei reduceri, Newsom a apărat proiectul de lege ca fiind... baraj de retenție împotriva daunelor care pot fi prevenite, intrarea în vigoare fiind planificată pentru ianuarie 2026.
Un pachet mai amplu de legi privind inteligența artificială în stat
SB 243 vine alături de alte inițiative adoptate recent, cum ar fi SB 53, care impune marilor dezvoltatori de inteligență artificială să își dezvăluie public strategiile de inteligență artificială. securitate și atenuare a riscurilorScopul este de a îmbunătăți transparența modelelor avansate care au deja un impact social la scară largă.
În paralel, au fost promovate măsuri pentru a împiedica companiile să se sustragă de la responsabilități susținând că tehnologia „acționează autonom”Pedepsele pentru deepfake-urile sexuale fără consimțământ au fost, de asemenea, înăsprite, amenzile crescând semnificativ atunci când acestea afectează victime minore.
Pachetul include, de asemenea, restricții pentru a împiedica chatboții să se dea drept specialiști în sănătate sau figuri autoritare, o tactică ce poate induce în eroare utilizatorii vulnerabili. Cu aceste articole, Sacramento prezintă un cadru statal care încearcă să echilibreze inovația, drepturile și siguranță publică.
Sprijin, critici și îndoieli cu privire la domeniul său de aplicare
Standardul a fost lăudat pentru că este inovator, dar, în același timp, criticat pentru că nu a fost la îndemână. Organizații precum Common Sense Media iar Proiectul de Supraveghere Tehnologică și-a retras sprijinul după eliminarea auditurilor externe și limitarea domeniului de aplicare al acestora la minori, avertizând că ar putea face din lege un gest insuficient în fața riscurilor actuale.
La cealaltă extremă, dezvoltatorii și experții avertizează că o responsabilitate disproporționată ar putea duce la „blocări de precauție”: filtre atât de stricte încât reduc la tăcere conversațiile legitime despre sănătatea mintală sau educația sexuală, privându-i pe adolescenții care caută ajutor online de un sprijin esențial.
Presiunea politică și economică a fost intensă: Grupurile tehnologice și coalițiile industriale au cheltuit milioane de dolari pentru a face lobby în timpul sesiunii pentru a modera cele mai dificile texte.În același timp, parchetul și FTC au declanșat o analiză a practicilor chatbot care vizează minorii, într-un mediu de procese civile și reclamații din partea familiilor afectate.
Cazuri și procese recente împotriva Platforme precum Character.AI sau OpenAI au escaladat dezbaterea publicăDupă acuzații, Jucători majori precum Meta și OpenAI au anunțat schimbăriBlocarea conversațiilor nepotrivite cu adolescenții și trimiterea către resurse specializate, plus noi controale parentale.
Provocări în implementare și efecte previzibile
Lansarea prezintă provocări operaționale. Platformele globale vor trebui să determine cu exactitate cine este rezident minor în California și să monitorizeze milioane de interacțiuni zilnice fără a încălca confidențialitatea, lucru complex din punct de vedere tehnic și juridic.
O altă provocare va fi evitarea „efectului de picurare” către cenzura excesivă: dacă firmele se tem de sancțiuni, ar putea retrage continut util bunăstare emoțională din pură prudență. Găsirea echilibrului între protecție și accesul la informații fiabile va fi esențială pentru evaluarea succesului regulamentului.
Rămâne, de asemenea, problema impactului național: așa cum s-a întâmplat și cu alte reglementări timpurii din California, cerințele sale ar putea deveni de facto standard pentru operatorii din SUA, chiar înainte de a fi disponibile dovezi solide ale eficacității.
Deși textul final este mai restrâns decât propunerile inițiale, SB 243 stabilește reguli fără precedent pentru „chatboții însoțitori”avertismente clare, filtre de vârstă și protocoale de criză cu raportare instituțională. Dacă sunteți bariere minime Dacă reușesc să protejeze minorii fără a înăbuși sprijinurile legitime, California va fi deschis o cale de mijloc pe care alte state o pot urma.
Sunt un pasionat de tehnologie care și-a transformat interesele de „tocilar” într-o profesie. Mi-am petrecut mai bine de 10 ani din viața mea folosind tehnologie de ultimă oră și mânuind cu tot felul de programe din pură curiozitate. Acum m-am specializat în tehnologie computerizată și jocuri video. Asta pentru că de mai bine de 5 ani scriu pentru diverse site-uri web despre tehnologie și jocuri video, creând articole care urmăresc să-ți ofere informațiile de care ai nevoie într-un limbaj pe care oricine este pe înțeles.
Dacă aveți întrebări, cunoștințele mele variază de la tot ce ține de sistemul de operare Windows, precum și Android pentru telefoane mobile. Și angajamentul meu este față de tine, sunt mereu dispus să petrec câteva minute și să te ajut să rezolvi orice întrebări pe care le poți avea în această lume a internetului.