- SB 243 reikalauja, kad pokalbių robotai identifikuotų save ir periodiškai primintų, o nepilnamečiams – kas tris valandas.
- Diskusijos apie seksualumą ir savęs žalojimą su nepilnamečiais yra ribojamos, o krizių protokolai yra aktyvuojami.
- Platformos privalo pranešti apie savižudiškų minčių požymius valstijos savižudybių prevencijos biurui.
- Paketą sudaro kiti Kalifornijos dirbtinio intelekto reglamentai dėl rizikos, giliųjų klastočių ir atsakomybės.
Kalifornija žengė ryžtingą žingsnį prižiūrėdama dirbtinį intelektą. su taisykle, kuri orientuota į vadinamuosius „kompanioninius pokalbių robotus“, tuos, kurie imituoja draugystę ar intymumą. Gubernatorius Gavinas Newsomas pasirašė SB 243, įstatymas, reikalaujantis, kad šios priemonės identifikuotų save kaip automatizuotas sistemas ir, sąveikaudamos su nepilnamečiai vartotojai.
Valstybės senatoriaus Steve'o Padilla pasiūlyta priemonė mažiau dėmesio skiria techninei architektūrai, o daugiau – emocinė sąsaja tarp žmonių ir mašinųGalutinėje versijoje, kuri dėl pramonės spaudimo buvo labiau apribota, išlaikomi pagrindiniai įsipareigojimai: Reguliarūs priminimai, kad kalbate su dirbtiniu intelektu, pagal amžių tinkami turinio filtrai ir atsakymų protokolai savęs žalojimo ar savižudybės požymiai.
Ko tiksliai reikalauja SB 243?
Standarto esmė – pokalbių robotai turi aiškiai ir pakartotinai įspėti, kad jie yra AI programinė įrangaNepilnamečiams vartotojams sistema turi rodyti priminimą bent kas tris valandas, matomu ir suprantamu būdu, kad nekiltų painiavos dėl nežmogiško sąveikos pobūdžio.
Be to, operatoriai turi įdiegti turinio filtrai ir amžiaus apribojimaiAtviras seksualinis turinys ir bet kokia sąveika, kuri normalizuoja arba skatina savęs žalojimą, yra vengiami pokalbiuose su nepilnamečiais. Šias kliūtis papildo nukreipimas į krizių tarnybas, kai tokie nepilnamečiai aptinkami. rizikos rodikliai.
La Įstatymas reikalauja, kad platformos nustatytų ankstyvo aptikimo ir reagavimo protokolus., taip pat pranešimai apie savižudybės minčių atvejus, nustatytus Savižudybių prevencijos biuras KalifornijosTaip siekiama sustiprinti koordinavimą su sveikatos priežiūros institucijomis ir įtraukti šių priemonių poveikio psichinei sveikatai rodiklius.
Siekiant išlaikyti šias apsaugos priemones, Įmonės privalo įdiegti pagrįstus amžiaus patvirtinimo mechanizmus savo paslaugose, skirtose valstijos gyventojams.Šis reikalavimas taikomas socialiniams tinklams, svetainėms ir programėlėms, siūlančioms pokalbių robotus, įskaitant žaidimų platformas ar decentralizuotas parinktis, veikiančias Kalifornijoje.
Galutinėje SB 243 versijoje nebuvo numatyti trečiųjų šalių auditai ir programėlė visiems vartotojams (ne tik nepilnamečiams), kurie buvo numatyti ankstesniuose projektuose. Nepaisant šio sutrumpinimo, Newsom gynė įstatymo projektą kaip... apsauginė užtvanka nuo išvengiamos žalos, o įsigalioti planuojama 2026 m. sausio mėn.
Platesnis dirbtinio intelekto įstatymų paketas valstybėje
SB 243 pateikiama kartu su kitomis neseniai priimtomis iniciatyvomis, tokiomis kaip SB 53, pagal kurią dideli dirbtinio intelekto kūrėjai privalo viešai atskleisti savo dirbtinio intelekto strategijas. saugumas ir rizikos mažinimasTikslas – pagerinti pažangių modelių, kurie jau turi didelį socialinį poveikį, skaidrumą.
Lygiagrečiai buvo skatinamos priemonės, skirtos užkirsti kelią įmonėms išvengti atsakomybės teigdamos, kad technologijos „veikia savarankiškai“Taip pat buvo sugriežtintos bausmės už seksualinius giluminius padirbinius be sutikimo, ženkliai padidinant baudas, kai jie paveikia nepilnametes aukas.
Paketas taip pat apima apribojimus, neleidžiančius pokalbių robotams apsimesti kitais asmenimis. sveikatos specialistai arba autoritetų atstovų – taktika, galinti suklaidinti pažeidžiamus vartotojus. Šiais straipsniais Sakramentas apibrėžia valstijos sistemą, kuria bandoma subalansuoti inovacijas, teises ir seguridad pública.
Palaikymas, kritika ir abejonės dėl jo apimties
Standartas sulaukė pagyrų už novatoriškumą, tačiau tuo pačiu metu kritikos už nepakankamumą. Tokios organizacijos kaip Common Sense Media ir „Tech Oversight Project“ atšaukė savo paramą, panaikinę išorinius auditus ir apriboję jų taikymo sritį nepilnamečiams, nes, jų teigimu, dėl to įstatymas gali tapti nepakankamu gestu atsižvelgiant į dabartinę riziką.
Kita vertus, kūrėjai ir ekspertai įspėja, kad a neproporcinga atsakomybė gali lemti „atsargumo blokus“: tokius griežtus filtrus, kurie nutildo teisėtus pokalbius apie psichinę sveikatą ar lytinį švietimą, atimdami iš paauglių, ieškančių pagalbos internete, reikalingą paramą.
Politinis ir ekonominis spaudimas buvo didelis: Technologijų grupės ir pramonės koalicijos sesijos metu investavo milijonus į lobistinę veiklą, siekdamos sušvelninti sudėtingiausius tekstus.Tuo pačiu metu, valstybės prokuratūra ir... FTC sukėlė pokalbių robotų praktikos, nukreiptos į nepilnamečius, tyrimą aplinkoje, kurioje civiliniai ieškiniai ir nukentėjusių šeimų skundai.
Naujausios bylos ir ieškiniai prieš Tokios platformos kaip „Character.AI“ ar „OpenAI“ paaštrino viešas diskusijas.Po kaltinimų Pagrindiniai žaidėjai, tokie kaip „Meta“ ir „OpenAI“, paskelbė apie pokyčius: Netinkamų pokalbių su paaugliais blokavimas ir nukreipimas į specializuotus išteklius, taip pat naujos tėvų kontrolės funkcijos.
Įgyvendinimo iššūkiai ir numatomas poveikis
Paleidimas kelia operacinių iššūkių. Pasaulinės platformos turės tiksliai nustatyti, kas yra nepilnametis Kalifornijos gyventojas ir stebėti milijonus kasdienių sąveikų nepažeisdami privatumo, o tai yra techniškai ir teisiškai sudėtinga.
Kitas iššūkis bus išvengti pernelyg didelės cenzūros „lašėjimo efekto“: jei įmonės bijo sankcijų, jos galėtų pasitraukti. naudingo turinio emocinė gerovė iš gryno apdairumo. Apsaugos ir patikimos informacijos prieinamumo pusiausvyros radimas bus labai svarbus vertinant reglamento sėkmę.
Taip pat išlieka nacionalinio poveikio klausimas: kaip ir nutiko su kitais ankstyvaisiais Kalifornijos reglamentais, jo reikalavimai gali tapti de facto aktualūs. standartinis operatoriams visoje JAV, dar prieš tai, kai buvo gauti tvirti veiksmingumo įrodymai.
Nors galutinis tekstas yra siauresnis nei pradiniai pasiūlymai, SB 243 nustato precedento neturinčias taisykles „pokalbių robotams-palydovui“aiškūs įspėjimai, amžiaus filtrai ir krizių protokolai su institucinėmis ataskaitomis. Jei esate minimalios kliūtys Jei jiems pavyks apsaugoti nepilnamečius neužgniaužiant teisėtos paramos, Kalifornija bus nutiesusi aukso vidurį, kuriuo galės sekti kitos valstijos.
Esu technologijų entuziastas, savo „geek“ pomėgius pavertęs profesija. Daugiau nei 10 savo gyvenimo metų praleidau naudodamas pažangiausias technologijas ir iš gryno smalsumo kūriau visas programas. Dabar aš specializuojasi kompiuterinėse technologijose ir vaizdo žaidimuose. Taip yra todėl, kad daugiau nei 5 metus rašau įvairioms interneto svetainėms apie technologijas ir vaizdo žaidimus, kurdamas straipsnius, kuriuose noriu pateikti jums reikalingą informaciją visiems suprantama kalba.
Jei turite klausimų, mano žinios svyruoja nuo visko, kas susiję su Windows operacine sistema, taip pat su Android mobiliesiems telefonams. Ir aš įsipareigoju jums, aš visada pasiruošęs skirti kelias minutes ir padėti jums išspręsti visus klausimus, kurie jums gali kilti šiame interneto pasaulyje.