Kalifornia miraton SB 243 për të rregulluar chatbot-et e inteligjencës artificiale dhe për të mbrojtur të miturit

Kalifornia ka ndërmarrë një hap vendimtar në mbikëqyrjen e inteligjencës artificiale. me një rregull që përqendrohet në të ashtuquajturit "chatbot shoqërues", ata që simulojnë miqësinë ose intimitetin. Guvernatori Gavin Newsom nënshkroi SB 243, një ligj që kërkon që këto mjete të identifikohen si sisteme të automatizuara dhe të miratojnë masa mbrojtëse specifike kur bashkëveprojnë me përdorues të vegjël.

Masa, e sponsorizuar nga Senatori i Shtetit Steve Padilla, përqendrohet më pak në arkitekturën teknike dhe më shumë në ndërfaqja emocionale midis njerëzve dhe makinaveVersioni përfundimtar, i cili ishte më i kufizuar pas presionit nga industria, ruan detyrimet kryesore: Kujtesa të rregullta se po flisni me një inteligjencë artificiale, filtra përmbajtjeje të përshtatshme për moshën dhe protokolle përgjigjeje shenja të vetëlëndimit ose vetëvrasjes.

Çfarë kërkon saktësisht SB 243?

Thelbi i standardit kërkon që chatbot-et të paralajmërojnë qartë dhe në mënyrë të përsëritur se janë... Softueri i AIPër përdoruesit e mitur, sistemi duhet të shfaqë një kujtesë të paktën çdo tre orë, në një mënyrë të dukshme dhe të kuptueshme për të shmangur konfuzionin në lidhje me natyrën jo-njerëzore të ndërveprimit.

Përveç kësaj, operatorët duhet të zbatojnë filtrat e përmbajtjes dhe kufijtë e moshësSeksualiteti i hapur dhe çdo bashkëveprim që normalizon ose inkurajon vetëlëndimin përjashtohen nga bisedat me të miturit. Këto pengesa plotësohen nga referimet në shërbimet e krizave kur ato zbulohen. treguesit e rrezikut.

La Ligji kërkon që platformat të krijojnë protokolle të zbulimit dhe reagimit të hershëm., si dhe raportet e rasteve të ideve vetëvrasëse të identifikuara në Zyra e Parandalimit të Vetëvrasjeve Të KalifornisëKjo synon të forcojë koordinimin me autoritetet shëndetësore dhe të përfshijë metrika mbi ndikimin e këtyre mjeteve në shëndetin mendor.

Për të ruajtur këto mbrojtje, Kompanitë duhet të zbatojnë mekanizma të arsyeshëm të verifikimit të moshës në shërbimet e tyre që synojnë banorët e shtetit.Kërkesa vlen për rrjetet sociale, faqet e internetit dhe aplikacionet që ofrojnë chatbot shoqërues, duke përfshirë platformat e lojërave ose opsionet e decentralizuara që operojnë në Kaliforni.

Versioni përfundimtar i SB 243 la jashtë auditimet nga palët e treta dhe një aplikacion për të gjithë përdoruesit (jo vetëm të miturit) që ishin parashikuar në draftet e mëparshme. Pavarësisht këtij shkurtimi, Newsom e mbrojti projektligjin si një digë përmbyllëse kundër dëmeve të parandalueshme, me hyrjen në fuqi të planifikuar për janar 2026.

Një paketë më e gjerë ligjesh për inteligjencën artificiale në shtet

SB 243 vjen së bashku me nisma të tjera të miratuara së fundmi, të tilla si SB 53, e cila kërkon që zhvilluesit e mëdhenj të IA-së të zbulojnë publikisht strategjitë e tyre të IA-së. siguria dhe zbutja e rrezikutQëllimi është të përmirësohet transparenca e modeleve të përparuara që tashmë kanë ndikim shoqëror në shkallë të gjerë.

Paralelisht, janë promovuar masa për të parandaluar që kompanitë të shmangin përgjegjësitë duke pretenduar se teknologjia “vepron në mënyrë autonome”Dënimet për deepfake-et seksuale pa pëlqim janë shtrënguar gjithashtu, duke rritur ndjeshëm gjobat kur ato prekin viktima të mitura.

Paketa përfshin gjithashtu kufizime për të parandaluar që chatbot-et të imitojnë personin. profesionistët e shëndetësisë ose figura autoriteti, një taktikë që mund të mashtrojë përdoruesit e cenueshëm. Me këto shkrime, Sacramento përshkruan një kornizë shtetërore që përpiqet të balancojë inovacionin, të drejtat dhe sigurinë publike.

Mbështetje, kritika dhe dyshime rreth fushëveprimit të saj

Standardi është vlerësuar si inovativ, ndërsa në të njëjtën kohë është kritikuar për mungesën e tij. Organizata të tilla si Media e përbashkët dhe Projekti i Mbikëqyrjes së Teknologjisë tërhoqën mbështetjen e tyre pasi eliminuan auditimet e jashtme dhe kufizuan fushëveprimin e tyre vetëm tek të miturit, gjë që ata paralajmërojnë se mund ta bëjë ligjin një gjest të pamjaftueshëm përballë rreziqeve aktuale.

Në ekstremin tjetër, zhvilluesit dhe ekspertët paralajmërojnë se një përgjegjësi joproporcionale mund të çojë në “blloqe paraprake”: filtra aq të rreptë saqë heshtin bisedat legjitime rreth shëndetit mendor ose edukimit seksual, duke i privuar adoleshentët që kërkojnë ndihmë në internet nga mbështetja thelbësore.

Presioni politik dhe ekonomik ka qenë i fortë: Grupet e teknologjisë dhe koalicionet e industrisë shpenzuan miliona duke lobuar gjatë seancës për të moderuar tekstet më të vështira.Në të njëjtën kohë, zyra e prokurorit të shtetit dhe FTC kanë shkaktuar shqyrtim të praktikave të chatbot-eve që synojnë të miturit, në një mjedis padi civile dhe ankesa nga familjet e prekura.

Rastet dhe paditë e fundit kundër platforma si Character.AI ose OpenAI kanë përshkallëzuar debatin publikPas akuzave, Lojtarë të mëdhenj si Meta dhe OpenAI njoftuan ndryshimeBllokimi i bisedave të papërshtatshme me adoleshentët dhe referimet në burime të specializuara, plus kontrolle të reja prindërore.

Sfidat e zbatimit dhe efektet e parashikueshme

Lansimi paraqet sfida operacionale. Platformat globale do të duhet të përcaktojnë me saktësi se kush është banor i mitur në Kaliforni dhe të monitorojnë miliona ndërveprime të përditshme pa shkelur privatësinë, diçka që është teknikisht dhe ligjërisht komplekse.

Një sfidë tjetër do të jetë shmangia e "efektit të rrjedhjes" drejt censurës së tepërt: nëse kompanitë kanë frikë nga sanksionet, ato mund të tërhiqen. përmbajtje të dobishme mirëqenie emocionale nga kujdesi i pastër. Gjetja e ekuilibrit midis mbrojtjes dhe aksesit në informacion të besueshëm do të jetë çelësi për vlerësimin e suksesit të rregullores.

Çështja e ndikimit kombëtar mbetet gjithashtu: siç ka ndodhur me rregulloret e tjera të hershme të Kalifornisë, kërkesat e saj mund të bëhen de facto. standard për operatorët në të gjithë SHBA-në, edhe para se të ishin në dispozicion prova të forta të efikasitetit.

Edhe pse teksti përfundimtar është më i ngushtë se propozimet fillestare, SB 243 vendos rregulla të paprecedentë për "chatbot-et shoqërues": paralajmërime të qarta, filtra moshe dhe protokolle krizash me raportim institucional. Nëse jeni barriera minimale Nëse ata arrijnë të mbrojnë të miturit pa penguar mbështetjen legjitime, Kalifornia do të ketë hapur një rrugë të mesme që shtetet e tjera mund ta ndjekin.

Artikulli i lidhur:

OpenAI do të shtojë kontrolle prindërore në ChatGPT me llogari familjare, paralajmërime për rrezikun dhe kufizime përdorimi.

Alberto navarro

Unë jam një entuziast i teknologjisë që i kam kthyer në profesion interesat e tij "geek". Kam shpenzuar më shumë se 10 vjet të jetës sime duke përdorur teknologjinë më të fundit dhe duke punuar me të gjitha llojet e programeve nga kurioziteti i pastër. Tani jam specializuar në teknologjinë kompjuterike dhe videolojërat. Kjo sepse prej më shumë se 5 vitesh shkruaj për faqe të ndryshme interneti mbi teknologjinë dhe videolojërat, duke krijuar artikuj që kërkojnë t'ju japin informacionin që ju nevojitet në një gjuhë të kuptueshme nga të gjithë.

Nëse keni ndonjë pyetje, njohuritë e mia variojnë nga gjithçka që lidhet me sistemin operativ Windows si dhe Android për telefonat celularë. Dhe angazhimi im është për ju, unë jam gjithmonë i gatshëm të kaloj disa minuta dhe t'ju ndihmoj të zgjidhni çdo pyetje që mund të keni në këtë botë të internetit.