- Az SB 243 előírja a chatbotok számára, hogy azonosítsák magukat, és rendszeres emlékeztetőket küldjenek, kiskorúak esetében pedig háromóránként értesítéseket.
- A kiskorúakkal folytatott szexualitásról és önkárosításról szóló beszélgetések korlátozottak, és krízisprotokollokat lépnek életbe.
- A platformoknak jelenteniük kell az öngyilkossági gondolatok jeleit az állami Öngyilkosság-megelőzési Hivatalnak.
- A csomag további kaliforniai mesterséges intelligencia szabályozásokat is tartalmaz a kockázatokkal, a deepfake-ekkel és a felelősséggel kapcsolatban.
Kalifornia döntő lépést tett a mesterséges intelligencia felügyelete terén. egy olyan szabállyal, amely az úgynevezett „társ chatbotokra” összpontosít, azokra, amelyek barátságot vagy intimitást szimulálnak. Gavin Newsom kormányzó aláírta az SB 243-at, egy olyan törvény, amely előírja, hogy ezek az eszközök automatizált rendszerként azonosítsák magukat, és meghatározott óvintézkedéseket alkalmazzanak, amikor interakcióba lépnek a kiskorú felhasználók.
A Steve Padilla állami szenátor által támogatott intézkedés kevésbé a műszaki architektúrára, és inkább a érzelmi interfész emberek és gépek közöttA végleges változat, amely az iparági nyomásra korlátozottabb lett, továbbra is fenntartja a legfontosabb kötelezettségeket: Rendszeres emlékeztetők arról, hogy egy mesterséges intelligenciával beszélsz, korosztálynak megfelelő tartalomszűrők és válaszprotokollok önkárosítás vagy öngyilkosság jelei.
Pontosan mit ír elő az SB 243?
A szabvány lényege, hogy a chatbotoknak egyértelműen és ismételten figyelmeztessék őket arra, hogy AI szoftverKiskorú felhasználók számára a rendszernek legalább háromóránként emlékeztetőt kell megjelenítenie, látható és érthető módon, hogy elkerülje a félreértéseket az interakció nem emberi jellegével kapcsolatban.
Ezenkívül az üzemeltetőknek végre kell hajtaniuk tartalomszűrők és korhatárokA kiskorúakkal folytatott beszélgetésekből kizárják a nyílt szexualitást és minden olyan interakciót, amely normalizálja vagy ösztönzi az önkárosítást. Ezeket az akadályokat krízisszolgálatokhoz való beutalások egészítik ki, amikor ilyen eseteket észlelnek. kockázati mutatók.
La A törvény előírja a platformok számára a korai észlelési és reagálási protokollok kidolgozását., valamint az öngyilkossági gondolatokkal kapcsolatos esetekről szóló jelentések, amelyeket a Öngyilkosság-megelőzési Hivatal KaliforniábólEz a program célja az egészségügyi hatóságokkal való koordináció megerősítése és az eszközök mentális egészségre gyakorolt hatásának mérése.
Ezen biztosítékok fenntartása érdekében, A vállalatoknak ésszerű életkor-ellenőrzési mechanizmusokat kell bevezetniük az állam lakosainak szánt szolgáltatásaikban.A követelmény a Kaliforniában működő, kísérő chatbotokat kínáló közösségi hálózatokra, weboldalakra és alkalmazásokra vonatkozik, beleértve a játékplatformokat vagy a decentralizált lehetőségeket.
Az SB 243 végleges változatából kimaradtak a harmadik fél általi auditok és egy minden felhasználó (nem csak a kiskorúak) számára elérhető alkalmazás, amelyeket a korábbi tervezetek előirányoztak. E csökkentés ellenére Newsom megvédte a törvényjavaslatot, mint egy... védelmi gát megelőzhető károk ellen, a hatálybalépés tervezett időpontja 2026 januárja.
Szélesebb körű mesterséges intelligencia törvénycsomag az államban
Az SB 243 más, nemrégiben elfogadott kezdeményezésekkel együtt érkezik, mint például az SB 53, amely előírja a nagy mesterséges intelligencia fejlesztők számára, hogy nyilvánosan hozzák nyilvánosságra mesterséges intelligencia stratégiáikat. biztonság és kockázatcsökkentésA cél a már nagyszabású társadalmi hatással bíró fejlett modellek átláthatóságának javítása.
Ezzel párhuzamosan intézkedéseket támogattak annak megakadályozására, hogy a vállalatok kibújjanak a felelősség alól azzal az állítással, hogy a technológia... „önállóan cselekszik”A nem beleegyezésen alapuló szexuális deepfake-ek büntetéseit is szigorították, jelentősen megnövelve a bírságokat, ha kiskorú áldozatokat érintenek.
A csomag korlátozásokat is tartalmaz a chatbotok megszemélyesítésének megakadályozására. professionales sanitarios vagy tekintélyszemélyek, ami félrevezetheti a sebezhető felhasználókat. Ezekkel a darabokkal Sacramento egy olyan állami keretet vázol fel, amely megpróbál egyensúlyt teremteni az innováció, a jogok és a közbiztonság.
Támogatás, kritika és kétségek a hatókörével kapcsolatban
A szabványt úttörő jellegéért dicsérték, ugyanakkor bírálták is a hiányosságai miatt. Olyan szervezetek, mint Common Sense Media és a Tech Oversight Project visszavonta támogatását, miután megszüntette a külső auditokat, és azok hatókörét a kiskorúakra korlátozta, ami – óva intésük szerint – elégtelen gesztussá teheti a törvényt a jelenlegi kockázatokkal szemben.
A másik végletben a fejlesztők és a szakértők arra figyelmeztetnek, hogy a aránytalan felelősség „óvintézkedési blokkokhoz” vezethet: olyan szigorú szűrőkhöz, amelyek elhallgattatják a mentális egészséggel vagy a szexuális neveléssel kapcsolatos jogos beszélgetéseket, megfosztva az online segítséget kereső tinédzsereket a létfontosságú támogatástól.
Erős politikai és gazdasági nyomás nehezedik ránk: Technológiai csoportok és ipari koalíciók milliókat költöttek lobbizásra az ülésszak alatt, hogy mérsékeljék a legnehezebb szövegeket.Ezzel egyidejűleg az államügyészség és a FTC vizsgálatot indítottak a kiskorúakat célzó chatbot-gyakorlatokkal kapcsolatban egy olyan környezetben, ahol polgári perek és az érintett családok panaszai.
Legutóbbi esetek és perek ellene olyan platformok, mint a Character.AI vagy az OpenAI, fokozták a nyilvános vitátA vádak után A nagy szereplők, mint például a Meta és az OpenAI, változásokat jelentettek be.A tinédzserekkel folytatott nem megfelelő beszélgetések blokkolása és speciális forrásokhoz való irányítás, valamint új szülői felügyeleti funkciók.
Végrehajtási kihívások és előre látható hatások
A megvalósítás működési kihívásokat jelent. A globális platformoknak pontosan meg kell határozniuk, hogy kik kiskorú lakos Kaliforniában és több millió napi interakciót figyelhetnek meg anélkül, hogy megsértenék a magánéletet, ami technikailag és jogilag is bonyolult.
További kihívást jelent majd a túlzott cenzúra „szivárgó hatásának” elkerülése: ha a vállalatok szankcióktól tartanak, kivonhatják a piacot. hasznos tartalom az érzelmi jóllét puszta óvatosságból. A védelem és a megbízható információkhoz való hozzáférés közötti egyensúly megtalálása kulcsfontosságú lesz a szabályozás sikerességének értékeléséhez.
A nemzeti hatás kérdése továbbra is fennáll: ahogy más korai kaliforniai szabályozásokkal is történt, a követelményei de facto válhatnak estándar az Egyesült Államok-szerte működő üzemeltetők számára, még mielőtt szilárd bizonyítékok álltak volna rendelkezésre a hatékonyságról.
Bár a végleges szöveg szűkebb körű, mint a kezdeti javaslatok, a Az SB 243 példátlan szabályokat határoz meg a „társ chatbotok” számáraegyértelmű figyelmeztetések, életkori szűrések és krízisprotokollok intézményi jelentéstétellel. Ha Ön minimális akadályok Ha sikerül megvédeniük a kiskorúakat a jogos támogatások elfojtása nélkül, Kalifornia egy olyan középutat fog kitaposni, amelyet más államok is követhetnek.
Technológia-rajongó vagyok, aki "geek" érdeklődését szakmává változtatta. Életemből több mint 10 évet töltöttem a legmodernebb technológiával, és pusztán kíváncsiságból mindenféle programmal bütykölgettem. Most a számítástechnikára és a videojátékokra szakosodtam. Ennek az az oka, hogy több mint 5 éve írok különféle technológiával és videojátékokkal foglalkozó weboldalakra, olyan cikkeket készítve, amelyek mindenki számára érthető nyelven igyekeznek megadni a szükséges információkat.
Ha bármilyen kérdése van, tudásom a Windows operációs rendszerrel, valamint a mobiltelefonokhoz készült Androiddal kapcsolatos mindenre kiterjed. És az én elkötelezettségem az Ön iránti elkötelezettségem, mindig készen állok néhány percet rászánni arra, hogy segítsek megoldani minden kérdését ebben az internetes világban.