- Паводле закона SB 243, чат-боты павінны ідэнтыфікаваць сябе і перыядычна нагадваць, а непаўналетнім — адпраўляць апавяшчэнні кожныя тры гадзіны.
- Размовы пра сэксуальнасць і самапашкоджанне з непаўналетнімі абмежаваныя, і задзейнічаны крызісныя пратаколы.
- Платформы павінны паведамляць пра прыкметы суіцыдальных думак у дзяржаўнае бюро па прафілактыцы самагубстваў.
- Пакет уключае іншыя каліфарнійскія правілы штучнага інтэлекту адносна рызык, глыбокіх фэйкаў і адказнасці.
Каліфорнія зрабіла рашучы крок у кантролі за штучным інтэлектам. з правілам, якое сканцэнтравана на так званых «кампаньённых чат-ботах», тых, што імітуюць сяброўства або блізкасць. Губернатар Гэвін Ньюсам падпісаў закон SB 243, закон, які патрабуе ад гэтых інструментаў ідэнтыфікаваць сябе як аўтаматызаваныя сістэмы і прымаць спецыяльныя меры бяспекі пры ўзаемадзеянні з непаўналетнія карыстальнікі.
Гэтая мера, прапанаваная сенатарам штата Стывам Падыльяй, менш сканцэнтравана на тэхнічнай архітэктуры і больш на эмацыйны інтэрфейс паміж людзьмі і машынаміКанчатковая версія, якая стала больш абмежаванай пад ціскам з боку галіны, захоўвае ключавыя абавязацельствы: Рэгулярныя напаміны пра тое, што вы размаўляеце са штучным інтэлектам, фільтры кантэнту, адпаведныя ўзросту, і пратаколы рэагавання прыкметы самапашкоджання або самагубства.
Што менавіта патрабуе SB 243?
Аснова стандарту патрабуе ад чат-ботаў выразна і неаднаразова папярэджваць аб тым, што яны Праграмнае забеспячэнне штучнага інтэлектуДля непаўналетніх карыстальнікаў сістэма павінна паказваць напамін не радзей за кожныя тры гадзіны ў бачнай і зразумелай форме, каб пазбегнуць блытаніны з нагоды нечалавечага характару ўзаемадзеяння.
Акрамя таго, аператары павінны ўкараняць фільтры кантэнту і ўзроставыя абмежаванніЗ размоў з непаўналетнімі выключаюцца сцэны адкрытай сэксуальнасці і любыя ўзаемадзеяння, якія нармалізуюць або заахвочваюць да самапашкоджання. Гэтыя бар'еры дапаўняюцца накіраваннямі ў крызісныя службы пры іх выяўленні. паказчыкі рызыкі.
La Закон патрабуе ад платформаў усталяваць пратаколы ранняга выяўлення і рэагавання., а таксама паведамленні аб выпадках суіцыдальных думак, выяўленых у Офіс па прадухіленні самагубстваў З КаліфорнііГэта накіравана на ўмацаванне каардынацыі з органамі аховы здароўя і ўключэнне паказчыкаў уплыву гэтых інструментаў на псіхічнае здароўе.
Каб падтрымліваць гэтыя меры бяспекі, Кампаніі павінны ўкараняць механізмы праверкі разумнага ўзросту ў сваіх паслугах, накіраваных на жыхароў штата.Патрабаванне распаўсюджваецца на сацыяльныя сеткі, вэб-сайты і праграмы, якія прапануюць чат-ботаў-кампаньёнаў, у тым ліку гульнявыя платформы або дэцэнтралізаваныя варыянты, якія працуюць у Каліфорніі.
У канчатковай версіі законапраекта SB 243 не былі прадугледжаны аўдыт трэціх асоб і праграма для ўсіх карыстальнікаў (не толькі для непаўналетніх), якія прадугледжваліся ў папярэдніх праектах. Нягледзячы на гэтае скарачэнне, Ньюсам абараняў законапраект як ахоўная дамба ад прадухіляльнай шкоды, з уступленнем у сілу ў студзені 2026 года.
Шырэйшы пакет законаў аб штучным інтэлекце ў штаце
SB 243 прыняты разам з іншымі нядаўна прынятымі ініцыятывамі, такімі як SB 53, які патрабуе ад буйных распрацоўшчыкаў штучнага інтэлекту публічна раскрываць свае стратэгіі ў галіне штучнага інтэлекту. бяспека і зніжэнне рызыкМэта складаецца ў тым, каб палепшыць празрыстасць перадавых мадэляў, якія ўжо маюць маштабны сацыяльны ўплыў.
Паралельна былі прыняты меры, каб перашкодзіць кампаніям ухіляцца ад адказнасці, сцвярджаючы, што тэхналогіі «Дзейнічае аўтаномна»Таксама былі ўзмацнены пакаранні за несанкцыянаваныя сэксуальныя дыпфэйкі, значна павялічыўшы штрафы, калі яны закранаюць непаўналетніх ахвяр.
Пакет таксама ўключае абмежаванні, якія прадухіляюць выдаванне сябе за іншых чат-ботаў. медыцынскія работнікі ці аўтарытэтных асоб, тактыка, якая можа ўвесці ў зман уразлівых карыстальнікаў. У гэтых артыкулах Сакрамэнта акрэслівае дзяржаўную структуру, якая спрабуе збалансаваць інавацыі, правы і грамадская бяспека.
Падтрымка, крытыка і сумневы адносна яго маштабу
Стандарт атрымаў высокую ацэнку за рэвалюцыю, але ў той жа час крытыку за недахопы. Такія арганізацыі, як Common Sense Media і праект па наглядзе за тэхналогіямі адклікаў сваю падтрымку пасля таго, як адмяніў знешнія аўдыты і абмежаваў іх сферу дзеяння непаўналетнімі, што, як яны папярэджваюць, можа зрабіць закон недастатковым жэстам перад абліччам існуючых рызык.
З іншага боку, распрацоўшчыкі і эксперты папярэджваюць, што непрапарцыйная адказнасць можа прывесці да «мер засцярогі»: фільтраў, настолькі строгіх, што яны замоўчваюць рэальныя размовы пра псіхічнае здароўе або сэксуальную адукацыю, пазбаўляючы падлеткаў, якія звяртаюцца па дапамогу ў Інтэрнэце, найважнейшай падтрымкі.
Палітычны і эканамічны ціск быў моцным: Тэхналагічныя групы і галіновыя кааліцыі ўклалі мільёны ў лабіраванне падчас сесіі, каб мадэраваць самыя складаныя тэксты.Адначасова, дзяржаўная пракуратура і Федэральная гандлёвая камісія выклікалі пільную ўвагу да практыкі чат-ботаў, накіраванай на непаўналетніх, у асяроддзі грамадзянскія пазовы і скаргі ад пацярпелых сем'яў.
Нядаўнія справы і пазовы супраць Такія платформы, як Character.AI або OpenAI, абвастрылі грамадскія дэбаты.Пасля абвінавачванняў, Такія буйныя гульцы, як Meta і OpenAI, абвясцілі пра зменыБлакіроўка непрымальных размоў з падлеткамі і накіраванне на спецыялізаваныя рэсурсы, а таксама новыя сродкі бацькоўскага кантролю.
Праблемы з рэалізацыяй і прадказальныя наступствы
Запуск стварае аперацыйныя праблемы. Глабальным платформам давядзецца дакладна вызначаць, хто непаўналетні жыхар Каліфорніі і кантраляваць мільёны штодзённых узаемадзеянняў, не парушаючы прыватнасць, што з'яўляецца тэхнічна і юрыдычна складанай справай.
Яшчэ адной праблемай будзе пазбегнуць «эфекту прасочвання» ў бок празмернай цэнзуры: калі кампаніі баяцца санкцый, яны могуць зняць свае прапановы. карысны кантэнт эмацыйны дабрабыт з чыстай разважлівасці. Пошук балансу паміж абаронай і доступам да надзейнай інфармацыі будзе ключом да ацэнкі поспеху рэгулявання.
Застаецца пытанне аб уплыве на нацыянальным узроўні: як гэта здарылася з іншымі раннімі правіламі Каліфорніі, іх патрабаванні могуць стаць фактычна дзейснымі. стандартны для аператараў па ўсіх ЗША, нават да таго, як з'явіліся пераканаўчыя доказы эфектыўнасці.
Нягледзячы на тое, што канчатковы тэкст больш вузкі, чым першапачатковыя прапановы, SB 243 усталёўвае беспрэцэдэнтныя правілы для «кампаньённых чат-ботаў»: выразныя папярэджанні, узроставыя фільтры і крызісныя пратаколы з інстытуцыйнай справаздачнасцю. Калі вы мінімальныя бар'еры Калі ім удасца абараніць непаўналетніх, не перашкаджаючы законнай падтрымцы, Каліфорнія пракладзе залатую сярэдзіну, якой змогуць пайсці іншыя штаты.
Я энтузіяст тэхналогій, які ператварыў свае інтарэсы "гікаў" у прафесію. Я правёў больш за 10 гадоў свайго жыцця, выкарыстоўваючы перадавыя тэхналогіі і важдаючыся з рознымі праграмамі з чыстай цікаўнасці. Цяпер я спецыялізаваўся на камп'ютарных тэхналогіях і відэагульнях. Гэта таму, што больш за 5 гадоў я працаваў для розных вэб-сайтаў, прысвечаных тэхналогіям і відэагульням, ствараючы артыкулы, якія імкнуцца даць вам неабходную інфармацыю на мове, зразумелай кожнаму.
Калі ў вас ёсць якія-небудзь пытанні, я ведаю ўсё, што звязана з аперацыйнай сістэмай Windows і Android для мабільных тэлефонаў. І я перад вамі абавязаны: я заўсёды гатовы выдаткаваць некалькі хвілін і дапамагчы вам вырашыць любыя пытанні, якія могуць узнікнуць у гэтым свеце Інтэрнэту.