- SB 243 захтева од четботова да се идентификују и да пружају периодичне подсетнике, са обавештењима свака три сата за малолетнике.
- Разговори о сексуалности и самоповређивању са малолетницима су ограничени, а активирају се и кризни протоколи.
- Платформе морају пријавити знаке суицидалних идеја државној Канцеларији за превенцију самоубистава.
- Пакет укључује и друге калифорнијске прописе о вештачкој интелигенцији о ризику, дипфејковима и одговорности.
Калифорнија је предузела одлучан корак у надзору вештачке интелигенције. са правилом које се фокусира на такозване „пратиоце четботове“, оне који симулирају пријатељство или интимност. Гувернер Гевин Њусом потписао је закон SB 243, закон који захтева да се ови алати идентификују као аутоматизовани системи и усвоје посебне мере заштите приликом интеракције са малолетни корисници.
Мера, коју је спонзорисао државни сенатор Стив Падиља, мање се фокусира на техничку архитектуру, а више на емоционални интерфејс између људи и машинаКоначна верзија, која је била ограниченија након притиска индустрије, задржава кључне обавезе: Редовни подсетници да разговарате са вештачком интелигенцијом, филтери садржаја прилагођени узрасту и протоколи за одговоре знаци самоповређивања или самоубиства.
Шта тачно захтева SB 243?
Суштина стандарда захтева од чет-ботова да јасно и више пута упозоравају да су АИ софтверЗа малолетне кориснике, систем мора да приказује подсетник најмање свака три сата, на видљив и разумљив начин како би се избегла забуна око нељудске природе интеракције.
Поред тога, оператери морају да имплементирају филтери садржаја и старосна ограничењаЕксплицитна сексуалност и свака интеракција која нормализује или подстиче самоповређивање искључене су из разговора са малолетницима. Ове препреке су допуњене упућивањем на кризне службе када се открију. индикатори ризика.
La Закон захтева од платформи да успоставе протоколе за рано откривање и реаговање., као и извештаји о случајевима самоубилачких идеја идентификованих на Канцеларија за превенцију самоубистава КалифорнијеОвим се настоји ојачати координација са здравственим властима и укључити метрике о утицају ових алата на ментално здравље.
Да би се одржале ове мере заштите, Компаније морају да имплементирају механизме за проверу разумне старости у својим услугама намењеним становницима државе.Захтев се односи на друштвене мреже, веб странице и апликације које нуде пратеће четботове, укључујући платформе за игре или децентрализоване опције које послују у Калифорнији.
Коначна верзија закона SB 243 изоставила је ревизије трећих страна и апликацију за све кориснике (не само малолетнике) које су биле предвиђене у ранијим нацртима. Упркос овом смањењу, Њусом је бранио закон као заштитне бране против штете која се може спречити, са ступањем на снагу планираним за јануар 2026. године.
Шири пакет закона о вештачкој интелигенцији у држави
SB 243 долази уз друге недавно усвојене иницијативе, као што је SB 53, који захтева од великих програмера вештачке интелигенције да јавно открију своје стратегије за вештачку интелигенцију. безбедност и смањење ризикаЦиљ је побољшање транспарентности напредних модела који већ имају велики друштвени утицај.
Паралелно са тим, промовисане су мере како би се спречило да компаније избегавају одговорности тврдећи да технологија „Делује аутономно“Казне за дипфејкове сексуалног садржаја без пристанка су такође пооштрене, значајно повећавајући новчане казне када погађају малолетне жртве.
Пакет такође укључује ограничења која спречавају лажно представљање четботова. професионалес санитариос или ауторитетне фигуре, тактика која може да обмане рањиве кориснике. Овим делима, Сакраменто описује државни оквир који покушава да уравнотежи иновације, права и јавна безбедност.
Подршка, критике и сумње у вези са његовим дометом
Стандард је добио похвале због своје револуционарности, али је истовремено добио критике због недостатка. Организације као што су Здрав разум Медији и Пројекат за технолошки надзор повукао је своју подршку након што је укинуо екстерне ревизије и ограничио њихов обим на малолетнике, што би, како упозоравају, могло учинити закон недовољним гестом у условима тренутних ризика.
На другој крајности, програмери и стручњаци упозоравају да несразмерна одговорност може довести до „превентивних блокада“: филтера толико строгих да утишавају легитимне разговоре о менталном здрављу или сексуалном образовању, лишавајући тинејџере који траже помоћ на мрежи кључне подршке.
Политички и економски притисак је био интензиван: Технолошке групе и индустријске коалиције уложиле су милионе у лобирање током седнице како би ублажиле најтеже текстове.Истовремено, државно тужилаштво и Федерална трговинска комисија (FTC) покренули су истрагу о пракси чет-бота усмереној на малолетнике, у окружењу грађанске парнице и жалбе погођених породица.
Недавни случајеви и тужбе против Платформе попут Character.AI или OpenAI су ескалирале јавну дебатуНакон оптужби, Главни играчи попут Мете и ОпенАИ најавили су променеБлокирање неприкладних разговора са тинејџерима и упућивање на специјализоване ресурсе, плус нове родитељске контроле.
Изазови у имплементацији и предвидљиви ефекти
Лансирање представља оперативне изазове. Глобалне платформе ће морати прецизно да утврде ко је малолетни становник Калифорније и пратити милионе дневних интеракција без нарушавања приватности, што је технички и правно сложено.
Још један изазов биће избегавање „ефекта капања“ ка прекомерној цензури: ако се компаније плаше санкција, могле би да се повуку користан садржај емоционално благостање из чисте разборитости. Проналажење равнотеже између заштите и приступа поузданим информацијама биће кључно за процену успеха регулативе.
Питање националног утицаја такође остаје: као што се догодило са другим раним калифорнијским прописима, његови захтеви би могли постати де факто стандард за оператере широм САД, чак и пре него што су били доступни чврсти докази о ефикасности.
Иако је коначни текст ужи од почетних предлога, СБ 243 поставља невиђена правила за „пратеће четботове“: јасна упозорења, филтери за старосне групе и протоколи за кризне ситуације са институционалним извештавањем. Ако сте минималне препреке Ако успеју да заштите малолетнике без гушења легитимне подршке, Калифорнија ће утрти средњи пут којим друге државе могу да следе.
Ја сам технолошки ентузијаста који је своја „штреберска“ интересовања претворио у професију. Провео сам више од 10 година свог живота користећи најсавременију технологију и петљајући по свим врстама програма из чисте радозналости. Сада сам се специјализовао за компјутерску технологију и видео игрице. То је зато што више од 5 година пишем за различите веб странице о технологији и видео игрицама, стварајући чланке који желе да вам дају информације које су вам потребне на језику који је свима разумљив.
Ако имате било каквих питања, моје знање се креће од свега што се тиче Виндовс оперативног система као и Андроида за мобилне телефоне. И моја посвећеност је вама, увек сам спреман да потрошим неколико минута и помогнем вам да решите сва питања која имате у овом свету интернета.