- SB 243 бара од чет-ботовите да се идентификуваат и да даваат периодични потсетници, со известувања на секои три часа за малолетници.
- Дискусиите за сексуалноста и самоповредувањето со малолетници се ограничени, а се активирани протоколи за справување со криза.
- Платформите мора да пријават знаци на суицидални идеи до државната Канцеларија за спречување на самоубиства.
- Пакетот вклучува и други регулативи за вештачка интелигенција во Калифорнија за ризик, длабоки фалсификати и одговорност.
Калифорнија презеде одлучувачки чекор во надзорот на вештачката интелигенција. со правило кое се фокусира на таканаречените „придружни чатботови“, оние кои симулираат пријателство или интимност. Гувернерот Гевин Њусом го потпиша SB 243, закон кој бара од овие алатки да се идентификуваат како автоматизирани системи и да усвојат специфични заштитни мерки при интеракција со малолетни корисници.
Мерката, спонзорирана од државниот сенатор Стив Падиља, се фокусира помалку на техничката архитектура, а повеќе на емоционален интерфејс помеѓу луѓето и машинитеКонечната верзија, која беше поограничена по притисокот од индустријата, ги задржува клучните обврски: Редовни потсетници дека разговарате со вештачка интелигенција, филтри за содржина соодветни на возраста и протоколи за одговор знаци на самоповредување или самоубиство.
Што точно бара SB 243?
Суштината на стандардот бара од четботовите јасно и постојано да предупредуваат дека се Софтвер за вештачка интелигенцијаЗа малолетни корисници, системот мора да прикажува потсетник најмалку на секои три часа, на видлив и разбирлив начин за да се избегне забуна околу нечовечката природа на интеракцијата.
Покрај тоа, операторите мора да имплементираат филтри за содржина и ограничувања на возрастаЕксплицитната сексуалност и секоја интеракција што го нормализира или охрабрува самоповредувањето се исклучени од разговорите со малолетници. Овие бариери се надополнуваат со упатувања до служби за кризни ситуации кога ќе бидат откриени. индикатори за ризик.
La Законот бара платформите да воспостават протоколи за рано откривање и одговор., како и извештаи за случаи на суицидални идеи идентификувани на Канцеларија за спречување на самоубиства Од КалифорнијаОва има за цел да ја зајакне координацијата со здравствените власти и да вклучи метрики за влијанието на овие алатки врз менталното здравје.
За да се почитуваат овие заштитни мерки, Компаниите мора да имплементираат разумни механизми за верификација на возраста во своите услуги насочени кон жителите на државата.Условот се однесува на социјалните мрежи, веб-страниците и апликациите што нудат придружни чет-ботови, вклучувајќи ги и платформите за игри или децентрализираните опции што работат во Калифорнија.
Конечната верзија на SB 243 ги изостави ревизиите од трети страни и апликацијата за сите корисници (не само малолетници) што беа предвидени во претходните нацрти. И покрај ова намалување, Њусом го бранеше законот како брана за задржување против спречлива штета, со стапување во сила планирано за јануари 2026 година.
Поширок пакет закони за вештачка интелигенција во државата
SB 243 доаѓа заедно со други неодамна усвоени иницијативи, како што е SB 53, кој бара од големите развивачи на вештачка интелигенција јавно да ги откријат своите стратегии за вештачка интелигенција. безбедност и ублажување на ризикотЦелта е да се подобри транспарентноста на напредните модели кои веќе имаат големо општествено влијание.
Паралелно, се промовираа мерки за да се спречат компаниите да избегнуваат одговорности тврдејќи дека технологијата „делува автономно“Казните за сексуални дипфејкси објави без согласност се исто така заострени, со што значително се зголемуваат казните кога тие влијаат врз малолетни жртви.
Пакетот, исто така, вклучува ограничувања за спречување на лажно претставување од страна на четботовите. здравствените работници или авторитетни личности, тактика што може да ги заведе ранливите корисници. Со овие дела, Сакраменто ја опишува државната рамка што се обидува да ги балансира иновациите, правата и јавната безбедност.
Поддршка, критика и сомнежи за неговиот опсег
Стандардот доби пофалби како револуционерен, а во исто време беше критикуван и за потфрлање. Организации како што се Заеднички чувствителни медиуми и Проектот за технолошки надзор ја повлекоа својата поддршка откако ги елиминираа надворешните ревизии и го ограничија нивниот опсег на малолетници, што, според нив, би можело да го направи законот недоволен гест во услови на моментални ризици.
Од друга страна, програмерите и експертите предупредуваат дека непропорционална одговорност може да доведе до „претпазливи блокади“: филтри толку строги што ги замолчуваат легитимните разговори за менталното здравје или сексуалното образование, лишувајќи ги тинејџерите што бараат помош преку интернет од клучна поддршка.
Политичкиот и економскиот притисок беше интензивен: Технолошките групи и индустриските коалиции инвестираа милиони во лобирање за време на сесијата за модерирање на најтешките текстови.Во исто време, канцеларијата на државниот обвинител и ФТЦ предизвикаа контрола врз практиките на четботовите насочени кон малолетници, во средина на граѓански тужби и поплаки од засегнатите семејства.
Неодамнешни случаи и тужби против Платформи како Character.AI или OpenAI ја ескалираа јавната дебатаПо обвинувањата, Големи играчи како Мета и ОпенАИ објавија промениБлокирање на несоодветни разговори со тинејџери и упатувања до специјализирани ресурси, плус нови родителски контроли.
Предизвици за имплементација и предвидливи ефекти
Лансирањето претставува оперативни предизвици. Глобалните платформи ќе мора точно да утврдат кој е малолетен жител во Калифорнија и да следат милиони дневни интеракции без да ја нарушуваат приватноста, нешто што е технички и правно сложено.
Друг предизвик ќе биде да се избегне „ефектот на капење“ кон прекумерна цензура: ако компаниите се плашат од санкции, би можеле да се повлечат. корисна содржина емоционална благосостојба од чиста разумност. Наоѓањето рамнотежа помеѓу заштитата и пристапот до сигурни информации ќе биде клучно за проценка на успехот на регулативата.
Прашањето за националното влијание, исто така, останува: како што се случи со другите рани регулативи на Калифорнија, неговите барања би можеле да станат де факто стандард за оператори низ САД, дури и пред да бидат достапни цврсти докази за ефикасност.
Иако конечниот текст е потесен од првичните предлози, SB 243 поставува невидени правила за „придружни чет-ботови“: јасни предупредувања, филтри за возраст и протоколи за криза со институционално известување. Ако сте минимални бариери Доколку успеат да ги заштитат малолетниците без да ја задушат легитимната поддршка, Калифорнија ќе пробие среден пат што другите држави можат да го следат.
Јас сум технолошки ентузијаст кој своите „гикови“ интереси ги претвори во професија. Поминав повеќе од 10 години од мојот живот користејќи најсовремена технологија и непречено со сите видови програми од чиста љубопитност. Сега сум специјализиран за компјутерска технологија и видео игри. Тоа е затоа што повеќе од 5 години пишувам за различни веб-локации за технологија и видео игри, создавајќи статии кои се обидуваат да ви ги дадат потребните информации на јазик што е разбирлив за секого.
Ако имате прашања, моето знаење се движи од се што е поврзано со оперативниот систем Виндоус како и Андроид за мобилни телефони. И мојата посветеност е кон вас, јас сум секогаш подготвен да потрошам неколку минути и да ви помогнам да ги решите сите прашања што може да ги имате во овој интернет свет.