- SB 243 изисква чатботовете да се идентифицират и да предоставят периодични напомняния, с известия на всеки три часа за непълнолетни.
- Дискусиите за сексуалността и самонараняването с непълнолетни са ограничени и се активират протоколи за кризисни ситуации.
- Платформите трябва да докладват за признаци на суицидни мисли на държавната служба за превенция на самоубийствата.
- Пакетът включва други калифорнийски разпоредби за изкуствения интелект относно риска, дийпфейковете и отговорността.
Калифорния предприе решителна стъпка в надзора на изкуствения интелект. с правило, което се фокусира върху така наречените „придружаващи чатботове“, тези, които симулират приятелство или интимност. Губернаторът Гавин Нюсъм подписа SB 243, закон, който изисква тези инструменти да се идентифицират като автоматизирани системи и да приемат специфични предпазни мерки при взаимодействие с непълнолетни потребители.
Мярката, спонсорирана от щатския сенатор Стив Падила, се фокусира по-малко върху техническата архитектура и повече върху емоционален интерфейс между хора и машиниОкончателната версия, която беше по-ограничена след натиск от страна на индустрията, запазва ключови задължения: Редовни напомняния, че говорите с изкуствен интелект, филтри за съдържание, подходящи за възрастта, и протоколи за отговор признаци на самонараняване или самоубийство.
Какво точно изисква SB 243?
В основата на стандарта е необходимо чатботовете ясно и многократно да предупреждават, че са Софтуер за изкуствен интелектЗа непълнолетните потребители системата трябва да показва напомняне поне на всеки три часа, по видим и разбираем начин, за да се избегне объркване относно нечовешкия характер на взаимодействието.
Освен това, операторите трябва да внедрят филтри за съдържание и възрастови ограничения: От разговорите с непълнолетни са изключени проявите на откровена сексуалност и всяко взаимодействие, което нормализира или насърчава самонараняване. Тези бариери се допълват от насочване към кризисни служби, когато бъдат открити. показатели за риск.
La Законът изисква платформите да установят протоколи за ранно откриване и реагиране., както и съобщения за случаи на суицидни мисли, установени по време на Служба за превенция на самоубийствата От КалифорнияТова има за цел да засили координацията със здравните власти и да включи показатели за въздействието на тези инструменти върху психичното здраве.
За да се поддържат тези предпазни мерки, Компаниите трябва да внедрят механизми за проверка на разумна възраст в услугите си, насочени към жителите на щата.Изискването се отнася за социални мрежи, уебсайтове и приложения, които предлагат придружаващи чатботове, включително игрални платформи или децентрализирани опции, работещи в Калифорния.
В окончателната версия на SB 243 бяха пропуснати одити от трети страни и приложение за всички потребители (не само за непълнолетни), които бяха предвидени в по-ранните проекти. Въпреки това съкращение, Нюсъм защити законопроекта като... защитна язовирна стена срещу предотвратими щети, като влизането в сила е планирано за януари 2026 г.
По-широк пакет от закони за изкуствения интелект в щата
SB 243 е приет редом с други наскоро приети инициативи, като например SB 53, който изисква от големите разработчици на изкуствен интелект публично да оповестяват своите стратегии за изкуствен интелект. сигурност и смекчаване на рискаЦелта е да се подобри прозрачността на усъвършенстваните модели, които вече имат мащабно социално въздействие.
Успоредно с това бяха насърчавани мерки, целящи да попречат на компаниите да избягват отговорности, като твърдят, че технологиите... „действа автономно“Санкциите за сексуални дийпфейкове без съгласие също са затегнати, като значително се увеличават глобите, когато засягат непълнолетни жертви.
Пакетът включва и ограничения, които предотвратяват представянето на чатботове за други хора. здравни специалисти или авторитетни фигури, тактика, която може да подведе уязвимите потребители. С тези материали Сакраменто очертава държавна рамка, която се опитва да балансира иновациите, правата и обществена безопасност.
Подкрепа, критика и съмнения относно обхвата му
Стандартът е получил похвали за това, че е новаторски, но същевременно е критикуван за това, че не е достатъчен. Организации като Здрав разум Медия и Проектът за технологичен надзор оттеглиха подкрепата си, след като премахнаха външните одити и ограничиха обхвата им до непълнолетни, което според тях може да направи закона недостатъчен жест пред лицето на настоящите рискове.
В другата крайност, разработчиците и експертите предупреждават, че a непропорционална отговорност може да доведе до „предпазни блокади“: филтри, толкова строги, че заглушават легитимните разговори за психично здраве или сексуално образование, лишавайки тийнейджърите, търсещи помощ онлайн, от решаваща подкрепа.
Политическият и икономически натиск е бил силен: Технологичните групи и индустриалните коалиции похарчиха милиони за лобиране по време на сесията, за да модерират най-трудните текстове.В същото време, държавната прокуратура и Федерална търговска комисия (FTC) предизвикаха проверка на практиките на чатботове, насочени към непълнолетни, в среда на граждански дела и оплаквания от засегнати семейства.
Последни дела и съдебни дела срещу платформи като Character.AI или OpenAI ескалираха обществения дебатСлед обвиненията, Основни играчи като Meta и OpenAI обявиха промениБлокиране на неподходящи разговори с тийнейджъри и насочване към специализирани ресурси, плюс нови родителски контроли.
Предизвикателства при прилагането и предвидими ефекти
Внедряването създава оперативни предизвикателства. Глобалните платформи ще трябва точно да определят кой е непълнолетен жител в Калифорния и да наблюдават милиони ежедневни взаимодействия, без да нарушават личния живот, нещо, което е технически и правно сложно.
Друго предизвикателство ще бъде да се избегне „ефектът на промиване“ към прекомерна цензура: ако компаниите се страхуват от санкции, те биха могли да се оттеглят. полезно съдържание емоционално благополучие от чиста предпазливост. Намирането на баланс между защитата и достъпа до надеждна информация ще бъде ключово за оценката на успеха на регулирането.
Въпросът за националното въздействие също остава: както се случи с други ранни калифорнийски разпоредби, неговите изисквания биха могли да станат де факто стандарт за оператори в САЩ, дори преди да са налични солидни доказателства за ефикасност.
Въпреки че окончателният текст е по-тесен от първоначалните предложения, SB 243 определя безпрецедентни правила за „придружаващи чатботове“: ясни предупреждения, възрастови филтри и протоколи за кризи с институционално отчитане. Ако сте минимални бариери Ако успеят да защитят непълнолетните, без да задушават законната подкрепа, Калифорния ще е проправила среден път, който други щати могат да следват.
Аз съм технологичен ентусиаст, който е превърнал своите „гийк“ интереси в професия. Прекарах повече от 10 години от живота си, използвайки авангардни технологии и бърникайки с всякакви програми от чисто любопитство. Сега съм специализирал компютърни технологии и видео игри. Това е така, защото повече от 5 години пиша за различни уебсайтове за технологии и видео игри, създавайки статии, които се стремят да ви дадат информацията, от която се нуждаете, на език, разбираем за всички.
Ако имате някакви въпроси, познанията ми варират от всичко свързано с операционната система Windows, както и с Android за мобилни телефони. И моят ангажимент е към вас, винаги съм готов да отделя няколко минути и да ви помогна да разрешите всички въпроси, които може да имате в този интернет свят.