Kalifornie schválila zákon SB 243, který reguluje chatboty s umělou inteligencí a chrání nezletilé.

Kalifornie učinila rozhodný krok v dohledu nad umělou inteligencí. s pravidlem, které se zaměřuje na tzv. „doprovodné chatboty“, tedy ty, které simulují přátelství nebo intimitu. Guvernér Gavin Newsom podepsal zákon SB 243, což je zákon, který vyžaduje, aby se tyto nástroje identifikovaly jako automatizované systémy a při interakci s nimi přijaly specifická ochranná opatření nezletilí uživatelé.

Opatření, které sponzoruje státní senátor Steve Padilla, se zaměřuje méně na technickou architekturu a více na emocionální rozhraní mezi lidmi a strojiFinální verze, která byla po tlaku ze strany průmyslu omezenější, si zachovává klíčové závazky: Pravidelné připomenutí, že mluvíte s umělou inteligencí, filtry obsahu odpovídající věku a protokoly odezvy známky sebepoškozování nebo sebevraždy.

Co přesně vyžaduje SB 243?

Jádro standardu vyžaduje, aby chatboti jasně a opakovaně varovali, že jsou Software pro umělou inteligenciPro nezletilé uživatele musí systém zobrazovat připomenutí alespoň každé tři hodiny, a to viditelným a srozumitelným způsobem, aby se předešlo nejasnostem ohledně nelidské povahy interakce.

Kromě toho musí provozovatelé implementovat filtry obsahu a věková omezeníZ rozhovorů s nezletilými je vyloučena explicitní sexualita a jakákoli interakce, která normalizuje nebo podněcuje sebepoškozování. Tyto bariéry jsou v případě jejich zjištění doplněny odkazy na krizové služby. ukazatele rizika.

La Zákon vyžaduje, aby platformy zavedly protokoly včasné detekce a reakce., stejně jako zprávy o případech sebevražedných myšlenek zjištěných na Úřad pro prevenci sebevražd KalifornieCílem je posílit koordinaci se zdravotnickými orgány a začlenit metriky dopadu těchto nástrojů na duševní zdraví.

Abychom tyto záruky dodrželi, Společnosti musí ve svých službách zaměřených na obyvatele státu zavést mechanismy ověřování přiměřeného věku.Tento požadavek se vztahuje na sociální sítě, webové stránky a aplikace, které nabízejí doprovodné chatboty, včetně herních platforem nebo decentralizovaných možností působících v Kalifornii.

Finální verze návrhu zákona SB 243 vynechala audity třetích stran a aplikaci pro všechny uživatele (nejen nezletilé), které byly v dřívějších návrzích zvažovány. Navzdory tomuto škrtu Newsom návrh zákona obhajoval jako... zadržovací hráz proti škodám, kterým lze předejít, s plánovaným vstupem v platnost na leden 2026.

Širší balíček zákonů o umělé inteligenci ve státě

SB 243 přichází vedle dalších nedávno schválených iniciativ, jako je SB 53, která vyžaduje, aby velcí vývojáři umělé inteligence veřejně zveřejnili své strategie v oblasti umělé inteligence. bezpečnost a zmírňování rizikCílem je zlepšit transparentnost pokročilých modelů, které již mají rozsáhlý společenský dopad.

Souběžně byla prosazována opatření, která mají zabránit společnostem v vyhýbání se odpovědnosti tvrzením, že technologie „jedná autonomně“Zpřísnily se také tresty za deepfake sexuálního obsahu bez souhlasu, což výrazně zvyšuje pokuty v případě, že postihnou nezletilé oběti.

Balíček také obsahuje omezení, která brání chatbotům v vydávání se za jiné osoby. zdravotníci nebo autoritativních osobností, což je taktika, která může uvést zranitelné uživatele v omyl. V těchto textech Sacramento nastiňuje státní rámec, který se snaží vyvážit inovace, práva a veřejná bezpečnost.

Podpora, kritika a pochybnosti o jeho rozsahu

Standard se setkal s chválou za průlom, ale zároveň s kritikou za nedostatky. Organizace jako například Společné médium a Tech Oversight Project stáhli svou podporu poté, co zrušili externí audity a omezili jejich rozsah na nezletilé subjekty, což by podle nich mohlo zákon učinit nedostatečným gestem tváří v tvář současným rizikům.

Na druhé straně vývojáři a odborníci varují, že nepřiměřená odpovědnost mohlo by vést k „preventivním blokům“: filtrům tak přísným, že umlčují legitimní rozhovory o duševním zdraví nebo sexuální výchově, a připravují tak teenagery vyhledávající pomoc online o klíčovou podporu.

Politický a ekonomický tlak byl intenzivní: Technologické skupiny a průmyslové koalice investovaly během zasedání miliony do lobování s cílem moderovat i ty nejnáročnější texty.Zároveň státní zastupitelství a FTC vyvolaly kontrolu praktik chatbotů zaměřených na nezletilé osoby v prostředí občanskoprávní spory a stížnosti od postižených rodin.

Nedávné případy a soudní spory proti Platformy jako Character.AI nebo OpenAI vyhrotily veřejnou debatuPo obviněních, Hlavní hráči jako Meta a OpenAI oznámili změnyBlokování nevhodných konverzací s teenagery a odkazování na specializované zdroje, plus nové rodičovské kontroly.

Problémy s implementací a předvídatelné dopady

Spuštění představuje provozní výzvy. Globální platformy budou muset přesně určit, kdo je nezletilý obyvatel Kalifornie a monitorovat miliony denních interakcí bez narušení soukromí, což je technicky i právně složité.

Další výzvou bude zabránit „kapkovému efektu“ směrem k nadměrné cenzuře: pokud se společnosti obávají sankcí, mohly by se odhlásit. užitečný obsah emocionální pohoda z čisté opatrnosti. Nalezení rovnováhy mezi ochranou a přístupem ke spolehlivým informacím bude klíčové pro posouzení úspěšnosti regulace.

Zůstává také otázka celostátního dopadu: jak se stalo u jiných raných kalifornských předpisů, jejich požadavky by se mohly stát de facto standardní pro operátory v celých Spojených státech, a to ještě předtím, než byly k dispozici spolehlivé důkazy o účinnosti.

Ačkoli je konečný text užší než původní návrhy, SB 243 stanoví bezprecedentní pravidla pro „doprovodné chatboty“jasná varování, věkové filtry a krizové protokoly s institucionálním hlášením. Pokud jste minimální bariéry Pokud se jim podaří chránit nezletilé, aniž by potlačili legitimní podporu, Kalifornie si vydláždí střední cestu, kterou se mohou vydat i ostatní státy.

Související článek:

OpenAI přidá do ChatGPT rodičovskou kontrolu s rodinnými účty, varováními před riziky a limity používání.

Alberto navarro

Jsem technologický nadšenec, který ze svých „geekovských“ zájmů udělal profesi. Strávil jsem více než 10 let svého života používáním nejmodernějších technologií a vrtáním se všemi druhy programů z čisté zvědavosti. Nyní se specializuji na počítačovou techniku ​​a videohry. Je to proto, že již více než 5 let píšu pro různé webové stránky o technologiích a videohrách a tvořím články, které se vám snaží poskytnout informace, které potřebujete, v jazyce, který je srozumitelný všem.

Pokud máte nějaké dotazy, mé znalosti sahají od všeho, co se týká operačního systému Windows a také Androidu pro mobilní telefony. A můj závazek je vůči vám, jsem vždy ochoten strávit pár minut a pomoci vám vyřešit jakékoli otázky, které můžete mít v tomto internetovém světě.