- SB 243 egzije pou chatbot yo idantifye tèt yo epi bay rapèl peryodik, ak notifikasyon chak twa èdtan pou minè yo.
- Diskisyon sou seksyalite ak oto-mutilation ak minè yo limite, epi yo aktive pwotokòl kriz yo.
- Platfòm yo dwe rapòte siy lide swisid bay Biwo Prevansyon Swisid leta a.
- Pake a gen ladan l lòt règleman Kalifòni sou IA sou risk, deepfakes, ak responsablite.
Kalifòni pran yon gwo desizyon nan sipèvizyon entèlijans atifisyèl. avèk yon règ ki konsantre sou sa yo rele "chatbot konpayon," sa yo ki simile amitye oswa entimite. Gouvènè Gavin Newsom te siyen SB 243 la, yon lwa ki egzije pou zouti sa yo idantifye tèt yo kòm sistèm otomatik epi adopte pwoteksyon espesifik lè y ap kominike avèk yo itilizatè minè.
Mezi a, patwone pa Senatè Eta Steve Padilla, konsantre mwens sou achitekti teknik epi plis sou koòdone emosyonèl ant moun ak machinVèsyon final la, ki te pi limite apre presyon endistri a, kenbe obligasyon kle yo: Rapèl regilye ke w ap pale ak yon IA, filtè kontni ki apwopriye pou laj, ak pwotokòl repons siy oto-mutilation oswa swisid.
Kisa egzakteman SB 243 la egzije?
Nwayo estanda a egzije pou chatbot yo avèti klèman e plizyè fwa ke yo ye AI lojisyèlPou itilizatè ki poko gen laj, sistèm nan dwe montre yon rapèl omwen chak twa èdtan, yon fason vizib e konpreyansib pou evite konfizyon sou nati ki pa imen entèraksyon an.
Anplis de sa, operatè yo dwe aplike filtè kontni ak limit lajSeksyalite eksplisit ak nenpòt entèraksyon ki nòmalize oswa ankouraje oto-mutilation yo eskli nan konvèsasyon ak minè yo. Baryè sa yo konplete pa referans bay sèvis kriz lè yo detekte yo. endikatè risk yo.
La Lalwa a egzije pou platfòm yo etabli pwotokòl deteksyon ak repons bonè., ansanm ak rapò sou ka lide swisid idantifye nan la Biwo pou Prevansyon Swisid Nan KalifòniSa a chache ranfòse kowòdinasyon ak otorite sante yo epi enkòpore mezi sou enpak zouti sa yo sou sante mantal.
Pou respekte pwoteksyon sa yo, Konpayi yo dwe aplike mekanis verifikasyon laj rezonab nan sèvis yo ki vize rezidan eta a.Egzijans lan aplike pou rezo sosyal, sit entènèt, ak aplikasyon ki ofri chatbot konpayon, tankou platfòm jwèt oswa opsyon desantralize k ap opere nan Kalifòni.
Vèsyon final SB 243 la pa t gen ladan odit twazyèm pati yo ak yon aplikasyon pou tout itilizatè (pa sèlman minè) ki te prevwa nan premye bouyon yo. Malgre rediksyon sa a, Newsom te defann pwojè lwa a kòm yon... baraj kontènman kont domaj ki ka evite, ak antre an vigè prevwa pou janvye 2026.
Yon pake lwa sou IA ki pi laj nan eta a
SB 243 vini ansanm ak lòt inisyativ ki te pase dènyèman, tankou SB 53, ki egzije pou gwo devlopè IA yo divilge estrateji IA yo piblikman. sekirite ak rediksyon riskObjektif la se amelyore transparans modèl avanse ki deja gen yon gwo enpak sosyal.
An paralèl, yo te ankouraje mezi pou anpeche konpayi yo evite responsablite yo lè yo pretann ke teknoloji a "aji otonòm"Yo te sere pinisyon pou deepfake seksyèl san konsantman yo tou, sa ki ogmante anpil amann yo lè yo afekte viktim minè.
Pake a gen ladan l tou restriksyon pou anpeche chatbot yo pran idantite. pwofesyonèl sanitarios oubyen figi otorite, yon taktik ki ka twonpe itilizatè vilnerab yo. Avèk moso sa yo, Sacramento dekri yon kad leta ki eseye balanse inovasyon, dwa, ak sekirite piblik.
Sipò, kritik ak dout sou dimansyon li yo
Nòm nan te resevwa lwanj paske li te inovatè, men an menm tan li te resevwa kritik paske li pa t rive atenn objektif la. Òganizasyon tankou Common Sense Media Epi Pwojè Sipèvizyon Teknoloji a te retire sipò yo apre yo te fin elimine odit ekstèn yo epi limite dimansyon yo pou minè, sa yo avèti ki ta ka fè lalwa a yon jès ki pa sifi fas a risk aktyèl yo.
Nan lòt ekstrèm nan, devlopè ak ekspè yo avèti ke yon responsablite disproporsyonèl sa ka mennen nan "blokaj prekosyon": filtè tèlman strik ke yo fèmen bouch konvèsasyon lejitim sou sante mantal oswa edikasyon seksyèl, sa ki prive adolesan k ap chèche èd sou entènèt de sipò esansyèl.
Presyon politik ak ekonomik la te fò: Gwoup teknoloji ak kowalisyon endistri yo te depanse plizyè milyon dola pou fè lobi pandan sesyon an pou modere tèks ki pi difisil yo.An menm tan, biwo pwokirè leta a ak FTC te deklanche yon envestigasyon sou pratik chatbot ki vize minè, nan yon anviwònman pwosè sivil yo ak plent ki soti nan fanmi ki afekte yo.
Ka resan ak pwosè kont platfòm tankou Character.AI oubyen OpenAI te ogmante deba piblik laApre akizasyon yo, Gwo jwè tankou Meta ak OpenAI anonse chanjmanBloke konvèsasyon ki pa apwopriye ak adolesan yo epi referans a resous espesyalize, plis nouvo kontwòl paran yo.
Difikilte aplikasyon ak efè previzib
Aplikasyon an poze defi operasyonèl. Platfòm mondyal yo ap gen pou detèmine avèk presizyon ki moun ki rezidan minè nan Kalifòni epi kontwole plizyè milyon entèraksyon chak jou san anvayi vi prive, yon bagay ki teknikman ak legalman konplèks.
Yon lòt defi pral pou evite "efè degoute" ki mennen nan twòp sansi: si konpayi yo pè sanksyon, yo ka retire kò yo. kontni itil byennèt emosyonèl ki soti nan pridans pi. Jwenn balans ant pwoteksyon ak aksè a enfòmasyon serye pral kle pou evalye siksè règleman an.
Kesyon enpak nasyonal la toujou rete la: jan sa te rive ak lòt règleman Kalifòni byen bonè yo, egzijans li yo ta ka vin de facto. estanda pou operatè atravè Etazini, menm anvan te gen prèv solid sou efikasite.
Malgre tèks final la pi limite pase pwopozisyon inisyal yo, SB 243 fikse règ san parèy pou "chatbot konpayon" yo.avètisman klè, filtè laj ak pwotokòl kriz ak rapò enstitisyonèl. Si w ap baryè minimòm Si yo reyisi pwoteje minè yo san yo pa toufe sipò lejitim yo, Kalifòni ap louvri yon chemen mitan ke lòt eta yo ka swiv.
Mwen se yon antouzyast teknoloji ki te vire enterè "jik" li nan yon pwofesyon. Mwen te pase plis pase 10 ane nan lavi mwen itilize teknoloji dènye kri ak brikolaj ak tout kalite pwogram nan pi kiryozite. Koulye a, mwen te espesyalize nan teknoloji òdinatè ak jwèt videyo. Sa a se paske depi plis pase 5 ane mwen ap ekri pou divès sit entènèt sou teknoloji ak jwèt videyo, kreye atik ki ap chèche ba w enfòmasyon ou bezwen an nan yon lang ke tout moun konprann.
Si w gen nenpòt kesyon, konesans mwen varye ant tout bagay ki gen rapò ak sistèm operasyon Windows la ak Android pou telefòn mobil yo. Ak angajman mwen se avè ou, mwen toujou dispoze pase kèk minit epi ede ou rezoud nenpòt kesyon ou ka genyen nan mond entènèt sa a.