- Ang SB 243 ay nangangailangan ng mga chatbot na kilalanin ang kanilang sarili at magbigay ng mga pana-panahong paalala, na may mga abiso tuwing tatlong oras para sa mga menor de edad.
- Ang mga talakayan tungkol sa sekswalidad at pananakit sa sarili sa mga menor de edad ay pinaghihigpitan, at ang mga protocol ng krisis ay isinaaktibo.
- Ang mga platform ay dapat mag-ulat ng mga palatandaan ng ideya ng pagpapakamatay sa Opisina ng Pag-iwas sa Pagpapakamatay ng estado.
- Kasama sa package ang iba pang mga regulasyon ng California AI sa panganib, deepfakes, at pananagutan.
Ang California ay gumawa ng isang mapagpasyang hakbang sa pangangasiwa ng artificial intelligence. na may panuntunang tumutuon sa tinatawag na "mga kasamang chatbot," yaong gayahin ang pagkakaibigan o intimacy. Nilagdaan ni Gobernador Gavin Newsom ang SB 243, isang batas na nangangailangan ng mga tool na ito na tukuyin ang kanilang mga sarili bilang mga automated system at magpatibay ng mga partikular na pananggalang kapag nakikipag-ugnayan sa menor de edad na gumagamit.
Ang panukala, na itinataguyod ng Senador ng Estado na si Steve Padilla, ay hindi gaanong nakatuon sa teknikal na arkitektura at higit pa sa emosyonal na interface sa pagitan ng mga tao at mga makinaAng huling bersyon, na mas limitado pagkatapos ng presyon mula sa industriya, ay nagpapanatili ng mga pangunahing obligasyon: Mga regular na paalala na nakikipag-usap ka sa isang AI, mga filter ng content na naaangkop sa edad, at mga protocol ng pagtugon mga palatandaan ng pananakit sa sarili o pagpapakamatay.
Ano nga ba ang kailangan ng SB 243?
Ang ubod ng pamantayan ay nangangailangan ng mga chatbot na malinaw at paulit-ulit na nagbabala na sila nga AI softwarePara sa mga menor de edad na user, ang system ay dapat magpakita ng paalala kahit man lang bawat tatlong oras, sa isang nakikita at naiintindihan na paraan upang maiwasan ang kalituhan tungkol sa di-pantaong kalikasan ng pakikipag-ugnayan.
Bilang karagdagan, ang mga operator ay kailangang ipatupad mga filter ng nilalaman at mga limitasyon sa edad: Ang tahasang sekswalidad at anumang pakikipag-ugnayan na nag-normalize o naghihikayat ng pananakit sa sarili ay hindi kasama sa pakikipag-usap sa mga menor de edad. Ang mga hadlang na ito ay kinukumpleto ng mga referral sa mga serbisyo ng krisis kapag natukoy ang mga ito. mga tagapagpahiwatig ng panganib.
La Ang batas ay nangangailangan ng mga platform upang magtatag ng maagang pagtuklas at mga protocol ng pagtugon., pati na rin ang mga ulat ng mga kaso ng ideya ng pagpapakamatay na natukoy sa Tanggapan ng Pag-iwas sa Pagpapakamatay Ng CaliforniaNilalayon nitong palakasin ang koordinasyon sa mga awtoridad sa kalusugan at isama ang mga sukatan sa epekto ng mga tool na ito sa kalusugan ng isip.
Upang itaguyod ang mga pananggalang na ito, Ang mga kumpanya ay dapat magpatupad ng mga makatwirang mekanismo sa pag-verify ng edad sa kanilang mga serbisyo na naglalayon sa mga residente ng estado.Nalalapat ang kinakailangan sa mga social network, website, at app na nag-aalok ng mga kasamang chatbot, kabilang ang mga platform ng paglalaro o mga desentralisadong opsyon na tumatakbo sa California.
Ang panghuling bersyon ng SB 243 ay nag-iwan ng mga third-party na pag-audit at isang app para sa lahat ng user (hindi lang mga menor de edad) na pinag-isipan sa mga naunang draft. Sa kabila ng pagbawas na ito, ipinagtanggol ng Newsom ang panukalang batas bilang a containment dam laban sa maiiwasang pinsala, na may planong pagpasok sa puwersa para sa Enero 2026.
Isang mas malawak na pakete ng mga batas ng AI sa estado
Ang SB 243 ay kasama ng iba pang kamakailang naipasa na mga inisyatiba, tulad ng SB 53, na nangangailangan ng malalaking AI developer na ibunyag sa publiko ang kanilang mga diskarte sa AI. seguridad at pagbabawas ng panganibAng layunin ay pahusayin ang transparency ng mga advanced na modelo na mayroon nang malakihang epekto sa lipunan.
Kasabay nito, isinulong ang mga hakbang upang pigilan ang mga kumpanya sa pag-iwas sa mga responsibilidad sa pamamagitan ng pag-angkin sa teknolohiyang iyon "nagsasarili"Ang mga parusa para sa hindi sinasang-ayunan na mga sexual deepfakes ay hinigpitan din, na makabuluhang tumataas ang mga multa kapag naapektuhan ng mga ito ang mga menor de edad na biktima.
Kasama rin sa package ang mga paghihigpit upang maiwasan ang pagpapanggap ng mga chatbot mga propesyonal sa kalusugan o mga numero ng awtoridad, isang taktika na maaaring iligaw ang mga mahihinang user. Sa mga pirasong ito, binabalangkas ng Sacramento ang isang balangkas ng estado na nagtatangkang balansehin ang pagbabago, mga karapatan, at kaligtasan ng publiko.
Suporta, pagpuna at pagdududa tungkol sa saklaw nito
Ang pamantayan ay nakatanggap ng papuri para sa pagiging groundbreaking, habang sa parehong oras ng pagpuna para sa pagbagsak. Mga organisasyon tulad ng Sentido Komun Media at ang Tech Oversight Project ay binawi ang kanilang suporta pagkatapos na alisin ang mga panlabas na pag-audit at limitahan ang kanilang saklaw sa mga menor de edad, na binabalaan nila na maaaring gawing hindi sapat na kilos ang batas sa harap ng mga kasalukuyang panganib.
Sa kabilang sukdulan, nagbabala ang mga developer at eksperto na a hindi katumbas na responsibilidad ay maaaring humantong sa "pag-iingat na mga bloke": mga filter na napakahigpit na pinatahimik nila ang mga lehitimong pag-uusap tungkol sa kalusugan ng isip o edukasyon sa sex, na inaalis ang mga kabataan na naghahanap ng tulong online ng mahalagang suporta.
Ang pampulitika at pang-ekonomiyang presyon ay naging matindi: Gumastos ang mga grupo ng teknolohiya at mga koalisyon ng industriya ng milyun-milyong lobbying sa panahon ng session upang i-moderate ang pinakamahirap na mga text.Kasabay nito, ang opisina ng tagausig ng estado at ang FTC nag-trigger ng pagsisiyasat sa mga kasanayan sa chatbot na nagta-target sa mga menor de edad, sa isang kapaligiran ng mga kasong sibil at mga reklamo mula sa mga apektadong pamilya.
Mga kamakailang kaso at demanda laban sa pinalaki ng mga platform tulad ng Character.AI o OpenAI ang pampublikong debate. Pagkatapos ng mga akusasyon, Ang mga pangunahing manlalaro tulad ng Meta at OpenAI ay nag-anunsyo ng mga pagbabago: Pag-block ng mga hindi naaangkop na pag-uusap sa mga kabataan at mga referral sa mga espesyal na mapagkukunan, kasama ang mga bagong kontrol ng magulang.
Mga hamon sa pagpapatupad at nakikinita na mga epekto
Ang paglulunsad ay nagdudulot ng mga hamon sa pagpapatakbo. Ang mga pandaigdigang platform ay kailangang tumpak na matukoy kung sino menor de edad na residente sa California at subaybayan ang milyun-milyong pang-araw-araw na pakikipag-ugnayan nang hindi sinasalakay ang privacy, isang bagay na teknikal at legal na kumplikado.
Ang isa pang hamon ay ang pag-iwas sa "trickling effect" tungo sa labis na censorship: kung ang mga kumpanya ay natatakot sa mga parusa, maaari silang mag-withdraw kapaki-pakinabang na nilalaman emosyonal na kagalingan sa labas ng purong kahinahunan. Ang paghahanap ng balanse sa pagitan ng proteksyon at pag-access sa maaasahang impormasyon ay magiging susi sa pagtatasa ng tagumpay ng regulasyon.
Ang tanong ng pambansang epekto ay nananatili rin: tulad ng nangyari sa iba pang maagang mga regulasyon ng California, ang mga kinakailangan nito ay maaaring maging de facto pamantayan para sa mga operator sa buong U.S., bago pa man magkaroon ng matibay na ebidensya ng pagiging epektibo.
Kahit na ang huling teksto ay mas makitid kaysa sa mga unang panukala, ang Nagtatakda ang SB 243 ng mga hindi pa nagagawang panuntunan para sa "mga kasamang chatbots": malinaw na mga babala, mga filter ng edad at mga protocol ng krisis na may pag-uulat sa institusyon. Kung ikaw ay minimal na mga hadlang Kung namamahala silang protektahan ang mga menor de edad nang hindi pinipigilan ang mga lehitimong suporta, ang California ay gagawa ng gitnang landas na maaaring sundin ng ibang mga estado.
Isa akong mahilig sa teknolohiya na ginawang propesyon ang kanyang mga "geek" na interes. Ako ay gumugol ng higit sa 10 taon ng aking buhay sa paggamit ng makabagong teknolohiya at pag-iisip sa lahat ng uri ng mga programa dahil sa purong kuryusidad. Ngayon ay nagdadalubhasa na ako sa teknolohiya ng kompyuter at mga video game. Ito ay dahil sa higit sa 5 taon na ako ay sumusulat para sa iba't ibang mga website sa teknolohiya at mga video game, na lumilikha ng mga artikulo na naglalayong ibigay sa iyo ang impormasyong kailangan mo sa isang wika na naiintindihan ng lahat.
Kung mayroon kang anumang mga katanungan, ang aking kaalaman ay mula sa lahat ng nauugnay sa Windows operating system pati na rin ang Android para sa mga mobile phone. At ang aking pangako ay sa iyo, lagi akong handang gumugol ng ilang minuto at tulungan kang lutasin ang anumang mga katanungan na maaaring mayroon ka sa mundo ng internet na ito.