California ngliwati SB 243 kanggo ngatur chatbot AI lan nglindhungi bocah cilik

California wis njupuk langkah sing penting kanggo ngawasi intelijen buatan. karo aturan sing fokus ing apa sing disebut "chatbots kanca," sing simulasi paseduluran utawa karukunan. Gubernur Gavin Newsom nandatangani SB 243, hukum sing mbutuhake alat kasebut kanggo ngenali awake dhewe minangka sistem otomatis lan nganggo pengamanan khusus nalika sesambungan karo pangguna suntingan.

Ukuran kasebut, disponsori dening Senator Negara Steve Padilla, kurang fokus ing arsitektur teknis lan liyane antarmuka emosi antarane wong lan mesinVersi pungkasan, sing luwih winates sawise tekanan saka industri, njaga kewajiban utama: Pangeling reguler yen sampeyan lagi ngomong karo AI, saringan konten sing cocog karo umur, lan protokol respon pratandha cilaka dhewe utawa lampus.

Apa persis sing dibutuhake SB 243?

Inti standar mbutuhake chatbots kanthi jelas lan bola-bali ngelingake manawa ana piranti lunak AIKanggo pangguna cilik, sistem kudu nampilake pangeling paling sethithik saben telung jam, kanthi cara sing bisa dideleng lan bisa dingerteni supaya ora kebingungan babagan interaksi non-manungsa.

Kajaba iku, operator kudu ngleksanakake saringan isi lan watesan umur: Seksualitas eksplisit lan interaksi apa wae sing normalake utawa nyengkuyung cilaka diri ora kalebu saka obrolan karo bocah cilik. Rintangan kasebut dilengkapi karo rujukan menyang layanan krisis nalika dideteksi. indikator risiko.

La Undhang-undhang kasebut mbutuhake platform kanggo netepake protokol deteksi lan respon awal., uga laporan kasus suicidal ideation dikenali ing Kantor Pencegahan Bunuh Diri saka CaliforniaIki ngupaya ngiyatake koordinasi karo panguwasa kesehatan lan nggabungake metrik babagan pengaruh alat kasebut ing kesehatan mental.

Kanggo njaga perlindungan kasebut, Perusahaan kudu ngetrapake mekanisme verifikasi umur sing cukup ing layanan sing ditujokake kanggo warga negara kasebut.Syarat kasebut ditrapake kanggo jaringan sosial, situs web, lan aplikasi sing nawakake chatbots kanca, kalebu platform game utawa opsi desentralisasi sing beroperasi ing California.

Versi pungkasan SB 243 ora ninggalake audit pihak katelu lan aplikasi kanggo kabeh pangguna (ora mung bocah cilik) sing dipikirake ing draf sadurunge. Senadyan potongan iki, Newsom mbela tagihan kasebut minangka a bendungan penahanan nglawan karusakan sing bisa dicegah, kanthi direncanakake wiwit Januari 2026.

Paket hukum AI sing luwih jembar ing negara kasebut

SB 243 teka bebarengan karo inisiatif liyane sing bubar lulus, kayata SB 53, sing mbutuhake pangembang AI gedhe kanggo ngumumake strategi AI kanthi umum. keamanan lan mitigasi resikoTujuane kanggo nambah transparansi model canggih sing wis duwe pengaruh sosial skala gedhe.

Ing podo karo, langkah-langkah wis disedhiyakake kanggo nyegah perusahaan supaya ora tanggung jawab kanthi nuntut teknologi kasebut "tumindak kanthi mandiri"Hukuman kanggo deepfakes seksual non-consensual uga wis tightened, Ngartekno nambah dendo nalika mengaruhi korban cilik.

Paket kasebut uga kalebu larangan kanggo nyegah chatbots saka niru profesional kesehatan utawa tokoh panguwasa, taktik sing bisa nyasarake pangguna sing rawan. Kanthi potongan kasebut, Sacramento nggambarake kerangka negara sing nyoba ngimbangi inovasi, hak, lan keamanan umum.

Dhukungan, kritik lan mamang babagan ruang lingkup

Standar kasebut entuk pujian amarga dadi terobosan, lan ing wektu sing padha kritik amarga gagal. Organisasi kayata Media Akal Sehat lan Tech Oversight Project mbatalake dhukungan sawise ngilangi audit eksternal lan mbatesi ruang lingkup kanggo bocah cilik, sing dielingake bisa nggawe undang-undang kasebut minangka sikap sing ora cukup kanggo ngadhepi risiko saiki.

Ing ekstrem liyane, pangembang lan ahli ngelingake yen a tanggung jawab sing ora proporsional bisa mimpin kanggo "pamblokiran pancegahan": saringan supaya ketat sing nggawe bisu obrolan sah babagan kesehatan mental utawa pendidikan seks, depriving cah anom seeking bantuan online saka support wigati.

Tekanan politik lan ekonomi saya kuat: Klompok teknologi lan koalisi industri nandur modal mayuta-yuta ing lobi sajrone sesi kasebut kanggo moderat teks sing paling angel.Ing wektu sing padha, kantor jaksa negara lan ing FTC (Federasi Keuangan) wis micu nliti ing laku chatbot nargetake bocah cilik, ing lingkungan saka tuntutan hukum sipil lan keluhan saka kulawarga sing kena pengaruh.

Kasus anyar lan tuntutan hukum marang Platform kaya Character.AI utawa OpenAI wis nambah debat umum. Sawise tuduhan kasebut, Pemain utama kaya Meta lan OpenAI ngumumake owah-owahan: Watesan obrolan sing ora cocog karo remaja lan rujukan menyang sumber daya khusus, plus kontrol wong tuwa sing anyar.

Tantangan implementasine lan efek sing bisa diramal

Peluncuran kasebut nyebabake tantangan operasional. Platform global kudu nemtokake kanthi akurat sapa penduduk cilik ing California lan ngawasi mayuta-yuta interaksi saben dina tanpa nyerang privasi, sing rumit sacara teknis lan sah.

Tantangan liyane yaiku ngindhari "efek trickling" marang sensor sing berlebihan: yen perusahaan wedi sanksi, bisa mundur. isi migunani kesejahteraan emosional saka prudence murni. Nemokake keseimbangan antarane pangayoman lan akses menyang informasi sing dipercaya bakal dadi kunci kanggo ngevaluasi sukses peraturan kasebut.

Pitakonan babagan dampak nasional uga tetep: kaya sing wis kedadeyan karo peraturan California awal liyane, syarat kasebut bisa dadi de facto standar kanggo operator ing saindhenging AS, malah sadurunge bukti kuat khasiat kasedhiya.

Senajan teks final luwih sempit tinimbang proposal awal, ing SB 243 nyetel aturan unprecedented kanggo "chatbots kanca": bebaya cetha, saringan umur lan protokol krisis karo laporan institusi. Yen sampeyan alangan minimal Yen padha ngatur kanggo nglindhungi bocah cilik tanpa stifling ndhukung sah, California bakal blazed dalan tengah sing negara liyane bisa tindakake.

Artikel sing gegandhengan:

OpenAI bakal nambah kontrol wong tuwa menyang ChatGPT kanthi akun kulawarga, bebaya resiko, lan watesan panggunaan.

Alberto Navarro

Aku minangka penggemar teknologi sing wis ngowahi minat "geek" dadi profesi. Aku wis ngentekake luwih saka 10 taun uripku nggunakake teknologi sing canggih lan ngupayakake kabeh jinis program amarga penasaran. Saiki aku duwe spesialisasi ing teknologi komputer lan game video. Iki amarga luwih saka 5 taun aku wis nulis kanggo macem-macem situs web babagan teknologi lan video game, nggawe artikel sing ngupaya menehi informasi sing dibutuhake ing basa sing bisa dingerteni kabeh wong.

Yen sampeyan duwe pitakon, kawruhku kalebu kabeh sing ana gandhengane karo sistem operasi Windows uga Android kanggo ponsel. Lan prasetyaku kanggo sampeyan, aku tansah gelem ngentekake sawetara menit lan mbantu sampeyan ngrampungake pitakonan sing sampeyan duwe ing jagad internet iki.