- SB 243 mengharuskan chatbot untuk mengidentifikasi diri mereka dan memberikan pengingat berkala, dengan pemberitahuan setiap tiga jam untuk anak di bawah umur.
- Diskusi tentang seksualitas dan tindakan menyakiti diri sendiri dengan anak di bawah umur dibatasi, dan protokol krisis diaktifkan.
- Platform harus melaporkan tanda-tanda keinginan bunuh diri ke Kantor Pencegahan Bunuh Diri negara bagian.
- Paket tersebut mencakup peraturan AI California lainnya tentang risiko, deepfake, dan tanggung jawab.
California telah mengambil langkah tegas dalam mengawasi kecerdasan buatan. dengan aturan yang berfokus pada apa yang disebut "chatbot pendamping," yaitu chatbot yang mensimulasikan persahabatan atau keintiman. Gubernur Gavin Newsom menandatangani SB 243, sebuah undang-undang yang mengharuskan alat-alat ini untuk mengidentifikasi diri mereka sebagai sistem otomatis dan mengadopsi perlindungan khusus saat berinteraksi dengan pengguna di bawah umur.
Langkah ini, yang disponsori oleh Senator Negara Bagian Steve Padilla, kurang berfokus pada arsitektur teknis dan lebih pada antarmuka emosional antara manusia dan mesinVersi final, yang lebih terbatas setelah mendapat tekanan dari industri, tetap mempertahankan kewajiban utama: Pengingat rutin bahwa Anda sedang berbicara dengan AI, filter konten yang sesuai usia, dan protokol respons tanda-tanda menyakiti diri sendiri atau bunuh diri.
Apa sebenarnya yang dipersyaratkan SB 243?
Inti dari standar ini mengharuskan chatbot untuk memperingatkan secara jelas dan berulang kali bahwa mereka Perangkat lunak AIUntuk pengguna di bawah umur, sistem harus menampilkan pengingat setidaknya setiap tiga jam, dengan cara yang terlihat dan mudah dipahami untuk menghindari kebingungan tentang sifat interaksi yang bukan manusia.
Selain itu, operator harus menerapkan filter konten dan batasan usiaSeksualitas eksplisit dan interaksi apa pun yang menormalkan atau mendorong perilaku menyakiti diri sendiri tidak termasuk dalam percakapan dengan anak di bawah umur. Hambatan ini dilengkapi dengan rujukan ke layanan krisis ketika terdeteksi. indikator risiko.
La Undang-undang mengharuskan platform untuk menetapkan protokol deteksi dan respons dini., serta laporan kasus-kasus ide bunuh diri yang teridentifikasi di Kantor Pencegahan Bunuh Diri CaliforniaHal ini bertujuan untuk memperkuat koordinasi dengan otoritas kesehatan dan menggabungkan metrik mengenai dampak alat ini terhadap kesehatan mental.
Untuk menegakkan perlindungan ini, Perusahaan harus menerapkan mekanisme verifikasi usia yang wajar dalam layanan mereka yang ditujukan kepada penduduk negara bagian tersebut.Persyaratan tersebut berlaku untuk jejaring sosial, situs web, dan aplikasi yang menawarkan chatbot pendamping, termasuk platform permainan atau opsi terdesentralisasi yang beroperasi di California.
Versi final SB 243 tidak menyertakan audit pihak ketiga dan aplikasi untuk semua pengguna (bukan hanya anak di bawah umur) yang direncanakan dalam draf sebelumnya. Meskipun ada pemangkasan ini, Newsom membela RUU tersebut sebagai bendungan penahan terhadap kerusakan yang dapat dicegah, dengan rencana mulai berlaku pada Januari 2026.
Paket undang-undang AI yang lebih luas di negara bagian
SB 243 hadir bersamaan dengan inisiatif lain yang baru disahkan, seperti SB 53, yang mengharuskan pengembang AI besar untuk mengungkapkan strategi AI mereka kepada publik. keamanan dan mitigasi risikoSasarannya adalah untuk meningkatkan transparansi model-model canggih yang sudah memiliki dampak sosial berskala besar.
Pada saat yang sama, berbagai langkah telah dipromosikan untuk mencegah perusahaan menghindari tanggung jawab dengan mengklaim bahwa teknologi “bertindak secara otonom”Hukuman untuk deepfake seksual nonkonsensual juga telah diperketat, dengan denda yang meningkat secara signifikan apabila memengaruhi korban di bawah umur.
Paket ini juga mencakup pembatasan untuk mencegah chatbot meniru identitas profesionales sanitasi atau figur otoritas, sebuah taktik yang dapat menyesatkan pengguna yang rentan. Dengan artikel-artikel ini, Sacramento menguraikan kerangka kerja negara bagian yang berupaya menyeimbangkan inovasi, hak, dan keselamatan publik.
Dukungan, kritik dan keraguan tentang cakupannya
Standar ini telah menerima pujian karena dianggap inovatif, namun di saat yang sama dikritik karena dianggap kurang efektif. Organisasi seperti Media Akal Sehat dan Tech Oversight Project menarik dukungan mereka setelah menghapus audit eksternal dan membatasi cakupannya pada anak di bawah umur, yang mereka peringatkan dapat menjadikan undang-undang tersebut sebagai tindakan yang tidak memadai dalam menghadapi risiko saat ini.
Di sisi lain, para pengembang dan ahli memperingatkan bahwa tanggung jawab yang tidak proporsional dapat menyebabkan “pemblokiran pencegahan”: filter yang sangat ketat sehingga membungkam percakapan yang sah tentang kesehatan mental atau pendidikan seks, sehingga menghilangkan dukungan penting yang didapatkan remaja yang mencari bantuan daring.
Tekanan politik dan ekonomi sangat kuat: Kelompok teknologi dan koalisi industri menginvestasikan jutaan dalam lobi selama sesi untuk memoderasi teks yang paling sulit.Pada saat yang sama, kejaksaan negeri dan FTC telah memicu pengawasan terhadap praktik chatbot yang menargetkan anak di bawah umur, dalam lingkungan gugatan perdata dan keluhan dari keluarga yang terkena dampak.
Kasus dan tuntutan hukum terbaru terhadap platform seperti Character.AI atau OpenAI telah meningkatkan perdebatan publikSetelah tuduhan tersebut, Pemain besar seperti Meta dan OpenAI mengumumkan perubahan: Memblokir percakapan yang tidak pantas dengan remaja dan rujukan ke sumber daya khusus, ditambah kontrol orangtua baru.
Tantangan implementasi dan dampak yang dapat diperkirakan
Peluncuran ini menimbulkan tantangan operasional. Platform global harus menentukan secara akurat siapa penduduk di bawah umur di California dan memantau jutaan interaksi harian tanpa melanggar privasi, sesuatu yang rumit secara teknis dan hukum.
Tantangan lainnya adalah menghindari “efek tetesan” akibat sensor yang berlebihan: jika perusahaan takut sanksi, mereka bisa menarik diri konten yang bermanfaat kesejahteraan emosional berdasarkan kehati-hatian murni. Menemukan keseimbangan antara perlindungan dan akses terhadap informasi yang andal akan menjadi kunci untuk menilai keberhasilan regulasi.
Pertanyaan mengenai dampak nasional juga masih ada: seperti yang terjadi pada peraturan-peraturan awal California lainnya, persyaratan-persyaratannya bisa menjadi sesuatu yang de facto standar untuk operator di seluruh AS, bahkan sebelum bukti kuat mengenai kemanjuran tersedia.
Meskipun teks akhir lebih sempit dibandingkan proposal awal, SB 243 menetapkan aturan yang belum pernah ada sebelumnya untuk "chatbot pendamping": peringatan yang jelas, filter usia, dan protokol krisis dengan pelaporan kelembagaan. Jika Anda hambatan minimal Jika mereka berhasil melindungi anak di bawah umur tanpa mengekang dukungan yang sah, California akan menjadi pelopor jalan tengah yang dapat diikuti oleh negara bagian lain.
Saya seorang penggila teknologi yang telah mengubah minat "geek"-nya menjadi sebuah profesi. Saya telah menghabiskan lebih dari 10 tahun hidup saya menggunakan teknologi mutakhir dan mengutak-atik semua jenis program hanya karena rasa ingin tahu. Sekarang saya memiliki spesialisasi dalam teknologi komputer dan video game. Hal ini karena selama lebih dari 5 tahun saya telah menulis untuk berbagai website tentang teknologi dan video game, membuat artikel yang berupaya memberikan informasi yang Anda butuhkan dalam bahasa yang dapat dimengerti oleh semua orang.
Jika Anda memiliki pertanyaan, pengetahuan saya berkisar dari segala sesuatu yang berhubungan dengan sistem operasi Windows serta Android untuk ponsel. Dan komitmen saya adalah kepada Anda, saya selalu bersedia meluangkan beberapa menit dan membantu Anda menyelesaikan pertanyaan apa pun yang mungkin Anda miliki di dunia internet ini.