- SB 243, sohbet robotlarının kendilerini tanıtmalarını ve reşit olmayanlara her üç saatte bir bildirim göndererek periyodik hatırlatmalar sağlamalarını gerektiriyor.
- Küçüklerle cinsellik ve kendine zarar verme konularındaki tartışmalar kısıtlanıyor, kriz protokolleri devreye sokuluyor.
- Platformlar, intihar düşüncesi belirtilerini eyalet İntihar Önleme Ofisine bildirmek zorundadır.
- Pakette risk, deepfake ve sorumlulukla ilgili diğer Kaliforniya yapay zeka düzenlemeleri de yer alıyor.
Kaliforniya, yapay zekayı denetleme konusunda kararlı bir adım attı. "arkadaşlık veya yakınlığı simüle eden" "arkadaş sohbet robotları"na odaklanan bir kuralla. Vali Gavin Newsom SB 243'ü imzaladı, bu araçların kendilerini otomatik sistemler olarak tanımlamalarını ve etkileşimde bulunurken belirli güvenlik önlemleri almalarını gerektiren bir yasa küçük kullanıcılar.
Eyalet Senatörü Steve Padilla tarafından desteklenen önlem, teknik mimariye daha az, daha çok şu konulara odaklanıyor: insanlar ve makineler arasındaki duygusal arayüzSektörden gelen baskılar sonucu daha da kısıtlanan nihai versiyonda temel yükümlülükler korunuyor: Bir yapay zekayla konuştuğunuzu hatırlatan düzenli hatırlatmalar, yaşa uygun içerik filtreleri ve yanıt protokolleri kendine zarar verme veya intihar belirtileri.
SB 243 tam olarak neyi gerektiriyor?
Standardın özü, sohbet robotlarının kendilerini açıkça ve tekrar tekrar uyarmasını gerektirir. yapay zeka yazılımıSistem, küçük yaştaki kullanıcılar için, etkileşimin insan dışı doğası hakkında karışıklığa yol açmamak için en az üç saatte bir, görünür ve anlaşılır bir şekilde hatırlatma göstermelidir.
Ayrıca operatörlerin şunları uygulaması gerekiyor: içerik filtreleri ve yaş sınırlamaları: Açık cinsellik ve kendine zarar vermeyi normalleştiren veya teşvik eden her türlü etkileşim, reşit olmayanlarla yapılan görüşmelerden hariç tutulur. Bu engeller, tespit edildiklerinde kriz hizmetlerine yönlendirilmeleriyle tamamlanır. risk göstergeleri.
La Yasa, platformların erken tespit ve müdahale protokolleri oluşturmasını zorunlu kılıyor.ve ayrıca intihar düşüncesi vakalarının raporlarının yanı sıra İntihar Önleme Ofisi KaliforniyaBu, sağlık otoriteleriyle koordinasyonu güçlendirmeyi ve bu araçların ruh sağlığı üzerindeki etkisine ilişkin ölçümleri dahil etmeyi amaçlıyor.
Bu güvenceleri korumak için, Şirketler, eyalet sakinlerine yönelik hizmetlerinde makul yaş doğrulama mekanizmalarını uygulamalıdır.Bu gereklilik, Kaliforniya'da faaliyet gösteren oyun platformları veya merkezi olmayan seçenekler de dahil olmak üzere, eşlik eden sohbet robotları sunan sosyal ağlar, web siteleri ve uygulamalar için geçerlidir.
SB 243'ün son hali, önceki taslaklarda öngörülen üçüncü taraf denetimlerini ve tüm kullanıcılar (sadece küçükler değil) için bir uygulamayı dışarıda bıraktı. Bu kesintiye rağmen Newsom, yasa tasarısını şu şekilde savundu: tutma barajı Önlenebilir hasarlara karşı, Ocak 2026'da yürürlüğe girmesi planlanan.
Eyalette daha geniş bir yapay zeka yasaları paketi
SB 243, büyük yapay zeka geliştiricilerinin yapay zeka stratejilerini kamuoyuna açıklamasını gerektiren SB 53 gibi yakın zamanda kabul edilen diğer girişimlerle birlikte geliyor. güvenlik ve risk azaltmaAmaç, halihazırda büyük ölçekli toplumsal etkiye sahip olan gelişmiş modellerin şeffaflığını artırmaktır.
Buna paralel olarak, şirketlerin teknolojiyi kullanarak sorumluluktan kaçmalarını önlemek için önlemler teşvik edildi. "özerk hareket eder"Rıza dışı cinsel deepfake içeriklere yönelik cezalar da sıkılaştırıldı ve küçük yaştaki mağdurları etkilediğinde para cezaları önemli ölçüde artırıldı.
Paket ayrıca sohbet robotlarının kimliğine bürünmesini önlemek için kısıtlamalar da içeriyor sağlık profesyonelleri veya otorite figürleri, savunmasız kullanıcıları yanıltabilecek bir taktiktir. Sacramento, bu parçalarla inovasyon, haklar ve kamu güvenliği.
Kapsamı hakkında destek, eleştiri ve şüpheler
Standart, çığır açıcı olduğu için övgü alırken, aynı zamanda yetersiz kaldığı için de eleştirildi. Sağduyu Medyası ve Teknoloji Denetim Projesi, dış denetimleri kaldırdıktan ve kapsamını yalnızca küçüklerle sınırladıktan sonra desteklerini geri çektiler; bu durumun, mevcut riskler karşısında yasanın yetersiz bir hareket olabileceği konusunda uyarıyorlar.
Diğer uçta ise geliştiriciler ve uzmanlar, bir orantısız sorumluluk "Önlem amaçlı engellemelere" yol açabilir: Zihinsel sağlık veya cinsel eğitim hakkındaki meşru konuşmaları susturacak kadar katı filtreler, çevrimiçi yardım arayan gençleri hayati destekten mahrum bırakıyor.
Siyasi ve ekonomik baskılar yoğun oldu: Teknoloji grupları ve endüstri koalisyonları, oturum sırasında en zorlu metinleri yönetmek için lobi faaliyetlerine milyonlarca dolar harcadılar.Aynı zamanda, Devlet Savcılığı ve FTC küçükleri hedef alan sohbet robotu uygulamalarının incelenmesine yol açtı, hukuk davaları ve etkilenen ailelerin şikayetleri.
Son zamanlardaki davalar ve davalar Character.AI veya OpenAI gibi platformlar kamuoyundaki tartışmayı tırmandırdı. Suçlamaların ardından, Meta ve OpenAI gibi büyük oyuncular değişiklikleri duyurdu: Ergenlerle uygunsuz konuşmaların engellenmesi ve özel kaynaklara yönlendirmeler, ayrıca yeni ebeveyn kontrolleri.
Uygulama zorlukları ve öngörülebilir etkiler
Lansman, operasyonel zorluklar doğuruyor. Küresel platformların, kimin lansmana katılacağını doğru bir şekilde belirlemesi gerekecek. Kaliforniya'da ikamet eden küçük yaştaki bir kişi ve günlük milyonlarca etkileşimi gizliliğe müdahale etmeden izlemek, teknik ve yasal olarak karmaşık bir iştir.
Bir diğer zorluk ise aşırı sansüre doğru "sızma etkisinden" kaçınmak olacak: Şirketler yaptırımlardan korkarsa, geri çekilebilir. yararlı içerik Duygusal refah, salt ihtiyatlılık nedeniyle. Koruma ve güvenilir bilgilere erişim arasında dengeyi bulmak, düzenlemenin başarısını değerlendirmenin anahtarı olacaktır.
Ulusal etki sorunu da devam ediyor: Kaliforniya'nın diğer erken dönem düzenlemelerinde olduğu gibi, gereklilikleri fiili olarak geçerli hale gelebilir standart Etkinliğine dair sağlam kanıtlar henüz mevcut değilken bile, ABD genelindeki operatörler için.
Nihai metin ilk önerilerden daha dar kapsamlı olsa da, SB 243, "arkadaş sohbet robotları" için benzeri görülmemiş kurallar belirliyor: Kurumsal raporlama ile net uyarılar, yaş filtreleri ve kriz protokolleri. asgari engeller Eğer meşru destekleri engellemeden küçükleri korumayı başarırlarsa, Kaliforniya diğer eyaletlerin izleyebileceği bir orta yol açmış olacak.
Ben "inek" merakını mesleğe dönüştürmüş bir teknoloji tutkunuyum. Hayatımın 10 yıldan fazlasını en son teknolojiyi kullanarak ve sırf merakımdan dolayı her türlü programı kurcalayarak geçirdim. Artık bilgisayar teknolojisi ve video oyunları konusunda uzmanlaştım. Bunun nedeni, 5 yılı aşkın bir süredir teknoloji ve video oyunlarıyla ilgili çeşitli web sitelerinde yazılar yazıyor olmam ve ihtiyacınız olan bilgileri herkesin anlayabileceği bir dilde size vermeye çalışan makaleler oluşturmamdır.
Sorularınız varsa bilgim Windows işletim sistemi ve cep telefonları için Android ile ilgili her şeyi kapsar. Ve size olan bağlılığımdır, her zaman birkaç dakikamı ayırmaya ve bu internet dünyasında aklınıza gelebilecek her türlü soruyu çözmenize yardımcı olmaya hazırım.