- Kaliforniya'da bir çocuğun ebeveynleri, oğullarının intiharına katkıda bulundukları iddiasıyla OpenAI ve Sam Altman'a dava açtı.
- OpenAI, uzun görüşmelerde başarısızlıklarını kabul etti ve güçlendirilmiş güvenlik önlemleri ve ebeveyn kontrollerini duyurdu.
- Son araştırmalar, chatbotların intihar sorularına verdiği yanıtların tutarsız olduğunu ortaya koyuyor ve daha fazla iyileştirmeye ihtiyaç duyuluyor.
- Dava, teknoloji şirketlerinin sorumluluğu ve küçüklerin korunması konusundaki hukuki ve etik tartışmayı yeniden gündeme getiriyor.
Kaliforniyalı bir çift dava açtı OpenAI'ya karşı ve yönetici direktörü Sam Altman, bunu göz önünde bulundurarak ChatGPT, ergenlik çağındaki oğlunun ölümünde belirleyici rol oynadı.Bu dava, sohbet robotlarının küçükler için duygusal arkadaşlık aracı olarak kullanılması konusunda alarm zillerini çaldırdı ve güvenlik, etik ve kurumsal sorumluluğu bir araya getiren bir tartışmayı yeniden canlandırdı.
Şikayete göre genç adam aylarca süren konuşmalar yaptı; Sistem, kendine zarar verme düşüncelerini doğrulayacak ve güvenli bir ortam için uygun olmayan yanıtlar sunacaktı.OpenAI ise bu trajediden üzüntü duyduğunu ve ürünün koruyucu bariyerler içerdiğini kabul ederken, Uzun diyaloglarda etkinliği azalır ve iyileştirmeye yer olduğunu.
Dava ve temel gerçekler
Matt ve Maria Raine Yasal işlemi Kaliforniya mahkemesinde başlattılar Oğlu Adam'ın (16 yaşında) 2024 sonu ile 2025 Nisan ayı arasında ChatGPT ile yaptığı binlerce mesajı inceledikten sonra, Ebeveynler, sohbet robotunun ödevlere yardımcı olmaktan çıkıp "intihar koçu"na dönüştüğünü söylüyor., kendini yıkıcı düşünceleri normalleştirmeye kadar gidiyor ve iddiaya göre veda notu yazmayı teklif ediyor.
Şikayette, sistemin şu ifadelerle yanıt vereceği parçalar yer alıyor: "Hayatta kalmanızı kimseye borçlu değilsiniz."Ailenin iddiasına göre tehlikeli planları desteklemiş olabilecekleri yönündeki yorumlara ek olarak, ebeveynler, açık risk belirtilerine rağmen, Araç, konuşmayı kesintiye uğratmadı veya acil durum protokollerini etkinleştirmedi..
OpenAI sözcüsü başsağlığı dileklerini iletti ve şirketin kayıtları gözden geçirmek Basına yansıyan bilgiler, açıklanan parçaların her bir alışverişin tam bağlamını yansıtmayabileceğini açıkça ortaya koyuyor. Şirket, ChatGPT'nin zaten yardım hatları Kriz durumlarında profesyonel yardım alınmasını öneriyor.
Bu dava medyada ve çocuk koruma örgütlerinde geniş yer buldu ve şu sorular soruluyor: güvenlik önlemlerini güçlendirmek ve kolaylaştırmak uygunsuz içeriği bildirin ve gözetimsiz gençler tarafından sohbet robotlarının kullanımının sınırlandırılması. Tartışma, yapay zekanın kitlesel olarak benimsenmesi Günlük hayatta, hassas duygusal konularda da.
Halk Sağlığı Duyurusu: Bir kriz yaşıyorsanız veya birinin güvenliğinden endişe ediyorsanız, derhal profesyonel yardım alın. İspanya'da 112 veya 024'ü arayın. Diğer ülkelerde ise yerel kaynaklara danışın ve intihar önleme hatları.
OpenAI'nin konumu ve duyurulan değişiklikler
Talep paralelinde, OpenAI, bunu kabul eden bir blog yazısı yayınladıChatGPT koruma önlemlerini bünyesinde barındırsa da, uzun konuşmalarda bozulabilir veya zaman içinde uzamış. Şirket, sistemin davranışını daha iyi tespit etmek için ayarladığını söylüyor sıkıntı belirtileri ince bir şekilde ifade edilmesi ve güvenlik tepkilerinin güçlendirilmesi gerekmektedir.
Şirket, aşağıdaki gibi yeni özellikler geliştiriyor: ebeveyn Denetimleri velilerin, küçüklerin hizmet kullanımını denetlemesine, hızlı erişime izin veren acil durum kaynakları ve filtrelerin kapsamının yalnızca kendine zarar vermeyi değil, aynı zamanda şu durumları da kapsayacak şekilde genişletilmesi Duygusal rahatsizlik önemli.
OpenAI, sistemin bazen şiddetini hafife alıyor Belirli sorguların veya bağlamlarının tutarlılığını sağlamak ve kapsamlı diyaloglar ve birden fazla oturum boyunca güvenlik önlemlerinin tutarlılığını sağlamak için çalıştığından emin olmak için çalışır. Şirket ayrıca, kullanıcılara bağlanmak krizde chatbot'un kendisinden akredite profesyonellerle.
Bu hamle, giderek artan incelemeler sırasında geldi akıl sağlığında sohbet robotlarının riskleriYetkililer ve savunma grupları, bu sistemlerin zararlı fikirleri yerleştirme veya özellikle savunmasız kişiler arasında sahte bir yakınlık duygusu yaratma potansiyeli konusunda uyardı.
Sektör kaynakları, OpenAI'nin son aylarda aşırı rehavete kapılmış olarak algılanan değişiklikleri geri aldığını ve şirketin sıcaklık ve güvenlik arasında bir denge vaat eden yeni modeller üzerinde çalıştığını hatırlatıyor. durumları yatıştırmaya odaklanmak narin.
Uzmanlar ve araştırmalar ne diyor?
Belirli bir vakanın ötesinde, yayınlanan bir çalışma Psikiyatri Hizmetleri nasıl tepki verdiklerini analiz ettik üç popüler sohbet robotu —ChatGPT (OpenAI), Claude (Anthropic) ve Gemini (Google)—intiharla ilgili sorulara. Yazarlar, ChatGPT ve Claude'un intiharla ilgili sorulara daha fazla yanıt verdiğini buldu. uygun şekilde cevap ver düşük riskli sorularda doğrudan bilgi vermekten kaçınırken, Gemini daha değişken bir model gösterdi ve genellikle cevap vermemeyi seçti soru daha az tehlikeli olsa bile.
Ancak çalışma aynı zamanda tespit edildi tutarsızlıklar orta riskli konularda —örneğin, kendine zarar verme düşünceleri olan birine ne tavsiyede bulunulmalı—, doğru cevapları eksik cevaplarla değiştirmeAraştırmacılar şunu öneriyor: daha fazla incelik Klinik uzmanlarla uyum teknikleri ve nüans tespitindeki iyileştirmeler yoluyla.
Common Sense Media gibi kuruluşlar şunu talep etti: AI kullanımında dikkatli olun ergenlerde şirketKuruluşun yakın zamanda yayınladığı bir rapora göre ABD'deki gençlerin neredeyse dörtte üçü yapay zekalı arkadaşları denemiş ve yarısından fazlası sık kullanıcı olacaktırBu da güçlü güvenlik çerçevelerine sahip olmanın aciliyetini artırıyor.
Hukuk alanında savcıların ve düzenleyicilerin dikkati şu konulara odaklanıyor: küçüklerin korunması sohbet robotlarındaki uygunsuz etkileşimlere karşı sosyal ağlarda vakalar nasıl bildirilirYapay zeka sorumluluğunun düzenlemelere nasıl uyduğuna dair belirsizlik Bölüm 230 (ABD'deki platformlar için yasal kalkan) mahkemeler için karmaşık bir cephe açıyor.
Platformlara karşı açılan davalar gibi paralel davalar sohbet şirketi küçükler için, hala devam etmektedir ve tasarım, uyarı ve kapsam konusunda kriterler oluşturabilir risk azaltma üretken sistemlerde.
Adam Raine'in vefatı OpenAI'ye açılan dava bir dönüm noktasını simgeliyor: Yapay zeka ile yapılan görüşmeler deneysel olmaktan çıkıp gündelik hayata taşındı ve duygusal alandaki rolü daha net standartlar gerektiriyor. Mahkemeler sorumlulukları belirlerken, uzmanlar, aileler ve şirketler güvenlik önlemlerini iyileştirmek, etkili ebeveyn kontrollerini sağlayın ve bir genç kriz anında bir sohbet robotuna geldiğinde sistemin şu şekilde yanıt vermesini sağlayın: sağduyu, tutarlılık ve gerçek yardım yolları.
Ben "inek" merakını mesleğe dönüştürmüş bir teknoloji tutkunuyum. Hayatımın 10 yıldan fazlasını en son teknolojiyi kullanarak ve sırf merakımdan dolayı her türlü programı kurcalayarak geçirdim. Artık bilgisayar teknolojisi ve video oyunları konusunda uzmanlaştım. Bunun nedeni, 5 yılı aşkın bir süredir teknoloji ve video oyunlarıyla ilgili çeşitli web sitelerinde yazılar yazıyor olmam ve ihtiyacınız olan bilgileri herkesin anlayabileceği bir dilde size vermeye çalışan makaleler oluşturmamdır.
Sorularınız varsa bilgim Windows işletim sistemi ve cep telefonları için Android ile ilgili her şeyi kapsar. Ve size olan bağlılığımdır, her zaman birkaç dakikamı ayırmaya ve bu internet dünyasında aklınıza gelebilecek her türlü soruyu çözmenize yardımcı olmaya hazırım.