- Gençlerin ChatGPT kullanımını izlemek için aile hesaplarının birbirine bağlanması.
- Hafızayı ve geçmişi devre dışı bırakma ve işlevleri yaşa göre yönetme yeteneği.
- "Akut sıkıntı" göstergeleri ve acil durum butonu için otomatik uyarılar.
- Önümüzdeki ay başlayacak dağıtım ve 120 günlük plan, akıl yürütme modelleriyle birlikte.
OpenAI, bir ChatGPT'de ebeveyn denetimleri Şirketin, gençlerin bulunduğu evlere yönelik yeni bir özellik olan güvenlik sistemini güçlendirmeyi ve ailelere sunmayı amaçladığı daha fazla izleme aracı Chatbot'un kullanışlılığından vazgeçmeden.
Karar, artan sosyal ve düzenleyici baskıların ardından geldi; bunlara şunlar dahildir: Adam Raine'in ailesinin davası Kaliforniya'da, şirketin akıl sağlığı bağlamlarında başarısızlıkla suçlandığı bir dava var. OpenAI, bunun olacağını öngörüyor "akut sıkıntı" belirtileri için otomatik uyarılar ve küçüklerin deneyimlerini yönetmeye yönelik bir dizi özellik.
ChatGPT'de aileler için neler değişiyor?
Yeni seçeneklerle ebeveynler şunları yapabilecek: hesabınızı çocuklarınızın hesaplarına bağlayın E-posta daveti yoluyla sistemin nasıl yanıt verdiğini inceleyin ve modelin davranışını erken yaşlara yönelik kurallarla ayarlayın.
Kontroller arasında şunlar da yer alacak: belleği ve sohbet geçmişini devre dışı bırakve ayrıca işlevlerin küçüklerin olgunluk düzeyine göre sınırlandırılması. OpenAI ayrıca şunları da düşünüyor: uzun oturumlar sırasında hatırlatmalar sağlıklı molaları teşvik etmek.
Ayrıca paket şunları içerecektir: acil Durum butonu destek hizmetleri ve ruh sağlığı uzmanlarıyla iletişimi kolaylaştıracak ve içeriği engelle Bir konuşmada risk sinyalleri tespit edildiğinde.
Güvenlik takvimi ve yol haritası
OpenAI lansmanını gerçekleştiriyor gelecek ay için ve belirli bir tarih belirlememiş olmasına rağmen, belirli güvenlik önlemlerini güçlendirmek için 120 günlük bir plan ilerletiyor çocuklar ve gençler hem üründe hem de iç süreçlerde.
Şirket, belirli hassas konuşmaların gizli tutulduğunu belirtiyor akıl yürütme modellerine yönlendirecek tespit edildiğinde dikkatli ve destekleyici yanıtları önceliklendirme hedefiyle güvenlik yönergelerini daha sistematik bir şekilde takip edebilme risk sorunları kendine zarar verme veya intihar düşünceleri gibi.
Alarmı çaldıran dava
Bu duyuru, çocuğun ebeveynlerinin açtığı dava sonrasında geldi 16 yaşındaki genç Adam Raine Chatbot ile aylarca etkileşimde bulunduktan sonra kendi canına kıyan kişi. Dosyaya göre ChatGPT, normalleşmiş intihar düşünceleri ve aile yardımı almak tavsiye edilmez, mahkemelerin çözmesi gereken suçlamalar.
Paralel olarak, OpenAI asistanının başarısız olabileceğini kabul etti "kritik durumlar" ve değişikliklere bağlı. Şirket, bu önlemlerin riskleri azaltmak Davaya ilişkin kararın resmi olarak açıklanmadığı, görüşmelerde GPT-4o'nun kullanıldığı da belirtildi.
Yapay zeka ve reşit olmayanlara yönelik sosyal ve politik baskı
Temmuz ayında birkaç ABD senatörü şirkete şu soruyu sordu: kendine zarar verme ve intiharın önlenmesine ilişkin açıklamalar Aşırı durumlarda tespit edilen uygunsuz tepkilere yanıt olarak. Common Sense Media ise, 18 yaşından küçük "Kabul edilemez riskler" nedeniyle konuşmaya dayalı yapay zeka uygulamalarını kullanmamalısınız.
OpenAI'nin bu hamlesi, platformların endüstri trendine uygun olarak şu şekilde: Meta veya YouTube aileler için kontroller yapılması yönünde baskı yaptılar. Temel tartışma, inovasyonun nasıl dengeleneceği etrafında dönüyor. garantiler ve genç kullanıcılara yönelik garantiler.
Risk sinyalleri olduğunda ChatGPT'de neler olur?
OpenAI, dinamik yönlendirmeyi hedefliyor karmaşık konuşmalar türetir Daha katı güvenlik yönergeleriyle daha düşünceli modellere doğru. Amaç, rehavet eğilimini azaltmak, ihtiyat eşiğini yükseltmek ve destek yanıtlarına öncelik verin Potansiyel olarak zararlı etkileşimlere karşı.
Bu yaklaşımı pekiştirmek için firma bir Refah ve Yapay Zeka Uzmanlar Konseyi ve Küresel Bir Hekim Ağı. Şirkete göre, 100'den fazla 250 ülkede 60 doktor ve modelin davranışına ilişkin 90'dan fazla katkı zaten dahil edildi zihinsel sağlık bağlamları.
Ebeveynlerin adım adım yapabilecekleri
Aileler basit bir akış bulacaklar: küçükleri posta yoluyla davet edin, hesapların bağlantısını onaylayın ve ergen profilinde hangi işlevlerin etkinleştirildiğini veya etkinleştirilmediğini, özellikle hafıza, tarih ve güvenlik filtreleri.
- Yetişkinin hesabını, davet yoluyla küçük çocuğun hesabına bağlayın.
- Sınırları belirleyin: hafıza, geçmiş ve yaşa göre onaylanan özellikler.
- “Akut sıkıntı” bildirimlerini etkinleştirin ve acil durum butonuna erişin.
- Sistemin nasıl tepki verdiğini periyodik olarak kontrol edin ve ayarları düzenleyin.
OpenAI, bu araçları geliştirmeye devam edeceğini söylüyor ancak henüz tüm ayrıntıları açıklamadı. gizlilik parametreleri ve görünürlük. Şirket, ebeveyn kontrolünün bir destek olduğunu ve ebeveyn kontrolünün yerini almadığını hatırlatıyor. profesyonel ilgi ve aile desteğinin devamı sağlanamadı.
Bu paketle OpenAI, genç ortamında ChatGPT'nin güvenliğini güçlendirmeyi amaçlıyor aile hesapları, limitler ve uyarılar, aşamalı bir uygulama ve harici klinik danışmanlık; yetişkin gözetimi ve profesyonel yargının varlığını göz ardı etmeden riskleri sınırlamayı amaçlayan adımlar temel parçalar.
Ben "inek" merakını mesleğe dönüştürmüş bir teknoloji tutkunuyum. Hayatımın 10 yıldan fazlasını en son teknolojiyi kullanarak ve sırf merakımdan dolayı her türlü programı kurcalayarak geçirdim. Artık bilgisayar teknolojisi ve video oyunları konusunda uzmanlaştım. Bunun nedeni, 5 yılı aşkın bir süredir teknoloji ve video oyunlarıyla ilgili çeşitli web sitelerinde yazılar yazıyor olmam ve ihtiyacınız olan bilgileri herkesin anlayabileceği bir dilde size vermeye çalışan makaleler oluşturmamdır.
Sorularınız varsa bilgim Windows işletim sistemi ve cep telefonları için Android ile ilgili her şeyi kapsar. Ve size olan bağlılığımdır, her zaman birkaç dakikamı ayırmaya ve bu internet dünyasında aklınıza gelebilecek her türlü soruyu çözmenize yardımcı olmaya hazırım.