ChatGPT yetişkinlere yönelik modu hazırlıyor: daha az filtre, daha fazla kontrol ve yaş konusunda büyük bir meydan okuma.

Üretken yapay zekâ sektörü hassas bir değişime hazırlanıyor: yeni teknolojinin gelişi. ChatGPT yetişkin modu, için tasarlanmış bir yapılandırma Mevcut filtrelerin bazılarını gevşetin ve daha açık konuşmalara izin verin., her zaman yetişkinlerle sınırlıdırUzun zamandır söylentileri dolaşan ve şimdi OpenAI tarafından resmen duyurulan bu özellik, şu amaçları taşıyor: Asistanın aşırı muhafazakâr davrandığını düşünenlerin şikayetlerine yanıt olarak.özellikle son model güncellemelerinden sonra.

Sam Altman'ın şirketi, bu modun sistemleri bu özelliği destekleyebilecek duruma gelene kadar etkinleştirilmeyeceğini doğruladı. her kullanıcının yaşını doğrulayınArtık sadece "Evet, 18 yaşından büyüğüm" kutucuğunu işaretlemek yeterli olmayacak: ChatGPT'deki belirli içeriklere erişim, yapay zeka modelleri, davranış analizi ve güçlendirilmiş güvenlik politikalarının bir kombinasyonuna bağlı olacaktır.Amaç, reşit olmayanları dışlamak ve yetişkinlere daha fazla hareket alanı sağlamaktır.

Kontrollerin ince ayarı için yayın tarihi 2026'ya ertelendi.

OpenAI, önceliğinin ne olduğunu defalarca belirtmiştir. çocuk koruma alanında hatalardan kaçınınBu durum da takvimi etkiledi. Altman, yetişkinlere yönelik modun Aralık ayında hazır olacağını kamuoyuna duyurmuş olsa da, şirket tarihi değiştirdi ve şimdi çıkış tarihini şu tarihe erteledi: 2026'in ilk çeyreğiYöneticilere göre gecikmenin nedeni, yeni deneyime giriş kapısı görevi görecek olan yaş tahmin sisteminin iyileştirilmesi ihtiyacıdır.

OpenAI'nin Uygulamalar Bölümü Başkanı Fidji Simo, çeşitli basın toplantılarında şirketin şu anda bir aşamada olduğunu açıkladı. yaş tahmin modelinin ilk test aşamalarıBu model, kullanıcıya doğrudan sormakla kalmaz, aynı zamanda kullanıcının reşit olmayan, genç veya yetişkin olup olmadığını otomatik olarak tahmin etmeye çalışır. Her durumda hangi tür içeriğin uygun olduğuna karar verin..

Şirket halihazırda testler yürütüyor. belirli ülkeler ve pazarlarSistemin ergenleri yetişkinlerle karıştırmadan ne kadar doğru bir şekilde tanımladığını analiz etmek. Bu nokta özellikle hassastır: Yanlış pozitif sonuç nedeniyle bir küçüğün sınavı geçmesi, hukuki ve itibar sorunlarına yol açabilir.Öte yandan, yaşlı kullanıcıları sistematik olarak engelleyen yanlış negatif sonuçlar, ürün deneyimine ve ürüne olan güvene zarar verir.

Aynı zamanda OpenAI, hem uluslararası alanda hem de uluslararası alanda giderek daha talepkar hale gelen düzenleyici ortama uyum sağlamaya çalışıyor. Amerika Birleşik Devletleri, Avrupa'da olduğu gibi.Yaş doğrulama mekanizmalarının güçlendirilmesini ve hassas içeriklerin izlenmesini gerektiren yasaların geliştirildiği bir ortamda, Yetişkin modu basit bir ek özellik olarak değil, bir bütün olarak tasarlanmıştır. karmaşık bir düzenleyici bulmacaya uyması gerekecek bir unsur.

Yetişkin modu tam olarak ne sunmayı amaçlıyor?

Büyük şüphelerden biri şu etrafında dönüyor: ChatGPT aslında ne tür içeriklere izin verecek? Yetişkin modu kullanıma sunulduğunda. OpenAI daha önce, açıkça bilgilendirici, edebi veya rızaya dayalı yetişkin içeriklerinde bile neredeyse her türlü erotik göndermeyi yasaklayan çok kısıtlayıcı politikalara sahipti. Yeni modla birlikte şirket, bu kurallardan bazılarını gevşetmeye açık olsa da, bu gevşetmenin kapsamını henüz belirtmedi.

Simo ve Altman'ın aktardığı genel fikir, kimlik doğrulaması yapılmış yetişkinlerin erişim sağlayabileceği yönündedir. daha kişisel, duyusal, romantik ve hatta erotik konuşmalar...bağlam ve kullanıcının isteği gerektirdiğinde, daha az süslü bir dil kullanılarak. Bu, örneğin, romantik romanlardan kurgusal sahneleri veya cinsellikle ilgili doğrudan açıklamaları içerebilir ve asistanın hemen donup kalmasına neden olmaz.

Şirket, amacın chatbot'u kuralsız bir platforma dönüştürmek değil, birçok kullanıcının "aseptik" olarak tanımladığı bir yaklaşımı tersine çevirmek olduğunu ısrarla belirtiyor. Altman'ın tekrarladığı mesaj şu: “Yetişkin kullanıcılara yetişkin gibi davranın”Daha fazla yaratıcı özgürlük ve ifade olanağı sağlarken, aynı zamanda küçüklerin kötüye kullanımını veya yetkisiz erişimini önlemek için güçlendirilmiş bir güvenlik çerçevesi altında faaliyet göstermektedir.

Todavía Hangi materyallerin izin verilen erotik materyal olarak kabul edileceği ve hangilerinin yasaklı kalmaya devam edeceği henüz belirlenmedi. Çünkü zararlı, yasa dışı veya kurum içi politikalara aykırı olarak kabul ediliyor. Bu sınır çok önemli olacak.Bu, hem günlük kullanım için hem de sürekli engellerle karşılaşmadan daha açık sahnelerle çalışabilmeyi hedefleyen içerik yazarları, senaristler veya yaratıcılar için uygundur.

En önemli unsur: Yaşınızı tahmin etmeye çalışan bir yapay zeka.

Çocukluk, gençlik ve yetişkinlik deneyimleri arasındaki bu ayrımı mümkün kılmak için OpenAI bir proje geliştiriyor. yaş doğrulama ve tahmin sistemi Yapay zekâya dayanmaktadır. Amaç, özellikle Avrupa'da gizlilik, güvenilirlik ve sosyal kabul sorunlarını gündeme getiren basit kullanıcı beyanı veya yüz tanıma gibi geleneksel yöntemlerden uzaklaşmaktır.

Bunun yerine şirket, analiz eden bir modeli test ediyor. Kendilerini ifade etme biçimleri, gündeme getirdikleri konular ve etkileşim kalıpları Sistem, sohbet robotu aracılığıyla, kullanıcının reşit olmayan, genç veya yetişkin olup olmadığını hesaplar ve bu sonuca bağlı olarak bir veya diğer içerik politikasını etkinleştirir.

Bu yaklaşımın, kullanıcının belge veya resim göndermesini gerektirmemesi açısından belirgin avantajları vardır, ancak aynı zamanda bazı dezavantajları da beraberinde getirir. teknik ve yasal risklerBir hata, bir çocuğun yetişkin içerikli materyallere erişmesine veya bir yetişkinin sistematik olarak "çocuk dostu" bir deneyime sıkıştırılmasına yol açabilir; bu da şikayetlere, güven kaybına ve potansiyel olarak düzenleyici yaptırımlara neden olabilir.

OpenAI'nin kendisi de bunu kabul ediyor. aşırı ihtiyatlı davranmayı tercih eder.Sistem kullanıcının yaşını net bir şekilde belirleyemediğinde, varsayılan deneyim, 18 yaş altı kullanıcılar için aynı katı kısıtlamalarla güvenli bir ortam olacaktır. Sistem, kullanıcının yetişkin olduğundan makul ölçüde emin olduğunda, yetişkin modu ve ilgili özellikleri etkinleştirilecektir.

Avrupa'da bu tür bir çözümün, aşağıdakiler gibi düzenleyici çerçevelerle birlikte var olması gerekecektir. Dijital Hizmetler Düzenlemesi (DSA) Ayrıca, otomatik karar alma süreçlerinin nasıl işlediği ve yaş gibi hassas özelliklerin belirlenmesinde hangi verilerin kullanıldığı konusunda şeffaflık gerektiren çocuk koruma ve gizlilik düzenlemeleri de bulunmaktadır.

Sohbet robotuyla ilgili psikolojik riskler ve duygusal bağlar

Teknik boyutun ötesinde, en çok tartışma yaratan noktalardan biri de daha hoşgörülü bir sohbet robotunun yaratabileceği etkidir. kullanıcıların ruh sağlığı ve duygusal bağlarıSon dönemde aşağıdaki gibi dergilerde yayınlanan çalışmalar Sosyal ve Kişisel İlişkiler Dergisi Araştırmacılar, sanal asistanlarla güçlü duygusal bağlar kuran yetişkinlerin daha yüksek düzeyde psikolojik sıkıntı yaşama olasılığının daha yüksek olduğunu öne sürüyor.

Paralel araştırmalar, bazı kişilerin daha az yüz yüze sosyal etkileşim İnsanlar arkadaşlık, tavsiye veya duygusal onay için genellikle sohbet robotlarına daha çok güveniyorlar.Bu bağlamda, samimi konuşmalara, flörtleşmeye veya erotik içeriğe izin veren bir yetişkin modu, özellikle sistem çok empatik ve uyumlu bir kişilik benimserse, bu bağımlılığı daha da derinleştirebilir.

OpenAI bu endişelere yabancı değil. Şirket, bazı kullanıcıların bu endişelere ulaştığını kabul etti. ChatGPT'ye duygusal bağ geliştirmekHatta bu durum, kullanıcıların hayal kırıklıklarını ifade etmek için bunu birincil araç olarak kullanmalarına yol açtı. Buna karşılık şirket, iç girişimler başlattı ve dijital refah uzmanlarından tavsiye alarak modellerinin tasarımını daha güvenli etkileşimlere doğru yönlendirmeyi, chatbot'un profesyonel destek veya gerçek insan ilişkilerinin yerini almasını önlemeyi hedefledi.

Bu bağlamda, yetişkin bir moda açılmak açık bir gerilim yaratır: bir yandan, kişi arayış içindedir yetişkinlerin özerkliğine saygı gösterin İnsanlar yapay zekayla nasıl etkileşim kurmak istediklerine karar vermek zorundadır; öte yandan, teknolojinin hala nispeten yeni olduğu ve kolektif psikoloji üzerindeki uzun vadeli etkilerinin henüz çok az bilindiği de kabul edilmektedir.

Özgürlük sunma ve Bağımlılık veya duygusal zarar dinamiklerinden kaçının. Bu, özellikle bu tartışmaların yıllardır sürdüğü Avrupa Birliği ülkelerinde, düzenleyiciler, psikologlar ve tüketiciyi koruma örgütleri tarafından en yakından izlenecek hususlardan biri olacak.

Düzenleyici baskı ve sektördeki diğer aktörlerle karşılaştırma

Yetişkinlere yönelik modun duyurulması, büyük teknoloji şirketlerinin şu anda en çok talep gören adımlar attığı bir döneme denk geliyor. düzenleyicilerin ve kamuoyunun merceğinde Sistemlerinin reşit olmayanlarla etkileşim biçimi nedeniyle. Meta asistanlarının ergen kullanıcılarla cinsel içerikli konuşmalar yaptığı iddia edilen vakalar gibi olaylar, geleneksel yaş doğrulama mekanizmalarının yetersiz olduğunu ortaya koymuştur. Oyuncaklar ve sohbet robotları mercek altında.

Hali hazırda ürünlerinin etkisi nedeniyle davalarla ve incelemelerle karşı karşıya olan OpenAI, Kendisini nispeten ihtiyatlı bir oyuncu olarak göstermeye çalışıyor. Bazı rakiplerine kıyasla. Şirket, daha sağlam bir doğrulama sistemine sahip olana kadar yetişkin modunu geciktirirken, diğer konuşma tabanlı yapay zeka hizmetleri daha az kısıtlayıcı yollar izleyerek ilerledi.

Gibi araçlar xAI'den GrokCharacter.AI gibi sanal karakter platformları da bu konuda denemeler yaptı. romantik etkileşimler ve sanal "waifular" Bu sistemler kullanıcıyla flört ederek, müstehcen içeriği önemli bir pazarlama aracı haline getiriyor. Ayrıca, kurumsal denetim olmadan yerel olarak çalıştırılabilen ve neredeyse hiçbir filtre olmadan yetişkin içeriği oluşturmaya olanak tanıyan açık kaynaklı modeller de mevcut.

Buna paralel olarak, bazıları gibi büyük platform sistemlerinin yer aldığı durumlar ortaya çıkmıştır. Meta modellerBu şirketlerin reşit olmayanlarla cinsel içerikli konuşmalar yapması, bu şirketlerin genç kullanıcıları korumak için yeterince önlem alıp almadığı veya tam tersine potansiyel olarak tehlikeli özellikler konusunda çok hızlı hareket edip etmedikleri konusundaki tartışmayı alevlendirdi.

OpenAI bu ara bölgede faaliyet gösteriyor: istediği şey bu. Özellikler ve özgürlük konusunda rekabet etmek Sektördeki diğer oyuncularla iş birliği içinde çalışacak, ancak aynı zamanda düzenleyicilere ve kamuoyuna yaklaşımının güvenliğe öncelik verdiğini göstermesi gerekecek. Yetişkin modunun başarısı veya başarısızlığı, hem kullanıcı memnuniyeti hem de kullanımıyla bağlantılı ciddi skandalların olmamasıyla ölçülecektir.

Yetişkinlere yönelik içerik modu İspanya ve Avrupa'ya geldiğinde kullanıcıları neler bekleyebilir?

ChatGPT'nin yetişkin modu tamamen faaliyete geçtiğinde, farklı bölgelere kademeli olarak yayılacak; bu da özellikle hassas bir konu. İspanya ve Avrupa Birliği'nin geri kalanıGizlilik, çocuk koruma ve algoritmik şeffaflık kurallarının diğer pazarlara göre daha katı olduğu yerlerde.

Yetişkin modunu etkinleştirmek için kullanıcıların belirli adımları izlemesi gerekeceği tahmin ediliyor. bir doğrulama süreci Otomatik yaş tahminini belirli ek doğrulama adımlarıyla birleştiren bir sistem. Yerel düzenleyici gerekliliklere bağlı olarak, belge doğrulama veya güvenilir üçüncü taraflar aracılığıyla doğrulama gibi bir yöntem de getirilebilir, ancak OpenAI Avrupa pazarı için henüz spesifik ayrıntılar sağlamadı.

Etkinleştirildikten sonra, yetişkin kullanıcı şunu fark etmelidir: Cinsellik, ilişkiler, sevgi ve erotik kurgu konularında daha az sansürlenmiş cevaplar.Her zaman yasa ve şirketin iç politikaları tarafından belirlenen sınırlar dahilinde olacaktır. Oluşturulacak içerik türü hakkında görünür uyarılar ve modu istediğiniz zaman devre dışı bırakma seçenekleri muhtemelen uygulanacaktır.

Bu arada, İspanya ve Avrupa'da ChatGPT kullanan küçük yaştaki kişiler bazı sorunlarla karşılaşacaklar. daha sınırlı ve denetimli bir deneyimCinsel içerikli ve zararlı kabul edilen diğer materyallerin otomatik olarak engellenmesi özelliğiyle birlikte, sistem aşırı durumlarda, kullanıcının güvenliğine yönelik ciddi riskler tespit etmesi halinde uyarı protokollerini devreye sokabilir veya kolluk kuvvetlerinin müdahalesini kolaylaştırabilir.

Şirket, durumu net bir şekilde açıklama zorluğuyla karşı karşıya. Yaş tahmin sisteminiz nasıl kararlar alıyor?Hangi verilerin toplandığı, ne kadar süreyle saklandığı ve kullanıcıların hatalara nasıl itiraz edebileceği veya bunları nasıl düzeltebileceği konularında şeffaflık şarttır. Bu şeffaflık, özellikle gizliliğin son derece hassas olduğu ortamlarda, hem düzenleyicilerin hem de vatandaşların güvenini kazanmanın anahtarı olacaktır.

Ancak ChatGPT'nin yetişkinlere yönelik modu, oldukça iddialı bir hal alıyor. en hassas değişikliklerden biri Yapay zekâ tabanlı asistanların kısa tarihinde amaç, yetişkinlerin daha fazla özgürlük ve gerçekçilik talebini karşılarken aynı zamanda karmaşık ve hâlâ test aşamasında olan bir doğrulama sistemi aracılığıyla çocukları korumaktır. Nihai lansmanına kadar tartışma aynı soru etrafında dönmeye devam edecek: Sorumluluğu ve en savunmasızların korunmasını gözden kaçırmadan yapay zekâya ne kadar gizlilik ve erotizm bahşetmeye hazırız?

İlgili makale:

Roblox, çocuk dostu önlemlerini güçlendiriyor: yüz doğrulama ve yaşa dayalı sohbetler

Alberto navarro

Ben "inek" merakını mesleğe dönüştürmüş bir teknoloji tutkunuyum. Hayatımın 10 yıldan fazlasını en son teknolojiyi kullanarak ve sırf merakımdan dolayı her türlü programı kurcalayarak geçirdim. Artık bilgisayar teknolojisi ve video oyunları konusunda uzmanlaştım. Bunun nedeni, 5 yılı aşkın bir süredir teknoloji ve video oyunlarıyla ilgili çeşitli web sitelerinde yazılar yazıyor olmam ve ihtiyacınız olan bilgileri herkesin anlayabileceği bir dilde size vermeye çalışan makaleler oluşturmamdır.

Sorularınız varsa bilgim Windows işletim sistemi ve cep telefonları için Android ile ilgili her şeyi kapsar. Ve size olan bağlılığımdır, her zaman birkaç dakikamı ayırmaya ve bu internet dünyasında aklınıza gelebilecek her türlü soruyu çözmenize yardımcı olmaya hazırım.