ChatGPT sedang mempersiapkan mode dewasa: lebih sedikit filter, lebih banyak kontrol, dan tantangan besar terkait usia.

Sektor kecerdasan buatan generatif sedang bersiap menghadapi perubahan yang rumit: kedatangan Mode dewasa ChatGPT, konfigurasi yang dirancang untuk Melonggarkan beberapa filter yang ada dan memungkinkan percakapan yang lebih eksplisit., selalu terbatas untuk orang dewasaFitur ini, yang telah lama dirumorkan dan kini secara resmi diumumkan oleh OpenAI, bertujuan untuk menanggapi keluhan dari mereka yang merasa asisten tersebut menjadi terlalu konservatif.terutama setelah pembaruan model terbaru.

Perusahaan Sam Altman telah mengkonfirmasi bahwa mode ini tidak akan diaktifkan sampai sistemnya mampu verifikasi usia setiap penggunaMencentang kotak bertuliskan “ya, saya sudah berusia di atas 18 tahun” saja tidak akan cukup lagi: Akses ke konten tertentu di ChatGPT akan bergantung pada kombinasi model AI, analisis perilaku, dan kebijakan keamanan yang diperkuat.dengan tujuan untuk mengecualikan anak di bawah umur dan memberikan lebih banyak ruang gerak bagi orang dewasa.

Peluncuran ditunda hingga tahun 2026 untuk menyempurnakan kontrol.

OpenAI telah berulang kali menyatakan bahwa prioritasnya adalah hindari kesalahan dalam perlindungan anakDan itu berdampak pada jadwal. Meskipun Altman secara publik mengumumkan bahwa mode dewasa akan siap pada bulan Desember, perusahaan telah menggeser tanggal tersebut dan sekarang menempatkan rilisnya selama bulan tersebut. kuartal pertama 2026Menurut para pengelolanya, penundaan tersebut disebabkan oleh kebutuhan untuk meningkatkan sistem prediksi usia yang akan berfungsi sebagai pintu masuk menuju pengalaman baru tersebut.

Fidji Simo, kepala Aplikasi di OpenAI, telah menjelaskan dalam beberapa konferensi pers bahwa perusahaan saat ini sedang dalam tahap fase pengujian pertama dari model estimasi usia merekaModel ini tidak hanya menanyakan kepada pengguna, tetapi juga mencoba untuk secara otomatis menyimpulkan apakah mereka anak di bawah umur, remaja, atau dewasa, untuk tujuan tertentu. Tentukan jenis konten apa yang sesuai dalam setiap kasus..

Perusahaan tersebut sudah melakukan pengujian di negara dan pasar tertentuMenganalisis sejauh mana sistem tersebut secara akurat mengidentifikasi remaja tanpa mencampuradukkan mereka dengan orang dewasa. Poin ini sangat sensitif: Hasil positif palsu yang memungkinkan seorang anak di bawah umur lolos tes dapat menyebabkan masalah hukum dan reputasi.Sedangkan hasil negatif palsu yang secara sistematis memblokir pengguna yang lebih tua akan merusak pengalaman dan kepercayaan terhadap produk.

Pada saat yang sama, OpenAI berupaya untuk mematuhi lingkungan peraturan yang semakin menuntut, baik dalam hal Amerika Serikat, seperti di Eropadi mana undang-undang sedang dikembangkan yang mensyaratkan penguatan mekanisme verifikasi usia dan pemantauan konten sensitif. Oleh karena itu, mode dewasa tidak dianggap sebagai fitur tambahan sederhana, tetapi sebagai sebuah elemen yang harus sesuai dengan teka-teki regulasi yang kompleks..

Apa sebenarnya yang ingin ditawarkan oleh mode dewasa?

Salah satu keraguan besar adalah seputar Jenis konten apa yang sebenarnya akan diizinkan oleh ChatGPT? Saat mode dewasa tersedia. Sebelumnya, OpenAI memiliki kebijakan yang sangat ketat yang melarang hampir semua referensi erotis, bahkan dalam konteks dewasa yang jelas informatif, sastra, atau berdasarkan persetujuan. Dengan mode baru ini, perusahaan terbuka untuk melonggarkan beberapa aturan tersebut, meskipun belum menentukan sejauh mana pelonggaran ini.

Gagasan umum yang disampaikan Simo dan Altman adalah bahwa orang dewasa yang terverifikasi akan dapat mengaksesnya. percakapan yang lebih personal, sensual, romantis, dan bahkan erotis....dengan penggunaan bahasa yang lebih lugas ketika konteks dan permintaan pengguna memerlukannya. Ini termasuk, misalnya, adegan fiksi dari novel romantis atau penjelasan langsung tentang seksualitas, tanpa membuat asisten langsung kaku.

Perusahaan tersebut menegaskan bahwa tujuannya bukanlah untuk mengubah chatbot menjadi platform tanpa aturan, melainkan untuk membalikkan pendekatan yang oleh banyak pengguna digambarkan sebagai "aseptik." Pesan yang telah diulang-ulang oleh Altman adalah: “perlakukan pengguna dewasa sebagai orang dewasa”Memberikan kebebasan dan ekspresi kreatif yang lebih besar, tetapi di bawah kerangka keamanan yang diperkuat untuk mencegah penyalahgunaan atau akses tanpa izin oleh anak di bawah umur.

Tetap saja Masih perlu ditentukan materi apa yang akan dianggap sebagai materi erotis yang diperbolehkan dan apa yang akan tetap dilarang. karena dianggap berbahaya, ilegal, atau bertentangan dengan kebijakan internal. Batasan itu akan menjadi kunci.Ini untuk penggunaan sehari-hari serta untuk penulis konten, penulis skenario, atau kreator yang telah berupaya untuk dapat mengerjakan adegan yang lebih eksplisit tanpa mengalami hambatan terus-menerus.

Elemen kuncinya: sebuah AI yang mencoba menebak usia Anda.

Untuk mewujudkan pemisahan antara pengalaman masa kanak-kanak, remaja, dan dewasa ini, OpenAI sedang mengembangkan sebuah sistem verifikasi dan prediksi usia Berdasarkan kecerdasan buatan. Tujuannya adalah untuk beralih dari metode tradisional, seperti deklarasi pengguna sederhana atau pengenalan wajah, yang menimbulkan masalah privasi, keandalan, dan penerimaan sosial, terutama di Eropa.

Sebaliknya, perusahaan tersebut sedang menguji sebuah model yang menganalisis cara mereka mengekspresikan diri, topik yang mereka angkat, dan pola interaksi mereka. dengan chatbot. Berdasarkan informasi tersebut, sistem menghitung apakah kemungkinan pengguna tersebut adalah anak di bawah umur, remaja, atau dewasa dan, tergantung pada hasilnya, mengaktifkan kebijakan konten yang sesuai.

Pendekatan ini memiliki keunggulan yang jelas dalam hal kemudahan, karena tidak mengharuskan pengguna untuk mengirim dokumen atau gambar, tetapi juga menimbulkan beberapa kendala. risiko teknis dan hukumKesalahan dapat mengakibatkan anak di bawah umur mengakses konten dewasa atau orang dewasa secara sistematis dikategorikan ke dalam pengalaman "ramah anak", yang menyebabkan keluhan, hilangnya kepercayaan, dan berpotensi sanksi regulasi.

OpenAI sendiri mengakui bahwa lebih suka bersikap terlalu berhati-hati.Jika sistem tidak dapat menentukan usia pengguna dengan jelas, pengalaman default akan berupa lingkungan yang aman untuk pengguna di bawah 18 tahun, dengan batasan ketat yang sama seperti sebelumnya. Mode dewasa dan fitur-fitur terkaitnya hanya akan diaktifkan jika sistem cukup yakin bahwa pengguna tersebut sudah dewasa.

Di Eropa, solusi jenis ini harus berdampingan dengan kerangka peraturan seperti... Peraturan Layanan Digital (DSA) serta peraturan tentang perlindungan dan privasi anak, yang mensyaratkan transparansi tentang bagaimana keputusan otomatis dibuat dan data apa yang digunakan untuk menyimpulkan karakteristik sensitif seperti usia.

Risiko psikologis dan ikatan emosional dengan chatbot

Di luar dimensi teknis, salah satu poin yang paling banyak diperdebatkan adalah dampak yang dapat ditimbulkan oleh chatbot yang lebih permisif terhadap... kesehatan mental dan ikatan emosional penggunaStudi terbaru yang dipublikasikan di jurnal seperti Jurnal Sosial dan Pribadi Hubungan Mereka berpendapat bahwa orang dewasa yang menjalin ikatan emosional yang kuat dengan asisten virtual lebih cenderung mengalami tingkat tekanan psikologis yang lebih tinggi.

Penelitian paralel menunjukkan bahwa orang dengan interaksi sosial tatap muka yang lebih sedikit Mereka cenderung lebih mengandalkan chatbot untuk teman, nasihat, atau validasi emosional.Dalam konteks itu, mode dewasa yang memungkinkan percakapan intim, rayuan, atau konten erotis dapat memperdalam ketergantungan tersebut, terutama jika sistem tersebut mengadopsi kepribadian yang sangat empatik dan mudah beradaptasi.

OpenAI sudah tidak asing lagi dengan kekhawatiran ini. Perusahaan tersebut telah mengakui bahwa beberapa pengguna menghubungi mengembangkan keterikatan emosional terhadap ChatGPTsampai pada titik menggunakannya sebagai saluran utama untuk melampiaskan frustrasi. Sebagai tanggapan, perusahaan telah menerapkan inisiatif internal dan meminta saran dari para ahli kesejahteraan digital untuk memandu desain modelnya menuju interaksi yang lebih aman, dengan tujuan mencegah chatbot disajikan sebagai pengganti dukungan profesional atau hubungan manusia yang sebenarnya.

Dalam konteks ini, keterbukaan terhadap gaya hidup dewasa menimbulkan ketegangan yang jelas: di satu sisi, seseorang berupaya menghormati otonomi orang dewasa untuk memutuskan bagaimana mereka ingin berinteraksi dengan AI; di sisi lain, diakui bahwa teknologi ini masih relatif baru dan efek jangka panjangnya terhadap psikologi kolektif masih kurang diketahui.

Keseimbangan antara menawarkan kebebasan dan hindari dinamika ketergantungan atau bahaya emosional Ini akan menjadi salah satu aspek yang paling dipantau oleh regulator, psikolog, dan organisasi perlindungan konsumen, terutama di negara-negara Uni Eropa di mana perdebatan ini telah berlangsung selama bertahun-tahun.

Tekanan regulasi dan perbandingan dengan pelaku lain di sektor ini

Pengumuman mode dewasa ini datang pada saat perusahaan teknologi besar sedang berada di dalam sorotan regulator dan opini publik karena cara sistem mereka berinteraksi dengan anak di bawah umur. Kasus seperti asisten Meta, yang diduga melakukan percakapan seksual eksplisit dengan pengguna remaja, telah menyoroti bahwa mekanisme verifikasi usia tradisional tidak memadai, seperti yang ditunjukkan dalam kasus-kasus berikut: Mainan dan chatbot dalam pengawasan ketat.

OpenAI, yang sudah menghadapi tuntutan hukum dan pengawasan terkait dampak produknya, Dia mencoba menampilkan dirinya sebagai aktor yang relatif bijaksana. dibandingkan dengan beberapa pesaingnya. Sementara perusahaan menunda mode dewasa hingga memiliki sistem verifikasi yang lebih kuat, layanan AI percakapan lainnya telah bergerak maju melalui jalur yang kurang ketat.

Alat seperti Grok, dari xAIatau platform karakter virtual seperti Character.AI telah bereksperimen dengan interaksi romantis dan "waifu" virtual Sistem-sistem ini menggoda pengguna, mengubah konten yang berisiko menjadi daya tarik pemasaran utama. Ada juga model sumber terbuka yang dapat dijalankan secara lokal, tanpa pengawasan perusahaan, memungkinkan pembuatan konten dewasa tanpa filter sama sekali.

Secara paralel, muncul kasus-kasus di mana sistem platform besar, seperti beberapa Model metaMereka telah melakukan percakapan yang berisi konten seksual eksplisit dengan anak di bawah umur, yang memicu perdebatan tentang apakah perusahaan-perusahaan ini telah melakukan cukup banyak untuk melindungi pengguna muda atau apakah, sebaliknya, mereka bergerak terlalu cepat dengan fitur-fitur yang berpotensi berbahaya.

OpenAI beroperasi di wilayah menengah tersebut: ia ingin bersaing dalam hal fitur dan kebebasan dengan pemain lain di sektor ini, tetapi pada saat yang sama perlu menunjukkan kepada regulator dan publik bahwa pendekatannya memprioritaskan keselamatan. Keberhasilan atau kegagalan mode dewasa akan diukur baik dari kepuasan pengguna maupun dari tidak adanya skandal serius yang terkait dengan penggunaannya.

Apa yang dapat diharapkan pengguna ketika mode dewasa hadir di Spanyol dan Eropa?

Ketika mode dewasa ChatGPT beroperasi penuh, peluncurannya akan dilakukan secara bertahap di berbagai wilayah, sesuatu yang sangat sensitif di Spanyol dan negara-negara Uni Eropa lainnyadi mana aturan tentang privasi, perlindungan anak, dan transparansi algoritma lebih ketat daripada di pasar lain.

Diperkirakan bahwa, untuk mengaktifkan mode dewasa, pengguna harus melalui proses verifikasi yang menggabungkan prediksi usia otomatis dengan beberapa langkah konfirmasi tambahan. Tergantung pada persyaratan peraturan setempat, beberapa bentuk validasi dokumen atau validasi melalui pihak ketiga tepercaya dapat diperkenalkan, meskipun OpenAI belum memberikan detail spesifik untuk pasar Eropa.

Setelah diaktifkan, pengguna dewasa akan memperhatikan Jawaban yang lebih sedikit disensor tentang topik seksualitas, hubungan, kasih sayang, dan fiksi erotis.Selalu dalam batasan yang ditetapkan oleh hukum dan kebijakan internal perusahaan. Peringatan yang terlihat tentang jenis konten yang akan dihasilkan kemungkinan akan diterapkan, serta opsi untuk menonaktifkan mode tersebut kapan saja.

Sementara itu, anak di bawah umur yang menggunakan ChatGPT di Spanyol dan Eropa akan menghadapi pengalaman yang lebih terbatas dan diawasidengan pemblokiran otomatis konten eksplisit seksual dan materi lain yang dianggap berbahaya. Dalam kasus ekstrem, sistem dapat mengaktifkan protokol peringatan atau memfasilitasi intervensi penegak hukum jika mendeteksi risiko serius terhadap keselamatan pengguna.

Perusahaan menghadapi tantangan untuk menjelaskan dengan jelas. Bagaimana sistem prediksi usia Anda mengambil keputusan?Data apa yang dikumpulkan, berapa lama data tersebut disimpan, dan bagaimana pengguna dapat mengajukan banding atau memperbaiki kesalahan. Transparansi ini akan menjadi kunci untuk mendapatkan kepercayaan dari regulator dan warga negara, terutama dalam konteks di mana privasi sangat sensitif.

Namun, mode dewasa ChatGPT tampaknya akan menjadi salah satu perubahan yang paling rumit Dalam sejarah singkat asisten berbasis AI, tujuannya adalah untuk memenuhi permintaan orang dewasa akan lebih banyak kebebasan dan realisme, sekaligus berupaya melindungi anak di bawah umur melalui sistem verifikasi yang kompleks dan masih dalam tahap pengujian. Hingga peluncuran finalnya, perdebatan akan terus berputar di sekitar pertanyaan yang sama: seberapa banyak privasi dan erotisme yang bersedia kita berikan kepada kecerdasan buatan tanpa melupakan tanggung jawab dan perlindungan terhadap mereka yang paling rentan?

Artikel terkait:

Roblox memperkuat langkah-langkah ramah anak: verifikasi wajah dan obrolan berdasarkan usia

Alberto navarro

Saya seorang penggila teknologi yang telah mengubah minat "geek"-nya menjadi sebuah profesi. Saya telah menghabiskan lebih dari 10 tahun hidup saya menggunakan teknologi mutakhir dan mengutak-atik semua jenis program hanya karena rasa ingin tahu. Sekarang saya memiliki spesialisasi dalam teknologi komputer dan video game. Hal ini karena selama lebih dari 5 tahun saya telah menulis untuk berbagai website tentang teknologi dan video game, membuat artikel yang berupaya memberikan informasi yang Anda butuhkan dalam bahasa yang dapat dimengerti oleh semua orang.

Jika Anda memiliki pertanyaan, pengetahuan saya berkisar dari segala sesuatu yang berhubungan dengan sistem operasi Windows serta Android untuk ponsel. Dan komitmen saya adalah kepada Anda, saya selalu bersedia meluangkan beberapa menit dan membantu Anda menyelesaikan pertanyaan apa pun yang mungkin Anda miliki di dunia internet ini.