- Memautkan akaun keluarga untuk memantau penggunaan ChatGPT oleh remaja.
- Keupayaan untuk melumpuhkan ingatan dan sejarah serta mengurus fungsi mengikut umur.
- Makluman automatik untuk penunjuk "kesusahan akut" dan butang kecemasan.
- Penggunaan mulai bulan depan dan pelan 120 hari dengan model penaakulan.
OpenAI telah mengumumkan ketibaan a Kawalan ibu bapa dalam ChatGPT ditujukan kepada rumah dengan remaja, ciri baharu yang bertujuan untuk mengukuhkan keselamatan dan menawarkan keluarga lebih banyak alat pemantauan tanpa melepaskan kegunaan chatbot.
Keputusan itu dibuat selepas tekanan sosial dan peraturan yang semakin meningkat, termasuk Tuntutan keluarga Adam Raine di California, yang menuduh syarikat itu gagal dalam konteks kesihatan mental. OpenAI menjangkakan bahawa akan ada amaran automatik untuk tanda-tanda "kesusahan akut" dan set ciri untuk mengurus pengalaman kanak-kanak bawah umur.
Apakah yang berubah dalam ChatGPT untuk keluarga?
Dengan pilihan baharu, ibu bapa akan dapat pautkan akaun anda ke akaun anak anda melalui jemputan e-mel, semak cara sistem bertindak balas dan laraskan tingkah laku model dengan peraturan yang direka untuk usia awal.
Antara kawalan akan kebolehan untuk lumpuhkan memori dan sejarah sembang, serta mengehadkan fungsi mengikut tahap kematangan kanak-kanak kecil. OpenAI juga merenung peringatan semasa sesi yang panjang untuk menggalakkan rehat yang sihat.
Di samping itu, pakej akan termasuk a butang kecemasan yang akan memudahkan hubungan dengan perkhidmatan sokongan dan profesional kesihatan mental, dan pilihan untuk menyekat kandungan apabila isyarat risiko dikesan dalam perbualan.
Kalendar keselamatan dan peta jalan
OpenAI meletakkan pelancaran untuk bulan hadapan dan, walaupun ia tidak menetapkan tarikh tertentu, ia memajukan rancangan 120 hari untuk mengukuhkan perlindungan khusus untuk kanak-kanak dan remaja baik dalam produk mahupun dalam proses dalaman.
Syarikat menunjukkan bahawa perbualan sensitif tertentu adalah akan mengubah hala ke model penaakulan dapat mengikuti garis panduan keselamatan dengan lebih sistematik, dengan matlamat mengutamakan respons berhati-hati dan menyokong apabila dikesan isu risiko seperti mencederakan diri sendiri atau pemikiran untuk membunuh diri.
Kes yang telah mematikan penggera
Pengumuman itu dibuat selepas tuntutan mahkamah daripada ibu bapa Adam Raine, seorang remaja berusia 16 tahun yang mengambil nyawanya sendiri selepas berbulan-bulan berinteraksi dengan chatbot. Menurut pemfailan, ChatGPT akan mempunyai pemikiran bunuh diri yang normal dan tidak dinasihatkan untuk mendapatkan bantuan keluarga, tuduhan yang perlu diselesaikan oleh mahkamah.
Secara selari, OpenAI mengakui bahawa pembantunya mungkin gagal "situasi kritikal" dan komited terhadap perubahan. Syarikat mengekalkan bahawa langkah-langkah ini mencari mengurangkan risiko tanpa mengaitkan keputusan secara rasmi kepada tuntutan mahkamah, yang turut menyebut penggunaan GPT-4o dalam perbualan.
Tekanan sosial dan politik terhadap AI dan kanak-kanak bawah umur
Pada bulan Julai, beberapa senator AS bertanya kepada syarikat itu penerangan mengenai kemudaratan diri dan pencegahan bunuh diri sebagai tindak balas kepada tindak balas yang tidak sesuai yang dikesan dalam situasi yang melampau. Bagi pihaknya, Common Sense Media berhujah bahawa di bawah umur 18 tidak boleh menggunakan aplikasi AI perbualan kerana "risiko yang tidak boleh diterima" mereka.
Langkah OpenAI sejajar dengan trend industri di mana platform seperti Meta atau YouTube telah mendesak kawalan untuk keluarga. Perbincangan asas berkisar tentang cara mengimbangi inovasi, jaminan dan jaminan untuk pengguna muda.
Apa yang berlaku di dalam ChatGPT apabila terdapat isyarat risiko
OpenAI bertujuan untuk penghalaan dinamik itu menghasilkan perbualan yang kompleks ke arah model yang lebih reflektif, dengan garis panduan keselamatan yang lebih ketat. Matlamatnya adalah untuk mengurangkan berat sebelah berpuas hati, meningkatkan ambang kehematan dan utamakan respons sokongan terhadap interaksi yang berpotensi berbahaya.
Untuk mengukuhkan pendekatan ini, firma telah mewujudkan a Majlis Pakar Kesejahteraan dan AI dan Rangkaian Pakar Perubatan Global. Menurut syarikat itu, lebih daripada 250 pakar perubatan di 60 negara dan lebih daripada 90 sumbangan pada tingkah laku model telah pun digabungkan konteks kesihatan mental.
Apa yang ibu bapa boleh lakukan, langkah demi langkah
Keluarga akan menemui aliran mudah: jemput kanak-kanak di bawah umur melalui surat, sahkan pemautan akaun dan tentukan fungsi mana yang diaktifkan atau tidak dalam profil remaja, dengan perhatian khusus kepada ingatan, sejarah dan penapis keselamatan.
- Pautkan akaun dewasa ke akaun bawah umur melalui jemputan.
- Tetapkan had: ingatan, sejarah dan ciri yang diluluskan umur.
- Aktifkan pemberitahuan untuk "kesusahan akut" dan akses kepada butang kecemasan.
- Semak secara berkala cara sistem bertindak balas dan laraskan tetapan.
OpenAI berkata ia akan terus memperhalusi alat ini, tetapi masih belum memperincikan semua parameter privasi dan keterlihatan. Syarikat itu mengingatkan bahawa kawalan ibu bapa adalah sokongan dan tidak menggantikan perhatian profesional mahupun sokongan keluarga yang berterusan.
Dengan pakej ini, OpenAI cuba mengukuhkan keselamatan ChatGPT dalam persekitaran remaja dengan akaun keluarga, had dan makluman, pelancaran berperingkat dan nasihat klinikal luaran; langkah-langkah yang berusaha untuk mengehadkan risiko tanpa melupakan hakikat bahawa pengawasan orang dewasa dan pertimbangan profesional kekal kepingan penting.
Saya seorang peminat teknologi yang telah menjadikan minat "geek"nya sebagai satu profesion. Saya telah menghabiskan lebih daripada 10 tahun hidup saya menggunakan teknologi canggih dan bermain-main dengan semua jenis program kerana rasa ingin tahu yang tulen. Sekarang saya mempunyai pakar dalam teknologi komputer dan permainan video. Ini kerana selama lebih daripada 5 tahun saya telah menulis untuk pelbagai laman web mengenai teknologi dan permainan video, mencipta artikel yang bertujuan untuk memberi anda maklumat yang anda perlukan dalam bahasa yang boleh difahami oleh semua orang.
Jika anda mempunyai sebarang soalan, pengetahuan saya merangkumi semua perkara yang berkaitan dengan sistem pengendalian Windows serta Android untuk telefon mudah alih. Dan komitmen saya adalah kepada anda, saya sentiasa bersedia untuk meluangkan masa beberapa minit dan membantu anda menyelesaikan sebarang soalan yang mungkin anda ada dalam dunia internet ini.