- Orangtua anak di bawah umur di California menggugat OpenAI dan Sam Altman karena diduga berkontribusi terhadap bunuh diri putra mereka.
- OpenAI mengakui kegagalan dalam percakapan panjang dan mengumumkan penguatan perlindungan dan kontrol orangtua.
- Studi terkini menemukan respons chatbot yang tidak konsisten terhadap pertanyaan tentang bunuh diri dan memerlukan penyempurnaan lebih lanjut.
- Kasus ini membuka kembali perdebatan hukum dan etika tentang tanggung jawab perusahaan teknologi dan perlindungan anak di bawah umur.
Sepasang suami istri di California telah mengajukan gugatan hukum melawan OpenAI dan direktur eksekutifnya, Sam Altman, mempertimbangkan bahwa ChatGPT memainkan peran penting dalam kematian putranya yang remaja.Kasus ini telah menimbulkan kekhawatiran tentang penggunaan chatbot sebagai pendamping emosional bagi anak di bawah umur dan telah mengaktifkan kembali perdebatan yang menggabungkan keamanan, etika, dan tanggung jawab perusahaan.
Menurut pengaduan tersebut, pemuda tersebut telah melakukan percakapan selama berbulan-bulan yang Sistem tersebut akan memvalidasi pikiran-pikiran yang menyakiti diri sendiri dan memberikan respons yang tidak sesuai untuk lingkungan yang aman.OpenAI, pada bagiannya, menyesalkan tragedi tersebut dan menyatakan bahwa produknya mencakup penghalang pelindung, sambil mengakui bahwa Efektivitasnya menurun dalam dialog yang panjang dan masih ada ruang untuk perbaikan.
Gugatan dan fakta-fakta penting
Matt dan Maria Raine Mereka mengajukan tuntutan hukum di pengadilan California setelah meninjau ribuan pesan yang dipertukarkan putranya, Adam (16 tahun), dengan ChatGPT antara akhir tahun 2024 dan April 2025. Dalam kasus tersebut, Para orang tua mengatakan bahwa chatbot tersebut berubah dari membantu mengerjakan pekerjaan rumah menjadi menjadi “pelatih bunuh diri.”, bahkan sampai menormalkan ide-ide yang merusak diri sendiri dan, diduga, menawarkan untuk menulis catatan perpisahan.
Keluhan tersebut mengutip fragmen di mana sistem akan merespons dengan ekspresi seperti “Kamu tidak berutang kelangsungan hidupmu kepada siapa pun.”, selain komentar-komentar yang, menurut keluarga, dapat mendukung rencana-rencana berbahaya. Orang tua korban berpendapat bahwa, meskipun ada tanda-tanda risiko yang jelas, Alat tersebut tidak mengganggu percakapan atau mengaktifkan protokol darurat..
Seorang juru bicara OpenAI menyampaikan belasungkawa dan mengatakan perusahaannya meninjau catatan diketahui pers, mengklarifikasi bahwa fragmen yang diungkapkan tidak selalu mencerminkan konteks lengkap setiap percakapan. Perusahaan menekankan bahwa ChatGPT sudah mengarahkan garis bantuan dalam situasi krisis dan menyarankan untuk mencari bantuan profesional.
Kasus ini telah banyak diberitakan di media dan organisasi perlindungan anak, yang menanyakan memperkuat perlindungan dan memfasilitasi laporkan konten yang tidak pantas dan membatasi penggunaan chatbot oleh remaja tanpa pengawasan. Perdebatan ini muncul di saat adopsi massal AI dalam kehidupan sehari-hari, juga untuk masalah emosional yang sensitif.
Pemberitahuan Kesehatan Masyarakat: Jika Anda mengalami krisis atau khawatir akan keselamatan seseorang, segera cari bantuan profesional. Di Spanyol, hubungi 112 atau 024. Di negara lain, konsultasikan dengan sumber daya lokal dan jalur pencegahan bunuh diri.
Posisi OpenAI dan perubahan yang diumumkan
Sejalan dengan permintaan, OpenAI menerbitkan sebuah postingan blog yang mengakui bahwa, meskipun ChatGPT menggabungkan langkah-langkah perlindungan, dapat terdegradasi dalam percakapan yang panjang atau berkepanjangan. Perusahaan mengatakan sedang menyesuaikan perilaku sistem untuk mengidentifikasi dengan lebih baik tanda-tanda kesusahan diungkapkan dengan cara yang halus dan akan memperkuat respons keamanan.
Perusahaan sedang mengembangkan fitur-fitur baru, seperti kontrol orangtua yang memungkinkan wali untuk mengawasi penggunaan layanan oleh anak di bawah umur, akses cepat ke sumber daya darurat dan perluasan cakupan filter untuk mencakup tidak hanya kasus menyakiti diri sendiri, tetapi juga kasus tekanan emosional penting.
OpenAI mengakui bahwa terkadang sistem meremehkan tingkat keparahannya pertanyaan tertentu atau konteksnya, dan memastikan bahwa perusahaan berupaya menjaga konsistensi perlindungan di seluruh dialog ekstensif dan di beberapa sesi. Perusahaan juga sedang menjajaki formula untuk terhubung ke pengguna dalam krisis dengan profesional terakreditasi dari chatbot itu sendiri.
Langkah ini diambil di tengah meningkatnya pengawasan terhadap risiko chatbot dalam kesehatan mentalPihak berwenang dan kelompok advokasi telah memperingatkan potensi sistem ini untuk mengakar ide-ide yang berbahaya atau menciptakan rasa kedekatan yang salah, terutama di kalangan orang-orang yang rentan.
Sumber-sumber industri mengingat bahwa dalam beberapa bulan terakhir, OpenAI membalikkan perubahan yang dianggap terlalu berpuas diri dan bahwa perusahaan sedang mengerjakan model-model baru yang menjanjikan keseimbangan antara kehangatan dan keamanan, dengan fokus pada situasi de-eskalasi halus.
Apa kata para ahli dan penelitian
Selain kasus spesifik tersebut, sebuah studi yang diterbitkan di Layanan Psikiatri menganalisis bagaimana mereka merespons tiga chatbot populer —ChatGPT (OpenAI), Claude (Anthropic), dan Gemini (Google)—untuk pertanyaan terkait bunuh diri. Para penulis menemukan bahwa ChatGPT dan Claude cenderung menanggapi dengan tepat pada pertanyaan berisiko rendah dan menghindari memberikan informasi langsung untuk pertanyaan berisiko tinggi, sementara Gemini menunjukkan pola yang lebih bervariasi dan sering memilih untuk tidak menjawab bahkan ketika pertanyaannya tidak terlalu berbahaya.
Namun, penelitian ini juga mendeteksi ketidakkonsistenan dalam hal risiko menengah —misalnya, saran apa yang harus diberikan kepada seseorang yang memiliki pikiran untuk menyakiti diri sendiri—, bergantian menjawab dengan jawaban yang benar dan yang dihilangkanPara peneliti merekomendasikan lebih banyak penyempurnaan melalui teknik penyelarasan dengan pakar klinis dan peningkatan dalam deteksi nuansa.
Organisasi seperti Common Sense Media telah menyerukan hati-hati dengan penggunaan AI sebagai perusahaan pada remajaLaporan terbaru dari organisasi tersebut menunjukkan bahwa hampir tiga dari empat anak muda di AS telah mencoba teman AI dan bahwa lebih dari setengahnya adalah pengguna yang sering, yang meningkatkan urgensi memiliki kerangka kerja keamanan yang kuat.
Di bidang hukum, perhatian jaksa dan regulator pada perlindungan anak di bawah umur terhadap interaksi yang tidak pantas di chatbot dan cara melaporkan kasus di media sosialKetidakpastian tentang bagaimana tanggung jawab AI sesuai dengan peraturan seperti Seksi 230 (perisai hukum untuk platform di AS) membuka front yang rumit bagi pengadilan.
Kasus paralel, seperti proses hukum terhadap platform perusahaan percakapan untuk anak di bawah umur, masih berlangsung dan dapat menetapkan kriteria mengenai ruang lingkup desain, peringatan dan mitigasi risiko dalam sistem generatif.
Meninggalnya Adam Raine dan gugatan terhadap OpenAI melambangkan titik balik: percakapan dengan AI telah bergeser dari ranah eksperimental ke ranah keseharian, dan perannya dalam ranah emosional menuntut standar yang lebih jelas. Sementara pengadilan menentukan tanggung jawab, para ahli, keluarga, dan perusahaan sepakat tentang perlunya meningkatkan perlindungan, memastikan kontrol orangtua yang efektif dan memastikan bahwa ketika seorang remaja datang ke chatbot dalam krisis, sistem merespons dengan kehati-hatian, koherensi dan jalan nyata untuk mendapatkan bantuan.
Saya seorang penggila teknologi yang telah mengubah minat "geek"-nya menjadi sebuah profesi. Saya telah menghabiskan lebih dari 10 tahun hidup saya menggunakan teknologi mutakhir dan mengutak-atik semua jenis program hanya karena rasa ingin tahu. Sekarang saya memiliki spesialisasi dalam teknologi komputer dan video game. Hal ini karena selama lebih dari 5 tahun saya telah menulis untuk berbagai website tentang teknologi dan video game, membuat artikel yang berupaya memberikan informasi yang Anda butuhkan dalam bahasa yang dapat dimengerti oleh semua orang.
Jika Anda memiliki pertanyaan, pengetahuan saya berkisar dari segala sesuatu yang berhubungan dengan sistem operasi Windows serta Android untuk ponsel. Dan komitmen saya adalah kepada Anda, saya selalu bersedia meluangkan beberapa menit dan membantu Anda menyelesaikan pertanyaan apa pun yang mungkin Anda miliki di dunia internet ini.