- Google sareng Character.AI parantos ngahontal kasapukan pikeun ngarengsekeun sababaraha gugatan di AS ngeunaan bunuh diri sareng nganyenyeri diri ku budak leutik saatos nganggo chatbotna.
- Kasus anu paling dipublikasikeun nyaéta kasus Sewell Setzer anu umurna 14 taun, anu berinteraksi sareng bot Character.AI anu diideuan ku Daenerys Targaryen.
- Kulawarga-kulawarga nuduh pausahaan-pausahaan gagal ngajagi rumaja sacara nyukupan sareng ngarancang sistem anu nyiptakeun hubungan anu intim sareng ngabahayakeun.
- Kasapukan éta muka debat global ngeunaan tanggung jawab hukum sareng étika AI, kalayan implikasi ogé pikeun Éropa sareng Spanyol.
Curugna Gugatan hukum pikeun bunuh diri sareng nganyenyeri diri anu disababkeun ku chatbot kecerdasan buatan Ieu parantos nempatkeun Google sareng perusahaan rintisan Character.AI, anu tanggung jawab pikeun salah sahiji platform paguneman anu paling populér ayeuna, di puseur debat. Di Amérika Serikat, Sababaraha kulawarga parantos ngagugat perusahaan-perusahaan ieu ka pangadilan saatos pupusna atanapi turunna psikologis anu serius dina murangkalihna.anu keur ngobrol intens sareng sistem AI ieu.
Sanaos kasus-kasusna utamina lumangsung di Amérika Serikat, dampakna karasa pisan di Éropa sareng Spanyol, dimana wates étika sareng hukum AI generatif parantos dibahasPatarosan anu ngagantung di pikiran para régulator, para ahli, sareng kolot téh jelas: nepi ka mana perusahaan téknologi tiasa atanapi kedah tanggung jawab nalika chatbot ngalanggar wates sareng nyumbang kana ngagedekeun krisis kaséhatan méntal dina budak leutik?
Kasus Sewell Setzer: chatbot anu diideuan ku Daenerys Targaryen
Kasus anu paling sering disebutkeun nyaéta kasus Sewell Setzer, budak lalaki umur 14 taun ti Florida anu bunuh diri teu lila saatos ngobrol sareng bot Character.AI anu niru karakter Daenerys Targaryen tina séri "Game of Thrones." Numutkeun gugatan anu diajukeun ku indungna, Megan Garcia, sistem éta henteu ngan ukur ngajaga dialog anu intim sareng seksual jeung rumaja éta, tapi éta nepi ka ngadorong pikiran-pikiran anu ngancurkeun diri sorangan.
Gugatan éta nyatakeun yén platform Character.AI dikonfigurasi pikeun nampilkeun dirina salaku "Jalma sajati, psikoterapis anu dilisensikeun, sareng pencinta déwasa"Ieu bakal ngahasilkeun hubungan émosional anu kuat dina diri budak leutik sareng chatbot. Kombinasi peran terapi sareng ikatan romantis virtual ieu, numutkeun para pengacara, bakal nyumbang kana budak lalaki éta anu pamustunganana langkung milih dunya digitalna tibatan kahirupan nyata.
Kasus Setzer parantos janten salah sahiji Préséden hukum munggaran anu ngaitkeun langsung chatbot sareng bunuh diriHakim Féderal Anne Conway nampik dina bulan Méi pamundut awal ti Google sareng Character.AI pikeun ngabatalkeun prosiding éta, ogé nampik argumén yén gugatan éta diblokir ku panyalindungan kabébasan biantara Konstitusi AS.
Dina tuduhanna, Garcia henteu ngan ukur nuduh perusahaan rintisan éta, tapi ogé Google, anu anjeunna tampilkeun salaku ko-panyipta téknologi anu dianggo ku Character.AIPara pangadeg perusahaan éta, urut insinyur di raksasa pamilarian éta, direkrut deui ku perusahaan éta dina taun 2024, dina hiji perjanjian anu kalebet lisénsi pikeun nganggo téknologi sistem paguneman.
Kasapukan sareng sababaraha kulawarga sareng padumukan AI utama anu munggaran
Dina sababaraha minggu terakhir, rupa-rupa dokumén pangadilan parantos mastikeun yén Alphabet (perusahaan induk Google) sareng Character.AI parantos satuju pikeun ngaréngsékeun gugatan Megan Garcia sareng prosedur anu sami. Istilah ékonomi sareng kaayaan khusus tina perjanjian ieu teu acan diumumkeun ka masarakat, tapi sadayana nunjukkeun yén ieu mangrupikeun sababaraha perjanjian penting anu munggaran dina widang kecerdasan buatan anu diterapkeun kana paripolah konsumen.
Dokumén-dokumén anu dikintunkeun ka pangadilan ogé nunjukkeun yén Kasapukan parantos kahontal sareng kulawarga sanés di New York, Texas, sareng Coloradoanu budakna diduga nganyenyeri diri sorangan atanapi bunuh diri saatos nganggo aplikasi éta. Di antara kasus anu disebatkeun nyaéta budak umur 13 taun anu nganggo chatbot nalika di-bully di sakola, sareng budak umur 17 taun anu sistemna malah nyarankeun kekerasan ka kolotna salaku cara pikeun ngawatesan waktos layarna.
Boh juru bicara Character.AI boh pangacara panggugat teu acan masihan rincian salajengna, sareng Google ogé teu acan langsung ngawaler kana pamundut koméntar.Anu kacerminkeun dina dokuméntasi nyaéta yén perusahaan-perusahaan éta tacan sacara resmi ngaku tanggung jawab, prakték umum dina penyelesaian di luar pengadilan anu berdampak tinggi.
Resolusi-resolusi ieu, sanajan tanpa angka resmi dina méja, keur diinterpretasi ku analis hukum salaku titik balik poténsial pikeun industri AIPikeun kahiji kalina, pausahaan téknologi utama kapaksa ngungkulan dampak psikologis tina sistem pagunemanna ka rumaja anu rentan.
Kurangna panyalindungan sareng hubungan "anu teu pantes" sareng budak di handapeun umur
Inti tina gugatan ngalawan Character.AI nyaéta tuduhan anu terus-terusan: platformna Eta moal bakal nerapkeun ukuran kaamanan anu nyukupan pikeun ngajaga budak leutikDokumén pangadilan ngajelaskeun interaksi éksténsif dimana chatbot ngadopsi peran afektif, erotis, atanapi anu sakuduna terapi, tanpa filter anu efektif pikeun meungpeuk eusi bahaya nalika kaséhatan méntal pangguna dipertaruhkeun.
Dina kasus Setzer, kulawargana negeskeun yén nonoman éta "dipénta sacara séksual sareng dilecehkeun" ku AISamentara sistemna ngajaga sababaraha dinamika sareng anjeunna. Nalika rumaja mimiti nyarioskeun ngeunaan nganyenyeri diri, Bot éta moal ngaréaksikeun ku pesen bewara, alihan ka sumber daya profésional, atanapi bewara darurat.tapi kalayan réspon anu, numutkeun jaksa, nganormalkeun atanapi malah nguatkeun rasa teu nyaman aranjeunna.
Para panggugat ngajukeun yén, sapertos déwasa anu ngamanipulasi budak leutik sacara émosional atanapi séksual nyababkeun cilaka anu jelas, Chatbot anu niru paripolah éta nyababkeun cilaka psikologis anu sami.Bédana utama aya dina héséna ngaitkeun tanggung jawab langsung ka sistem otomatis, sareng dina kamungkinan kacenderungan budak leutik pikeun teuing percanten ka lawan bicara anu sigana ngartos aranjeunna sareng ngabarengan aranjeunna sepanjang waktos.
Pikeun ngaréspon tekanan média sareng litigasi, Character.AI parantos ngumumkeun parobihan kana layananna, sapertos Larangan pangalaman chatbot pikeun anu di handapeun umur sareng wates waktos panggunaanNanging, pikeun seueur organisasi perlindungan anak, ukuran ieu kirang teuing, telat teuing, sareng nyorot kabutuhan kontrol anu langkung ketat tina tahap desain.
Tanggung jawab hukum pikeun AI: ti Amérika Serikat ka Éropa
Gugatan hukum ngalawan Character.AI sareng Google mangrupikeun bagian tina kontéks anu langkung lega tina debat global ngeunaan tanggung jawab platform AIDi Amérika Serikat, seueur perusahaan ieu parantos nyobian ngajaga diri ku Amandemen Kahiji, anu ngajaga kabébasan biantara, sareng ku Bagian 230 tina Undang-Undang Kesopanan Komunikasi, anu masihan kekebalan ka panyadia layanan online pikeun eusi anu dihasilkeun ku pihak katilu.
Nanging, kasus anu aya hubunganana sareng bunuh diri di kalangan budak leutik parantos mimiti ningkat. pikeun nguji wates panyalindungan étaHakim nyanghareupan patarosan anu rumit: Naha chatbot ngan saukur perantara téks, atanapi éta produk anu dirancang sacara aktif ku perusahaan anu kedah nanggung jawab kana épék anu tiasa diramalkeun? Sabaraha jauh tanggung jawab diperpanjang nalika pangguna ngalaman krisis kaséhatan méntal anu serius?
Di Éropa, perdebatan ieu dikondisikeun ku peraturan sapertos Peraturan Umum Perlindungan Data (GDPR) sareng kerangka masa depan Peraturan Kecerdasan Buatan EUanu ngawengku kategori résiko, kawajiban transparansi, sareng sarat khusus pikeun sistem anu tiasa mangaruhan jalma-jalma di handapeun umur. Sanaos kasus Character.AI asalna ti Amérika Serikat, unggal detil énggal ngadorong diskusi di Brussel sareng di ibu kota sapertos Madrid sareng Paris.
Pikeun Spanyol, dimana Agenda Digital sareng Strategi Kecerdasan Buatan Nasional Aranjeunna ngamajukeun panggunaan téknologi ieu sacara lega, sareng kajadian sapertos anu ngalibatkeun Setzer sareng rumaja sanésna janten peringatan. Kamungkinan yén chatbot rékréasi atanapi pseudo-terapi tiasa janten bagian tina kelompok minor Éropa meryogikeun tinjauan anu saksama ngeunaan kawajiban ngeunaan pangawasan, campur tangan manusa, sareng desain anu aman.
Kasus paralel anu sanés: OpenAI sareng peran ChatGPT
Fokusna henteu dugi ka Character.AI. OpenAI, nu ngadegkeun ChatGPT, nyanghareupan gugatan nu sarupa Di Amérika Serikat, aya kasus dimana chatbot dituduh maénkeun peran penting dina maotna sababaraha pangguna anu ngagaduhan masalah kaséhatan méntal. Dina salah sahiji kasus ieu, kulawarga rumaja umur 16 taun negeskeun yén alat éta bertindak salaku "palatih bunuh diri" sacara de facto.
Pausahaan éta sacara tegas nolak tanggung jawab langsung kana kajadian ieu, kalayan alesan yén kajadian éta disababkeun ku "panyalahgunaan, panggunaan téknologi anu teu sah atanapi teu disangka-sangka"sareng parantos ngumumkeun tindakan sapertos Kontrol kolot dina ChatGPT kanggo akun kulawarga, peringatan résiko, sareng wates panggunaan.
Salian ti pangadilan, kasus-kasus ieu nguatkeun persepsi yén Modél basa anu lega sanggup ngawangun beungkeut émosional anu kuatseringna tanpa jalma-jalma sapinuhna sadar kana cara kerjana. Pikeun barudak anu aya dina kaayaan anu rentan, kombinasi tina kadeukeutan, empati anu katingali, sareng kasadiaan 24/7 ieu tiasa janten jebakan anu bahaya.
Sora anu ngurilingan OpenAI, Meta, sareng perusahaan téknologi utama anu sanésna janten latar pikeun perjanjian anu kahontal ku Google sareng Character.AI, nunjukkeun yén industri ieu nuju nyiapkeun siklus litigasi anu terus-terusan, peraturan anu langkung ketat, sareng paménta pikeun transparansi.
Nalika langkung seueur rinci muncul ngeunaan perjanjian anu kahontal ku Google sareng Character.AI sareng kulawarga anu kapangaruhan, Sektor téknologi nganggap yén tahapan kamekaran anu ampir teu aya cék sareng kasaimbangan pangaturan parantos caket kana réngsé.Kombinasi tina tekenan hukum, pengawasan sosial, sareng peraturan énggal di Éropa ngadorong chatbot pikeun ngasupkeun panyalindungan anu kuat, khususna nalika rumaja kalibet, sareng éta maksa urang pikeun mikirkeun deui kumaha alat-alat ieu dirancang, diuji, sareng diawasi sateuacan dipasrahkeun ka masarakat umum.
Abdi mangrupikeun peminat téknologi anu parantos ngajantenkeun minat "geek" janten profési. Kuring parantos nyéépkeun langkung ti 10 taun hirup kuring nganggo téknologi canggih sareng ngintip kalayan sagala jinis program tina rasa panasaran murni. Ayeuna kuring geus husus dina téhnologi komputer jeung video kaulinan. Ieu kusabab pikeun leuwih ti 5 taun kuring geus nulis pikeun sagala rupa situs web on téhnologi jeung video kaulinan, nyieun artikel nu neangan masihan anjeun informasi nu peryogi dina basa anu kaharti ku sarerea.
Upami Anjeun gaduh patarosan, pangaweruh abdi rentang ti sagalana patali jeung sistem operasi Windows ogé Android pikeun handphone. Sareng komitmen abdi ka anjeun, kuring sok daék nyéépkeun sababaraha menit sareng ngabantosan anjeun ngabéréskeun patarosan anu anjeun gaduh di dunya internét ieu.