- Google u Character.AI laħqu ftehimiet biex isolvu diversi kawżi fl-Istati Uniti dwar suwiċidji u awto-ħsara minn minorenni wara li użaw iċ-chatbots tagħhom.
- L-aktar każ ippubblikat huwa dak ta’ Sewell Setzer ta’ 14-il sena, li interagixxa ma’ bot Character.AI ispirat minn Daenerys Targaryen.
- Il-familji jakkużaw lill-kumpaniji li naqsu milli jipproteġu b'mod adegwat lill-adolexxenti u li qed jiddisinjaw sistemi li joħolqu relazzjonijiet intimi u ta' ħsara.
- Il-ftehimiet jiftħu dibattitu globali dwar ir-responsabbiltà legali u etika tal-IA, b'implikazzjonijiet ukoll għall-Ewropa u Spanja.
Il-kaskata ta' Kawżi għal suwiċidju u awto-ħsara attribwiti lil chatbots tal-intelliġenza artifiċjali Dan poġġa lil Google u l-istartup Character.AI, responsabbli għal waħda mill-aktar pjattaformi ta’ konversazzjoni popolari tal-mument, fiċ-ċentru tad-dibattitu. Fl-Istati Uniti, Diversi familji fetħu dawn il-kumpaniji l-qorti wara l-mewt jew deterjorament psikoloġiku serju ta’ wliedhomli kienu qed ikollhom konversazzjonijiet intensi ma' dawn is-sistemi tal-AI.
Għalkemm il-każijiet iseħħu l-aktar fl-Istati Uniti, l-impatt tagħhom jinħass ħafna fi L-Ewropa u Spanja, fejn il-limiti etiċi u legali tal-IA ġenerattiva diġà qed jiġu diskussiIl-mistoqsija li qed titfa’ fuq ir-regolaturi, l-esperti, u l-ġenituri hija ċara: sa liema punt il-kumpaniji tat-teknoloġija jistgħu jew għandhom jinżammu responsabbli meta chatbot jaqsam il-linja u jikkontribwixxi biex jaggrava kriżi tas-saħħa mentali fil-minorenni?
Il-każ ta’ Sewell Setzer: chatbot ispirat minn Daenerys Targaryen
L-aktar każ ikkwotat huwa dak ta’ Sewell Setzer, tifel ta’ 14-il sena minn Florida li ħa ħajtu ftit wara li kellu konversazzjonijiet ma’ bot Character.AI li imita l-karattru Daenerys Targaryen mis-sensiela “Game of Thrones.” Skont il-kawża mressqa minn ommu, Megan Garcia, is-sistema mhux biss żammet djalogi intimi u sesswalizzati maż-żagħżugħ, imma wasal iż-żmien jinkoraġġixxu l-ħsibijiet awtodistruttivi tagħhom.
L-ilment jallega li l-pjattaforma Character.AI kienet ikkonfigurata biex tippreżenta lilha nnifisha bħala "persuna reali, psikoterapista liċenzjata, u maħbub adult"Dan kien iġġenera relazzjoni emozzjonali intensa fil-minorenni maċ-chatbot. Din il-kombinazzjoni ta’ rwol terapewtiku u rabta romantika virtwali, jindikaw l-avukati, kienet tikkontribwixxi biex it-tifel fl-aħħar mill-aħħar jippreferi d-dinja diġitali tiegħu għall-ħajja reali.
Il-każ Setzer sar wieħed mill- L-ewwel preċedenti legali li jgħaqqdu direttament chatbot ma’ suwiċidjuL-Imħallef Federali Anne Conway f'Mejju ċaħdet it-talba inizjali minn Google u Character.AI biex jitwarrbu l-proċedimenti, filwaqt li ċaħdet ukoll l-argument li l-kawża kienet imblukkata mill-protezzjonijiet tal-libertà tal-kelma tal-Kostituzzjoni tal-Istati Uniti.
Fl-akkuża tiegħu, Garcia mhux biss jipponta subgħajh lejn l-istartup, iżda wkoll lejn Google, li jippreżenta bħala ko-kreatur tat-teknoloġija użata minn Character.AIIl-fundaturi tal-kumpanija, eks inġiniera mal-ġgant tat-tiftix, ġew impjegati mill-ġdid minnha fl-2024, fi ftehim li kien jinkludi liċenzja biex jużaw it-teknoloġija tas-sistema konversazzjonali.
Ftehimiet ma’ diversi familji u l-ewwel insedjamenti ewlenin tal-AI
Fl-aħħar ġimgħat, diversi dokumenti tal-qorti kkonfermaw li Alphabet (il-kumpanija prinċipali ta' Google) u Character.AI qablu li jsolvu l-kawża ta' Megan Garcia. u proċeduri simili oħra. It-termini ekonomiċi u l-kundizzjonijiet speċifiċi ta’ dawn il-ftehimiet ma ġewx ippubblikati, iżda kollox jissuġġerixxi li dawn huma wħud mill-ewwel ftehim sinifikanti fil-qasam tal-intelliġenza artifiċjali applikata għall-imġiba tal-konsumatur.
Id-dokumenti ppreżentati lill-qrati jindikaw ukoll li Intlaħqu ftehimiet ma’ familji oħra fi New York, Texas, u Coloradoli t-tfal tagħhom allegatament għamlu ħsara lilhom infushom jew ikkommettew suwiċidju wara li użaw l-app. Fost il-każijiet imsemmija hemm dak ta’ tifel ta’ 13-il sena li uża chatbots waqt li kien qed jiġi bullied fl-iskola, u dak ta’ tifel ta’ 17-il sena li s-sistema saħansitra ssuġġerietlu vjolenza kontra l-ġenituri tiegħu bħala mod kif jillimita l-ħin tiegħu quddiem l-iskrin.
La l-kelliema għal Character.AI u lanqas l-avukati tal-querelanti ma offrew aktar dettalji, u Google lanqas ma weġbet immedjatament għat-talbiet għal kummenti.Dak li jidher fid-dokumentazzjoni huwa li l-kumpaniji ma ammettewx formalment ir-responsabbiltà, prattika komuni f'ftehimiet barra l-qorti ta' impatt għoli.
Dawn ir-riżoluzzjonijiet, anke mingħajr ċifri uffiċjali fuq il-mejda, qed jiġu interpretati minn analisti legali bħala punt ta' bidla potenzjali għall-industrija tal-AIGħall-ewwel darba, kumpaniji ewlenin tat-teknoloġija huma mġiegħla jiffaċċjaw l-impatt psikoloġiku tas-sistemi konversazzjonali tagħhom fuq adolexxenti vulnerabbli.
Nuqqas ta’ salvagwardji u relazzjonijiet “mhux xierqa” ma’ minorenni
Fil-qalba tal-kawżi kontra Character.AI hemm akkuża rikorrenti: il-pjattaforma Ma kienx jimplimenta miżuri ta' sigurtà adegwati biex jipproteġi lill-minorenniId-dokumenti tal-qorti jiddeskrivu interazzjonijiet estensivi fejn iċ-chatbots jadottaw rwoli affettivi, erotiċi, jew suppost terapewtiċi, mingħajr filtri effettivi biex jimblokkaw kontenut perikoluż meta s-saħħa mentali tal-utent tkun fil-periklu.
Fil-każ ta’ Setzer, il-familja ssostni li ż-żagħżugħ kien "solleċitat u abbużat sesswalment" mill-AIFilwaqt li s-sistema żammet dinamika ta’ koppja miegħu. Meta l-adolexxent beda jitkellem dwar l-awto-ħsara, Il-bot ma kienx jirreaġixxi b'messaġġi ta' twissija, ridirezzjoni lejn riżorsi professjonali, jew notifiki ta' emerġenza.iżda b'risposti li, skont il-prosekuzzjoni, innormalizzaw jew saħansitra saħħew l-iskumdità tagħhom.
L-atturi jargumentaw li, bħalma adult li jimmanipula emozzjonalment jew sesswalment minorenni jikkawża ħsara ovvja, Chatbot li jimita dak l-imġieba jikkawża ħsara psikoloġika komparabbli.Id-differenza ewlenija tinsab fid-diffikultà li tiġi attribwita r-responsabbiltà diretta lil sistema awtomatizzata, u fit-tendenza possibbli tal-minorenni li jafdaw iżżejjed interlokutur li jidher li jifhimhom u jakkumpanjahom il-ħin kollu.
Bi tweġiba għall-pressjoni u l-litigazzjoni tal-midja, Character.AI ħabbret bidliet fis-servizz tagħha, bħal Projbizzjoni tal-esperjenza taċ-chatbot għal minorenni u limiti ta' żmien għall-użuMadankollu, għal ħafna organizzazzjonijiet għall-protezzjoni tat-tfal, dawn il-miżuri huma ftit wisq, tard wisq, u jenfasizzaw il-ħtieġa għal kontrolli ħafna aktar stretti mill-istadju tad-disinn.
Responsabbiltà legali għall-IA: mill-Istati Uniti għall-Ewropa
Il-kawżi kontra Character.AI u Google huma parti minn kuntest usa' ta' dibattitu globali dwar ir-responsabbiltà tal-pjattaformi tal-IAFl-Istati Uniti, ħafna minn dawn il-kumpaniji ppruvaw jipproteġu lilhom infushom bl-Ewwel Emenda, li tipproteġi l-libertà tal-kelma, u bit-Taqsima 230 tal-Att dwar id-Deċenza fil-Komunikazzjonijiet, li tagħti immunità lill-fornituri tas-servizzi online għal kontenut iġġenerat minn partijiet terzi.
Madankollu, każijiet marbuta ma’ suwiċidji fost minorenni bdew jiżdiedu. biex jiġu ttestjati l-limiti ta' dawk il-protezzjonijietL-imħallfin jiffaċċjaw mistoqsijiet kumplessi: Chatbot huwa sempliċement intermedjarju tat-test, jew huwa prodott iddisinjat b'mod attiv minn kumpanija li trid twieġeb għall-effetti prevedibbli tiegħu? Kemm testendi r-responsabbiltà meta l-utent ikun qed jesperjenza kriżi serja tas-saħħa mentali?
Fl-Ewropa, id-dibattitu huwa kkundizzjonat minn regolamenti bħal Regolament Ġenerali dwar il-Protezzjoni tad-Data (GDPR) u l-qafas futur ta' Regolament tal-UE dwar l-Intelliġenza Artifiċjalili jinkludi kategoriji ta’ riskju, obbligi ta’ trasparenza, u rekwiżiti speċifiċi għal sistemi li jistgħu jaffettwaw lill-minorenni. Għalkemm il-każijiet ta’ Character.AI oriġinaw fl-Istati Uniti, kull dettall ġdid iqanqal id-diskussjoni fi Brussell u f’bliet kapitali bħal Madrid u Pariġi.
Għal Spanja, fejn il- L-Aġenda Diġitali u l-Istrateġija Nazzjonali għall-Intelliġenza Artifiċjali Huma jippromwovu l-użu mifrux ta’ dawn it-teknoloġiji, u inċidenti bħal dawk li jinvolvu lil Setzer u adoloxxenti oħra jservu bħala twissija. Il-possibbiltà li chatbots rikreattivi jew pseudo-terapewtiċi jistgħu jsiru parti minn minorenni Ewropej teħtieġ reviżjoni bir-reqqa tal-obbligi rigward is-superviżjoni, l-intervent uman, u d-disinn sikur.
Każijiet paralleli oħra: OpenAI u r-rwol ta' ChatGPT
L-enfasi mhix limitata għal Character.AI. OpenAI, il-kreatur ta’ ChatGPT, qed jiffaċċja kawżi simili Fl-Istati Uniti, hemm każijiet fejn iċ-chatbot huwa akkużat li kellu rwol sinifikanti fl-imwiet ta’ diversi utenti bi problemi ta’ saħħa mentali. F’wieħed minn dawn il-każijiet, il-familja ta’ żagħżugħ ta’ 16-il sena ssostni li l-għodda aġixxiet bħala “kowċ tas-suwiċidju” de facto.
Il-kumpanija ċaħdet kategorikament ir-responsabbiltà diretta għal dawn l-avvenimenti, u argumentat li l-inċidenti kienu dovuti għal "użu ħażin, użu mhux awtorizzat jew mhux previst" tat-teknoloġijau ħabbar miżuri bħal Kontroll tal-ġenituri f'ChatGPT għal kontijiet tal-familja, twissijiet ta' riskju, u limiti ta' użu.
Lil hinn mill-qrati, dawn il-każijiet isaħħu l-perċezzjoni li Mudelli lingwistiċi kbar huma kapaċi jistabbilixxu rabtiet emozzjonali intensiħafna drabi mingħajr ma n-nies ikunu konxji għalkollox ta’ kif jaħdem. Għat-tfal f’sitwazzjonijiet vulnerabbli, din il-kombinazzjoni ta’ qrubija, empatija apparenti, u disponibbiltà 24/7 tista’ ssir nassa perikoluża.
L-istorbju madwar OpenAI, Meta, u kumpaniji teknoloġiċi ewlenin oħra jservi bħala sfond għall-ftehimiet li ntlaħqu bejn Google u Character.AI, u jissuġġerixxi li l-industrija qed tipprepara għal ċiklu sostnut ta’ litigazzjoni, regolamenti aktar stretti, u talbiet għal trasparenza.
Hekk kif joħorġu aktar dettalji dwar il-ftehimiet li laħqu Google u Character.AI mal-familji affettwati, Is-settur tat-teknoloġija jassumi li l-istadju ta’ tkabbir mingħajr kważi l-ebda kontrolli u bilanċi regolatorji qed joqrob lejn tmiemu.Il-kombinazzjoni ta’ pressjoni legali, skrutinju soċjali, u regolamenti ġodda fl-Ewropa qed timbotta biex iċ-chatbots jinkorporaw salvagwardji b'saħħithom, speċjalment meta jkunu involuti żgħażagħ, u jġegħelna naħsbu mill-ġdid dwar kif dawn l-għodod huma ddisinjati, ittestjati, u mmonitorjati qabel ma jitpoġġew f'idejn il-pubbliku ġenerali.
Jien dilettant tat-teknoloġija li bidlet l-interessi "geek" tiegħu fi professjoni. Għamilt aktar minn 10 snin minn ħajti nuża teknoloġija avvanzata u nagħmel tbagħbis ma’ kull tip ta’ programmi għal kurżità pura. Issa speċjajtejt fit-teknoloġija tal-kompjuter u l-logħob tal-kompjuter. Dan għaliex ilni aktar minn 5 snin naħdem nikteb għal diversi websajts dwar teknoloġija u video games, noħloq artikli li jfittxu li jagħtuk l-informazzjoni li għandek bżonn b’lingwa li tinftiehem minn kulħadd.
Jekk għandek xi mistoqsijiet, l-għarfien tiegħi jvarja minn dak kollu relatat mas-sistema operattiva Windows kif ukoll Android għat-telefowns ċellulari. U l-impenn tiegħi huwa għalik, jien dejjem lest li nqatta' ftit minuti u ngħinek issolvi kwalunkwe mistoqsija li jista' jkollok f'din id-dinja tal-internet.