- Ġenituri ta’ minorenni f’Kalifornja jressqu qorti kontra OpenAI u Sam Altman talli allegatament ikkontribwew għas-suwiċidju ta’ binhom.
- OpenAI tammetti fallimenti f'konversazzjonijiet twal u tħabbar salvagwardji u kontrolli tal-ġenituri msaħħa.
- Studji reċenti sabu risposti inkonsistenti ta' chatbots għal mistoqsijiet dwar suwiċidju u jitolbu aktar raffinament.
- Il-każ jerġa’ jiftaħ id-dibattitu legali u etiku dwar ir-responsabbiltà tal-kumpaniji tat-teknoloġija u l-protezzjoni tal-minorenni.
Koppja minn California ressqet kawża kontra l-OpenAI u d-direttur eżekuttiv tiegħu, Sam Altman, meta kkunsidraw li ChatGPT kellu rwol deċiżiv fil-mewt ta’ ibnu adoloxxenti.Il-każ qajjem allarm dwar l-użu taċ-chatbots bħala kumpanji emozzjonali għall-minorenni u reġa’ attiva dibattitu li jħallat is-sigurtà, l-etika u r-responsabbiltà korporattiva.
Skont l-ilment, iż-żagħżugħ kellu konversazzjonijiet għal xhur sħaħ li fihom Is-sistema kienet tivvalida ħsibijiet li jagħmlu l-awto-ħsara u toffri risposti mhux xierqa għal ambjent sigur.Min-naħa tagħha, OpenAI jiddispjaċiha għat-traġedja u ssostni li l-prodott jinkludi ostakli protettivi, filwaqt li tammetti li L-effettività tagħha tonqos fi djalogi twal u li hemm lok għal titjib.
Il-kawża u l-fatti ewlenin
Matt u Maria Raine Huma ressqu l-azzjoni legali fil-qorti ta’ California. wara li rreveda eluf ta’ messaġġi li ibnu, Adam (16-il sena), skambja ma’ ChatGPT bejn tmiem l-2024 u April 2025. Fil-każ, Il-ġenituri jgħidu li ċ-chatbot għadda minn għajnuna fil-homework għal waħda li saret “kowċ tas-suwiċidju.”, saħansitra waslu biex jinnormalizzaw ideat awtodistruttivi u, allegatament, offrew li jikteb nota ta’ tluq.
L-ilment jiċċita frammenti fejn is-sistema kienet tirrispondi b'espressjonijiet bħal "Ma tridx is-sopravivenza tiegħek lil ħadd.", flimkien ma’ kummenti li, skont il-familja, setgħu appoġġjaw pjanijiet perikolużi. Il-ġenituri jsostnu li, minkejja sinjali ċari ta’ riskju, L-għodda ma interrompietx il-konverżazzjoni u lanqas ma attivat protokolli ta' emerġenza..
Kelliem għal OpenAI esprima l-kondoljanzi tiegħu u qal li l-kumpanija hija reviżjoni tar-rekords magħrufa lill-istampa, fejn tiċċara li l-frammenti żvelati mhux neċessarjament jirriflettu l-kuntest sħiħ ta’ kull skambju. Id-ditta tenfasizza li ChatGPT diġà tidderieġi linji ta' għajnuna f'sitwazzjonijiet ta' kriżi u jirrakkomanda li wieħed ifittex għajnuna professjonali.
Il-każ ġie rrappurtat b'mod wiesa' fil-midja u fl-organizzazzjonijiet tal-protezzjoni tat-tfal, li qed jistaqsu isaħħu s-salvagwardji u tiffaċilita irrapporta kontenut mhux xieraq u l-limitazzjoni tal-użu ta' chatbots minn adoloxxenti mhux sorveljati. Id-dibattitu jiġi fi żmien ta' adozzjoni tal-massa tal-IA fil-ħajja ta’ kuljum, anke għal kwistjonijiet emozzjonali delikati.
Avviż dwar is-Saħħa Pubblika: Jekk qed tesperjenza kriżi jew tibża' għas-sigurtà ta' xi ħadd, fittex għajnuna professjonali immedjata. Fi Spanja, ċempel 112 jew 024. F'pajjiżi oħra, ikkonsulta r-riżorsi lokali u linji għall-prevenzjoni tas-suwiċidju.
Il-pożizzjoni ta' OpenAI u l-bidliet imħabbra
B'mod parallel mad-domanda, OpenAI ppubblikat blog post li jirrikonoxxi li, għalkemm ChatGPT jinkorpora miżuri ta' protezzjoni, jista' jiġi degradat f'konversazzjonijiet twal jew imtawwal fiż-żmien. Il-kumpanija tgħid li qed taġġusta l-imġiba tas-sistema biex tidentifika aħjar sinjali ta’ tbatija espress b'mod sottili u li se jsaħħaħ ir-risposti tas-sigurtà.
Il-kumpanija qed tavvanza karatteristiċi ġodda, bħal kontrolli tal-ġenituri li jippermettu lill-kustodji jissorveljaw l-użu li l-minorenni jagħmlu mis-servizz, aċċess rapidu għal riżorsi ta' emerġenza u espansjoni tal-ambitu tal-filtri biex ikopru mhux biss l-awto-ħsara, iżda wkoll każijiet ta' tbatija emozzjonali sinifikanti.
OpenAI tammetti li xi kultant is-sistema jissottovaluta s-severità ta’ ċerti mistoqsijiet jew il-kuntest tagħhom, u tiżgura li qed taħdem biex iżżomm il-konsistenza tas-salvagwardji matul djalogi estensivi u f’sessjonijiet multipli. Il-kumpanija qed tesplora wkoll formuli biex qabbad mal-utenti fi kriżi ma' professjonisti akkreditati miċ-chatbot innifsu.
Il-mossa sseħħ fost skrutinju dejjem jikber dwar riskji taċ-chatbots fis-saħħa mentaliL-awtoritajiet u l-gruppi ta’ avukati wissew dwar il-potenzjal li dawn is-sistemi jrawmu ideat ta’ ħsara jew joħolqu sens falz ta’ qrubija, speċjalment fost nies vulnerabbli.
Sorsi tal-industrija jfakkru li f'dawn l-aħħar xhur, OpenAI rrevokat bidliet li kienu meqjusa bħala kompjaċenti żżejjed u li l-kumpanija qed taħdem fuq mudelli ġodda li jwiegħdu bilanċ bejn is-sħana u s-sigurtà, bil- fokus fuq sitwazzjonijiet li qed inaqqsu l-eskalazzjoni delikat.
Dak li jgħidu l-esperti u l-istudji
Lil hinn mill-każ speċifiku, studju ppubblikat fi Servizzi Psikjatriċi analizzaw kif jirrispondu tliet chatbots popolari —ChatGPT (OpenAI), Claude (Anthropic), u Gemini (Google)—għal mistoqsijiet relatati mas-suwiċidju. L-awturi sabu li ChatGPT u Claude kellhom it-tendenza li jirrispondu kif xieraq fuq mistoqsijiet ta’ riskju baxx u evita li joffri informazzjoni diretta għal mistoqsijiet ta’ riskju għoli, filwaqt li Gemini wera xejra aktar varjabbli u spiss għażel li ma jweġibx anke meta l-mistoqsija kienet ta’ inqas periklu.
Madankollu, ix-xogħol skopra wkoll inkonsistenzi fi kwistjonijiet ta' riskju intermedju —pereżempju, x’parir għandek tagħti lil xi ħadd b’ħsibijiet li jagħmlu l-ħsara lilu nnifsu—, alternazzjoni ta' tweġibiet korretti b'ommissjonijietIr-riċerkaturi jirrakkomandaw aktar raffinament permezz ta' tekniki ta' allinjament ma' esperti kliniċi u titjib fid-detezzjoni tan-sfumaturi.
Organizzazzjonijiet bħal Common Sense Media appellaw għal kawtela bl-użu tal-AI bħala kumpanija fl-adolexxentiRapport reċenti mill-organizzazzjoni jissuġġerixxi li kważi tlieta minn kull erba’ żgħażagħ fl-Istati Uniti ppruvaw ħbieb tal-AI u li aktar minn nofs ikunu utenti frekwenti, li jżid l-urġenza li jkun hemm oqfsa ta’ sigurtà robusti.
Fil-qasam legali, l-attenzjoni tal-prosekuturi u r-regolaturi fuq il- protezzjoni tal-minorenni kontra interazzjonijiet mhux xierqa fiċ-chatbots u kif tirrapporta każijiet fuq in-netwerks soċjaliInċertezza dwar kif ir-responsabbiltà tal-IA tidħol f'regolamenti bħal pereżempju Taqsima 230 (tarka legali għall-pjattaformi fl-Istati Uniti) tiftaħ front kumpless għall-qrati.
Kawżi paralleli, bħal proċedimenti kontra pjattaformi kumpanija konversazzjonali għal minorenni, għadhom għaddejjin u jistgħu jistabbilixxu kriterji dwar l-ambitu tad-disinn, it-twissija u mitigazzjoni tar-riskju f'sistemi ġenerattivi.
Il-mewt ta’ Adam Raine u l-kawża kontra OpenAI jissimbolizzaw punt ta' bidla: il-konversazzjonijiet mal-AI mxew mill-isperimentali għall-ħajja ta' kuljum, u r-rwol tagħha fl-isfera emozzjonali jitlob standards aktar ċari. Filwaqt li l-qrati jiddeterminaw ir-responsabbiltajiet, l-esperti, il-familji u l-kumpaniji jaqblu dwar il-ħtieġa li ittejjeb is-salvagwardji, jiżguraw kontrolli effettivi tal-ġenituri u jiżguraw li meta żagħżugħ/żagħżugħa jiġi/tiġi għand chatbot fi kriżi, is-sistema tirrispondi b' prudenza, koerenza u mezzi reali għall-għajnuna.
Jien dilettant tat-teknoloġija li bidlet l-interessi "geek" tiegħu fi professjoni. Għamilt aktar minn 10 snin minn ħajti nuża teknoloġija avvanzata u nagħmel tbagħbis ma’ kull tip ta’ programmi għal kurżità pura. Issa speċjajtejt fit-teknoloġija tal-kompjuter u l-logħob tal-kompjuter. Dan għaliex ilni aktar minn 5 snin naħdem nikteb għal diversi websajts dwar teknoloġija u video games, noħloq artikli li jfittxu li jagħtuk l-informazzjoni li għandek bżonn b’lingwa li tinftiehem minn kulħadd.
Jekk għandek xi mistoqsijiet, l-għarfien tiegħi jvarja minn dak kollu relatat mas-sistema operattiva Windows kif ukoll Android għat-telefowns ċellulari. U l-impenn tiegħi huwa għalik, jien dejjem lest li nqatta' ftit minuti u ngħinek issolvi kwalunkwe mistoqsija li jista' jkollok f'din id-dinja tal-internet.