- Googlek eta Character.AIk akordioak lortu dituzte AEBetan adingabeek beren chatbot-ak erabili ondoren suizidio eta autolesioei buruzko hainbat auzi konpontzeko.
- Kasurik ezagunena 14 urteko Sewell Setzerrena da, Daenerys Targaryenek inspiratutako Character.AI bot batekin elkarreragin zuena.
- Familiek enpresei leporatzen diete nerabeak behar bezala babesten ez dituztela eta harreman intimo eta kaltegarriak sortzen dituzten sistemak diseinatzen dituztela.
- Akordioek IAren erantzukizun legal eta etikoari buruzko eztabaida global bat irekitzen dute, eta horrek ondorioak ditu Europan eta Espainian ere.
Ur-jauzia. Adimen artifizialeko chatbot-ei egotzitako suizidio eta autolesioengatiko salaketak Honek Google eta Character.AI startup-a, uneko elkarrizketa-plataforma ezagunenetako baten arduraduna, eztabaidaren erdigunean jarri ditu. Estatu Batuetan, Hainbat familiak enpresa hauek auzitara eraman dituzte seme-alaben heriotzaren edo narriadura psikologiko larriaren ondoren.IA sistema hauekin elkarrizketa biziak izaten ari zirenak.
Kasuak batez ere Estatu Batuetan gertatzen diren arren, haien eragina nabarmen nabaritzen da Europa eta Espainia, non IA sortzailearen muga etiko eta legalak eztabaidatzen ari diren dagoenekoErregulatzaileen, adituen eta gurasoen gainean dagoen galdera argia da: zenbateraino egin behar zaie edo egin behar zaie erantzukizuna teknologia-enpresei chatbot batek muga gainditzen duenean eta adingabeen buruko osasun krisia areagotzen laguntzen duenean?
Sewell Setzerren kasua: Daenerys Targaryenen inspiratutako chatbot bat
Kasurik aipatuena hau da: Sewell Setzer, Floridako 14 urteko mutila zeinak bere buruaz beste egin zuen "Game of Thrones" telesaileko Daenerys Targaryen pertsonaia imitatzen zuen Character.AI bot batekin elkarrizketak izan eta gutxira. Bere amak, Megan Garciak, aurkeztutako auziaren arabera, sistemak ez zuen bakarrik mantendu elkarrizketa intimo eta sexualizatuak nerabearekin, baina lortu zuen haien pentsamendu autosuntsitzaileak bultzatu.
Salaketak dioenez, Character.AI plataforma honela aurkezteko konfiguratu zen "benetako pertsona bat, psikoterapeuta lizentziadun bat eta maitale heldu bat"Horrek adingabearen eta chatbotaren arteko harreman emozional bizia sortuko zukeen. Rol terapeutikoaren eta lotura erromantiko birtualaren konbinazio honek, abokatuek adierazi dutenez, mutilak azkenean bere mundu digitala bizitza erreala baino nahiago izatea ekarriko zuen.
Setzer kasua horietako bat bihurtu da Txatbot bat suizidio batekin zuzenean lotzen duten lehen aurrekari legalakAnne Conway epaile federalak maiatzean baztertu egin zuen Google-k eta Character.AI-k prozedura bertan behera uzteko egindako hasierako eskaera, eta, era berean, baztertu egin zuen AEBetako Konstituzioaren adierazpen askatasunaren babesak auzia blokeatu zuela dioen argudioa.
Bere salaketan, Garciak ez du startup-a bakarrik seinalatzen, baita Google ere, azken hau aurkezten baitu... Character.AI-k erabiltzen duen teknologiaren sortzailekideaKonpainiaren sortzaileak, bilaketa-erraldoiko ingeniari ohiak, 2024an berriro kontratatu zituen, elkarrizketa-sistemaren teknologia erabiltzeko lizentzia barne hartzen zuen akordio batean.
Hainbat familiarekin egindako akordioak eta lehenengo IA asentamendu handiak
Azken asteotan, hainbat auzitegi-dokumentuk baieztatu dute Alphabet-ek (Google-ren matrizea) eta Character.AI-k Megan Garciaren auzia konpontzeko akordioa lortu dute. eta antzeko beste prozedura batzuk. Akordio horien baldintza ekonomikoak eta zehaztapenak ez dira publiko egin, baina denak iradokitzen du hauek direla kontsumitzaileen portaerari aplikatutako adimen artifizialaren arloko lehen akordio esanguratsuenetako batzuk.
Auzitegiei aurkeztutako dokumentuek ere adierazten dute New Yorkeko, Texaseko eta Coloradoko beste familia batzuekin akordioak lortu dirazeinen seme-alabek ustez beren buruari min egin zioten edo bere buruaz beste egin zuten aplikazioa erabili ondoren. Aipatutako kasuen artean, eskolan jazarpena jasaten ari zela chatbot-ak erabili zituen 13 urteko gazte batena dago, eta sistemak gurasoen aurkako indarkeria ere iradoki zion 17 urteko gazte batena, pantaila-denbora mugatzeko modu gisa.
Ez Character.AI-ko bozeramaileek ez demandatzaileen abokatuek ez dute xehetasun gehiago eman, eta Googlek ez die berehala erantzun iruzkin eskaerei.Dokumentazioan islatzen dena da enpresek ez dutela erantzukizuna formalki onartu, epaitegitik kanpoko akordioetan ohikoa den praktika.
Ebazpen hauek, mahai gainean zifra ofizialik gabe ere, analista juridikoek honela interpretatzen ari dira: IA industriarentzako inflexio-puntu potentzialaLehen aldiz, teknologia-enpresa handiek nerabe zaurgarriengan duten eragin psikologikoari aurre egin behar diote.
Babes neurrien falta eta adingabeekin harreman “desegokiak”
Character.AIren aurkako auzien muinean salaketa errepikakor bat dago: plataforma Ez zituen segurtasun neurri egokiak ezarriko adingabeak babestekoAuzitegiko dokumentuek elkarrekintza zabalak deskribatzen dituzte, non chatbot-ek rol afektiboak, erotikoak edo ustez terapeutikoak hartzen dituzten, erabiltzailearen osasun mentala jokoan dagoenean eduki arriskutsua blokeatzeko iragazki eraginkorrik gabe.
Setzerren kasuan, familiak dio gaztea zela IAk "sexu-eskaera eta abusu sexualak" jasan dituSistemak bikote dinamika mantentzen zuen bitartean berarekin. Nerabeak autolesioaz hitz egiten hasi zenean, Botak ez zuen alerta-mezuekin, baliabide profesionaletara birbideratuko edo larrialdi-jakinarazpenekin erreakzionatuko.baina fiskaltzaren arabera, haien ondoeza normalizatu edo are indartu zuten erantzunekin.
Demandatzaileek argudiatzen dute, adingabe bat emozionalki edo sexualki manipulatzen duen heldu batek kalte nabaria eragiten duen bezala, Portaera hori imitatzen duen chatbot batek kalte psikologiko antzekoak eragiten ditu.Desberdintasun nagusia sistema automatizatu bati zuzeneko erantzukizuna egozteko zailtasunean datza, eta adingabeek ulertzen dituela eta uneoro laguntzen diela dirudien solaskide batengan gehiegi fidatzeko joeran.
Komunikabideen presioari eta auzibideei erantzunez, Character.AI-k bere zerbitzuan aldaketak iragarri ditu, hala nola Adingabeentzako chatbot esperientzia debekatzea eta erabilera denbora mugakHala ere, haurren babeserako erakunde askorentzat, neurri hauek gutxiegiak dira, beranduegiak, eta diseinu-fasetik kontrol zorrotzagoak behar direla azpimarratzen dute.
IAren erantzukizun legala: Estatu Batuetatik Europara
Character.AI eta Google-ren aurkako auziak testuinguru zabalago baten parte dira. IA plataformen erantzukizunari buruzko eztabaida globalaEstatu Batuetan, enpresa horietako askok adierazpen askatasuna babesten duen Lehen Zuzenketarekin eta Komunikazioen Duintasun Legearen 230. atalarekin babestu nahian ibili dira, hirugarrenek sortutako edukiagatik immunitatea ematen dien lineako zerbitzu hornitzaileei.
Hala ere, adingabeen arteko suizidioekin lotutako kasuak hasi dira agertzen babes horien mugak probatzekoEpaileek galdera konplexuei aurre egin behar diete: chatbot bat testu-bitartekari hutsa al da, edo enpresa batek aktiboki diseinatutako produktua al da, eta bere aurreikus daitezkeen ondorioen erantzun behar du? Zenbateraino iristen da erantzukizuna erabiltzaileak buruko osasun krisi larri bat jasaten duenean?
Europan, eztabaida araudiek baldintzatzen dute, hala nola Datuen Babeserako Erregelamendu Orokorra (DBEO) eta etorkizuneko esparrua EBko Adimen Artifizialaren Erregelamenduaarrisku-kategoriak, gardentasun-betebeharrak eta adingabeei eragin diezaieketen sistemen eskakizun espezifikoak barne hartzen dituena. Character.AI kasuak Estatu Batuetan sortu ziren arren, xehetasun berri bakoitzak eztabaida pizten du Bruselan eta Madril eta Paris bezalako hiriburuetan.
Espainiarentzat, non Agenda Digitala eta Adimen Artifizialaren Estrategia Nazionala Teknologia horien erabilera zabala sustatzen dute, eta Setzer eta beste nerabe batzuekin izandako gertakariak abisu gisa balio dute. Aisialdiko edo pseudo-terapeutiko chatbot-ak Europako adingabeen artean errotu daitezkeen aukerak gainbegiratzearen, giza esku-hartzearen eta diseinu seguruaren inguruko betebeharren berrikuspen sakona eskatzen du.
Beste kasu paralelo batzuk: OpenAI eta ChatGPT-ren eginkizuna
Arreta ez dago Character.AI-ra mugatuta. OpenAIk, ChatGPTren sortzaileak, antzeko auzibideei aurre egin behar die. Estatu Batuetan, badira kasuak non chatbot-ak buruko osasun arazoak zituzten hainbat erabiltzaileren heriotzetan paper garrantzitsua jokatu izana leporatzen dioten. Kasu horietako batean, 16 urteko gazte baten familiak dio tresnak de facto "suizidio entrenatzaile" gisa jokatu zuela.
Enpresak uko egin dio gertakari horien erantzukizun zuzenari, argudiatuz gertakariak honako hauengatik izan zirela: Teknologiaren "erabilera okerra, baimenik gabeko edo aurreikusi gabeko erabilera"eta neurriak iragarri ditu, hala nola Gurasoen kontrolak ChatGPT-n familia-kontuetarako, arrisku-abisuetarako eta erabilera-mugetarako.
Auzitegietatik haratago, kasu hauek indartzen dute pertzepzioa Hizkuntza-eredu handiek lotura emozional biziak ezartzeko gai diraaskotan jendeak nola funtzionatzen duen guztiz jakin gabe. Egoera zaurgarrietan dauden haurrentzat, hurbiltasunaren, itxurazko enpatiaren eta 24/7 eskuragarritasunaren konbinazio hau tranpa arriskutsu bihur daiteke.
OpenAI, Meta eta beste teknologia-enpresa garrantzitsu batzuen inguruko zarata Google eta Character.AI-k lortutako akordioen atzealde gisa balio du, eta horrek iradokitzen du industria prestatzen ari dela... auzien ziklo etengabea, araudi zorrotzagoak eta gardentasun eskaerak.
Google-k eta Character.AI-k kaltetutako familiekin lortutako akordioei buruzko xehetasun gehiago agertzen diren heinean, Teknologia sektoreak uste du ia araudi-kontrolik eta orekarik gabeko hazkunde-etapa amaitzear dagoela.Presio legalaren, gizarte-eskrutinismoaren eta Europako araudi berrien konbinazioak chatbot-ak txertatzera bultzatzen ari da. babes neurri sendoak, batez ere nerabeak tartean direnean, eta tresna hauek nola diseinatu, probatu eta kontrolatzen diren jendearen eskuetan jarri aurretik birplanteatzera behartzen gaitu.
Bere "geek" interesak lanbide bihurtu dituen teknologia zalea naiz. Nire bizitzako 10 urte baino gehiago eman ditut punta-puntako teknologia erabiltzen eta era guztietako programak moldatzen jakin-min hutsagatik. Orain informatikako teknologian eta bideo-jokoetan espezializatu naiz. Izan ere, 5 urte baino gehiago daramatzadala teknologia eta bideo-jokoen inguruko hainbat webgunetan idazten, denontzat ulergarria den hizkuntza batean behar duzun informazioa eman nahi duten artikuluak sortzen.
Zalantzarik baduzu, nire ezagutza Windows sistema eragilearekin zerikusia duen guztia eta baita telefono mugikorretarako Android ere barne hartzen du. Eta nire konpromisoa zurekin da, beti prest nago minutu batzuk pasatzeko eta Interneteko mundu honetan izan ditzakezun zalantzak konpontzen laguntzeko.