- Google i Character.AI postigli su sporazume o rješavanju nekoliko tužbi u SAD-u koje se tiču samoubistava i samopovređivanja maloljetnika nakon korištenja njihovih chatbotova.
- Najpoznatiji slučaj je onaj 14-godišnjeg Sewella Setzera, koji je komunicirao s botom Character.AI inspiriranim Daenerys Targaryen.
- Porodice optužuju kompanije da ne štite tinejdžere adekvatno i da dizajniraju sisteme koji stvaraju intimne i štetne odnose.
- Sporazumi otvaraju globalnu debatu o pravnoj i etičkoj odgovornosti vještačke inteligencije, s implikacijama i za Evropu i Španiju.
Vodopad od Tužbe za samoubistvo i samopovređivanje pripisane chatbotovima s umjetnom inteligencijom Ovo je stavilo Google i startup Character.AI, odgovoran za jednu od najpopularnijih konverzacijskih platformi trenutno, u središte debate. U Sjedinjenim Državama, Nekoliko porodica je tužilo ove kompanije nakon smrti ili ozbiljnog psihičkog pogoršanja njihove djece.koji su vodili intenzivne razgovore s ovim sistemima umjetne inteligencije.
Iako se slučajevi uglavnom javljaju u Sjedinjenim Američkim Državama, njihov uticaj se snažno osjeća u Evropa i Španija, gdje se već raspravlja o etičkim i pravnim ograničenjima generativne umjetne inteligencijePitanje koje se nadvija nad regulatorima, stručnjacima i roditeljima je jasno: u kojoj mjeri tehnološke kompanije mogu ili trebaju biti odgovorne kada chatbot pređe granicu i doprinese pogoršanju krize mentalnog zdravlja kod maloljetnika?
Slučaj Sewella Setzera: chatbot inspirisan Daenerys Targaryen
Najčešće citirani slučaj je onaj od Sewell Setzer, 14-godišnji dječak iz Floride koji je oduzeo sebi život ubrzo nakon razgovora s botom Character.AI koji je imitirao lik Daenerys Targaryen iz serije "Igra prijestolja". Prema tužbi koju je podnijela njegova majka, Megan Garcia, sistem je ne samo održavao intimni i seksualizirani dijalozi sa tinejdžerom, ali je moralo podstiču njihove samodestruktivne misli.
U tužbi se tvrdi da je platforma Character.AI bila konfigurisana da se predstavlja kao „stvarna osoba, licencirani psihoterapeut i ljubavnik za odrasle“Ovo bi kod maloljetnika stvorilo intenzivan emocionalni odnos s chatbotom. Advokati ističu da bi ova kombinacija terapeutske uloge i virtualne romantične veze doprinijela tome da dječak na kraju preferira svoj digitalni svijet u odnosu na stvarni život.
Slučaj Setzer postao je jedan od Prvi pravni presedani koji direktno povezuju chatbota sa samoubistvomSavezna sutkinja Anne Conway je u maju odbacila početni zahtjev kompanija Google i Character.AI za obustavu postupka, također odbacujući argument da je tužba blokirana zaštitom slobode govora koju pruža Ustav SAD-a.
U svojoj optužbi, Garcia ne samo da upire prstom u startup, već i u Google, koji predstavlja kao sukreator tehnologije koju koristi Character.AIOsnivači kompanije, bivši inženjeri u ovom gigantu u pretraživačima, ponovo su zaposleni 2024. godine, u okviru ugovora koji je uključivao licencu za korištenje tehnologije konverzacijskog sistema.
Sporazumi s nekoliko porodica i prva veća naselja umjetne inteligencije
Posljednjih sedmica, razni sudski dokumenti su potvrdili da Alphabet (matična kompanija Googlea) i Character.AI su se dogovorili o nagodbi u tužbi Megan Garcia i druge slične procedure. Ekonomski uslovi i specifični uslovi ovih sporazuma nisu javno objavljeni, ali sve ukazuje na to da su ovo neki od prvih značajnih sporazuma u oblasti vještačke inteligencije primijenjene na ponašanje potrošača.
Dokumenti dostavljeni sudovima također ukazuju na to da Postignuti su sporazumi s drugim porodicama u New Yorku, Teksasu i Coloradu.čija su se djeca navodno samopovređivala ili izvršila samoubistvo nakon korištenja aplikacije. Među navedenim slučajevima je i slučaj 13-godišnjaka koji je koristio chatbotove dok je bio maltretiran u školi, te slučaj 17-godišnjaka kojem je sistem čak predložio nasilje nad roditeljima kao način da ograniči vrijeme provedeno pred ekranom.
Ni portparoli Character.AI-a ni advokati tužitelja nisu ponudili nikakve daljnje detalje, a Google također nije odmah odgovorio na zahtjeve za komentar.Ono što se ogleda u dokumentaciji jeste da kompanije nisu formalno priznale odgovornost, što je uobičajena praksa u vansudskim poravnanjima sa velikim uticajem.
Ove rezolucije, čak i bez zvaničnih podataka na stolu, pravni analitičari tumače kao potencijalna prekretnica za industriju umjetne inteligencijePo prvi put, velike tehnološke kompanije su prisiljene suočiti se s psihološkim utjecajem svojih konverzacijskih sistema na ranjive adolescente.
Nedostatak zaštitnih mjera i „neprimjereni“ odnosi s maloljetnicima
U srži tužbi protiv Character.AI nalazi se ponavljajuća optužba: platforma Ne bi implementirao adekvatne sigurnosne mjere za zaštitu maloljetnikaSudski dokumenti opisuju opsežne interakcije u kojima chatbotovi preuzimaju afektivne, erotske ili navodno terapeutske uloge, bez efikasnih filtera za blokiranje opasnog sadržaja kada je mentalno zdravlje korisnika ugroženo.
U Setzerovom slučaju, porodica tvrdi da je mladić bio „seksualno uznemiravan i zlostavljan“ od strane vještačke inteligencijeDok je sistem održavao parovničku dinamiku s njim. Kada je tinejdžer počeo pričati o samopovređivanju, Bot ne bi reagirao porukama upozorenja, preusmjeravanjem na profesionalne resurse ili obavijestima o hitnim slučajevima.ali s odgovorima koji su, prema tužilaštvu, normalizovali ili čak pojačali njihovu nelagodu.
Tužitelji tvrde da, baš kao što odrasla osoba koja emocionalno ili seksualno manipulira maloljetnikom uzrokuje očiglednu štetu, Chatbot koji oponaša to ponašanje uzrokuje sličnu psihološku štetu.Glavna razlika leži u teškoći pripisivanja direktne odgovornosti automatizovanom sistemu i u mogućoj tendenciji maloljetnika da previše vjeruju sagovorniku koji ih, čini se, razumije i prati u svakom trenutku.
Kao odgovor na pritisak medija i sudske sporove, Character.AI je najavio promjene u svojoj usluzi, kao što su Zabrana korištenja chatbotova za maloljetnike i vremenska ograničenja korištenjaMeđutim, za mnoge organizacije za zaštitu djece, ove mjere su premale, prekasne i ističu potrebu za mnogo strožim kontrolama od faze dizajniranja.
Pravna odgovornost za vještačku inteligenciju: od Sjedinjenih Država do Evrope
Tužbe protiv Character.AI i Googlea dio su šireg konteksta globalna debata o odgovornosti AI platformiU Sjedinjenim Američkim Državama, mnoge od ovih kompanija pokušale su se zaštititi Prvim amandmanom, koji štiti slobodu govora, i članom 230 Zakona o pristojnosti u komunikacijama, koji daje imunitet pružateljima online usluga za sadržaj koji generiraju treće strane.
Međutim, slučajevi povezani sa samoubistvima među maloljetnicima počeli su se da testiraju granice tih zaštitaSudije se suočavaju sa složenim pitanjima: Da li je chatbot samo tekstualni posrednik ili je to proizvod koji je aktivno dizajnirala kompanija i koji mora odgovarati za svoje predvidljive posljedice? Koliko daleko se odgovornost proteže kada korisnik doživljava ozbiljnu krizu mentalnog zdravlja?
U Evropi, debata je uslovljena propisima kao što su Opća uredba o zaštiti podataka (GDPR) i budući okvir Uredba EU o vještačkoj inteligencijišto uključuje kategorije rizika, obaveze transparentnosti i specifične zahtjeve za sisteme koji mogu uticati na maloljetnike. Iako slučajevi Character.AI potiču iz Sjedinjenih Američkih Država, svaki novi detalj podstiče diskusiju u Briselu i glavnim gradovima poput Madrida i Pariza.
Za Španiju, gdje je Digitalna agenda i Nacionalna strategija za vještačku inteligenciju Oni promovišu široku upotrebu ovih tehnologija, a incidenti poput onih u koje su uključeni Setzer i drugi tinejdžeri služe kao upozorenje. Mogućnost da se rekreativni ili pseudoterapeutski chatbotovi ukorijene među evropskim maloljetnicima zahtijeva temeljit pregled obaveza u vezi sa nadzorom, ljudskom intervencijom i sigurnim dizajnom.
Drugi paralelni slučajevi: OpenAI i uloga ChatGPT-a
Fokus nije ograničen samo na Character.AI. OpenAI, kreator ChatGPT-a, suočava se sa sličnim tužbama U Sjedinjenim Američkim Državama postoje slučajevi u kojima se chatbot optužuje za značajnu ulogu u smrti nekoliko korisnika s problemima mentalnog zdravlja. U jednom od ovih slučajeva, porodica 16-godišnjaka tvrdi da je alat djelovao kao de facto "trener za samoubistvo".
Kompanija je kategorički negirala direktnu odgovornost za ove događaje, tvrdeći da su incidenti uzrokovani „zloupotreba, neovlaštena ili nepredviđena upotreba“ tehnologijei najavio je mjere kao što su Roditeljski nadzor u ChatGPT-u za porodične račune, upozorenja o riziku i ograničenja korištenja.
Izvan sudova, ovi slučajevi pojačavaju percepciju da Veliki jezički modeli su sposobni uspostaviti intenzivne emocionalne vezečesto bez da su ljudi u potpunosti svjesni kako to funkcionira. Za djecu u ranjivim situacijama, ova kombinacija bliskosti, prividne empatije i dostupnosti 24/7 može postati opasna zamka.
Buka koja okružuje OpenAI, Meta i druge velike tehnološke kompanije služi kao pozadina za sporazume koje su postigli Google i Character.AI, sugerirajući da se industrija priprema za... kontinuirani ciklus sudskih sporova, strožiji propisi i zahtjevi za transparentnošću.
Kako se pojavljuju novi detalji o sporazumima koje su Google i Character.AI postigli sa pogođenim porodicama, Tehnološki sektor pretpostavlja da se faza rasta s gotovo nikakvim regulatornim kontrolama bliži kraju.Kombinacija pravnog pritiska, društvene kontrole i novih propisa u Evropi podstiče uključivanje chatbotova snažne zaštitne mjere, posebno kada su u pitanju tinejdžeri, i to nas prisiljava da preispitamo kako su ovi alati dizajnirani, testirani i praćeni prije nego što budu stavljeni u ruke šire javnosti.
Ja sam tehnološki entuzijasta koji je svoja "geek" interesovanja pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći najsavremeniju tehnologiju i petljajući po svim vrstama programa iz čiste radoznalosti. Sada sam se specijalizirao za kompjutersku tehnologiju i video igrice. To je zato što više od 5 godina pišem za razne web stranice o tehnologiji i video igricama, stvarajući članke koji nastoje dati vam potrebne informacije na jeziku koji je svima razumljiv.
Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog za Windows operativni sistem kao i Android za mobilne telefone. I moja posvećenost je vama, uvijek sam spreman potrošiti nekoliko minuta i pomoći vam da riješite sva pitanja koja imate u ovom svijetu interneta.