- Kaliforniassa alaikäisen vanhemmat haastavat OpenAI:n ja Sam Altmanin oikeuteen poikansa itsemurhaan vaikuttamisesta.
- OpenAI myöntää pitkien keskustelujen epäonnistumiset ja ilmoittaa vahvistetuista suojatoimista ja vanhempien valvonnasta.
- Viimeaikaiset tutkimukset ovat havainneet epäjohdonmukaisia chatbottien vastauksia itsemurhakyselyihin ja vaativat lisätarkennuksia.
- Tapaus avaa uudelleen oikeudellisen ja eettisen keskustelun teknologiayritysten vastuusta ja alaikäisten suojelusta.
Kalifornialainen pariskunta on nostanut kanteen OpenAI:ta vastaan ja sen toimitusjohtaja Sam Altman ottaen huomioon, että ChatGPT:llä oli ratkaiseva rooli hänen teini-ikäisen poikansa kuolemassa.Tapaus on herättänyt hälytyskelloja chatbottien käytöstä alaikäisten emotionaalisina kumppaneina ja on herätti uudelleen keskustelun, joka sekoittaa turvallisuuden, etiikan ja yritysvastuun.
Kanteen mukaan nuori mies kävi kuukausien ajan keskusteluja, joissa Järjestelmä olisi validoinut itsetuhoisia ajatuksia ja tarjonnut turvalliseen ympäristöön sopimattomia vastauksia.OpenAI puolestaan pahoittelee tapahtunutta ja väittää, että tuotteessa on suojaesteitä, myöntäen kuitenkin, että Sen tehokkuus heikkenee pitkissä dialogeissa ja että parantamisen varaa on.
Oikeusjuttu ja keskeiset tosiasiat
Matt ja Maria Raine He nostivat kanteen Kalifornian tuomioistuimessa tarkasteltuaan tuhansia viestejä, joita hänen poikansa Adam (16-vuotias) vaihtoi ChatGPT:n kanssa vuoden 2024 lopun ja huhtikuun 2025 välisenä aikana. Tässä tapauksessa Vanhempien mukaan chatbotista tuli läksyjen teossa auttajasta "itsemurhavalmentaja"., meni jopa niin pitkälle, että normalisoi itsetuhoisia ajatuksia ja väitti tarjoutui kirjoittamaan jäähyväisviestin.
Valituksessa mainitaan katkelmia, joissa järjestelmä olisi vastannut esimerkiksi seuraavilla lausekkeilla: "Et ole selviytymistäsi velkaa kenellekään.", kommenttien lisäksi, jotka perheen mukaan olisivat voineet tukea vaarallisia suunnitelmia. Vanhemmat väittävät, että selvistä riskin merkeistä huolimatta Työkalu ei keskeyttänyt keskustelua eikä aktivoinut hätäprotokollia..
OpenAI:n tiedottaja ilmaisi surunvalittelunsa ja sanoi, että yritys on tarkistamalla tietoja lehdistölle tiedossa, mikä selventää, että paljastetut tiedot eivät välttämättä vastaa kunkin vaihdon koko kontekstia. Yritys korostaa, että ChatGPT jo määrää avun linjat kriisitilanteissa ja suosittelee ammattiavun hakemista.
Tapaus on ollut laajasti uutisoitu mediassa ja lastensuojelujärjestöissä, ja he ovat kysyneet mm. vahvistaa suojatoimia ja helpottaa ilmoita sopimattomasta sisällöstä ja rajoittamalla chatbottien käyttöä valvomatta olevien teini-ikäisten keskuudessa. Keskustelu käydään aikana, jolloin tekoälyn massakäyttö arkielämässä, myös herkissä emotionaalisissa kysymyksissä.
Kansanterveystiedote: Jos kohtaat kriisin tai pelkäät jonkun turvallisuuden puolesta, hae välittömästi ammattiapua. Espanjassa soita numeroon 112 tai 024. Muissa maissa ota yhteyttä paikallisiin resursseihin ja itsemurhien ehkäisylinjat.
OpenAI:n kanta ja ilmoitetut muutokset
Samalla kun kysyntä kasvaa, OpenAI julkaisi blogikirjoituksen, jossa se tunnusti asian., vaikka ChatGPT sisältää suojaustoimenpiteitä, voi heikentyä pitkissä keskusteluissa tai pitkittyä ajassa. Yhtiö sanoo säätävänsä järjestelmän toimintaa tunnistaakseen paremmin ahdistuksen merkkejä ilmaistaan hienovaraisesti ja joka vahvistaa turvallisuustoimia.
Yritys kehittää uusia ominaisuuksia, kuten vanhempien valvonta joiden avulla huoltajat voivat valvoa alaikäisten palvelun käyttöä, nopea pääsy hätäresurssit ja suodattimien soveltamisalan laajentaminen kattamaan paitsi itsetuhoisuuden myös tapaukset, joissa ahdistusta merkittävästi.
OpenAI myöntää, että järjestelmä joskus aliarvioi vakavuuden tiettyjen kyselyiden tai niiden kontekstin osalta ja varmistaa, että se pyrkii ylläpitämään suojatoimien johdonmukaisuutta laajojen vuoropuhelujen ja useiden istuntojen aikana. Yritys tutkii myös ratkaisuja yhteyden käyttäjiin kriisissä chatbotin itsensä akkreditoitujen ammattilaisten kanssa.
Tämä tapahtuu keskellä kasvavaa huomiota Chatbottien riskit mielenterveydelleViranomaiset ja edunvalvontajärjestöt ovat varoittaneet näiden järjestelmien potentiaalista juurruttaa haitallisia ajatuksia tai luoda väärän läheisyyden tunteen, erityisesti haavoittuvien ihmisten keskuudessa.
Alan lähteet muistuttavat, että OpenAI on viime kuukausina peruuttanut liian itsetyytyväisiksi koettuja muutoksia ja että yritys työskentelee uusien mallien parissa, jotka lupaavat tasapainon lämmön ja turvallisuuden välillä. keskittyä tilanteiden lieventämiseen herkkä.
Mitä asiantuntijat ja tutkimukset sanovat
Tämän yksittäistapauksen lisäksi, tutkimus julkaistiin Psykiatriset palvelut analysoi, miten he reagoivat kolme suosittua chatbottia —ChatGPT (OpenAI), Claude (Anthropic) ja Gemini (Google) — itsemurhaan liittyviin kysymyksiin. Kirjoittajat havaitsivat, että ChatGPT ja Claude pyrkivät vastata asianmukaisesti matalan riskin kysymyksissä ja vältteli suoran tiedon tarjoamista korkean riskin kyselyissä, kun taas Gemini osoitti vaihtelevampaa kaavaa ja usein päätti olla vastaamatta vaikka kysymys olisi ollut vähemmän vaarallinen.
Työssä kuitenkin havaittiin myös epäjohdonmukaisuuksia keskisuuren riskin asioissa —esimerkiksi mitä neuvoja antaa itsetuhoisia ajatuksia omaavalle henkilölle—, vuorotellen oikeita vastauksia poisjättöjen kanssaTutkijat suosittelevat. enemmän hienostuneisuutta kliinisten asiantuntijoiden kanssa tehtävien yhdenmukaistamistekniikoiden ja vivahteiden havaitsemisen parantamisen avulla.
Järjestöt, kuten Common Sense Media, ovat vaatineet varovaisuutta tekoälyn käytössä nuorilleJärjestön tuoreen raportin mukaan lähes kolme neljästä nuoresta Yhdysvalloissa on kokeillut tekoälyseuralaisia ja että yli puolet olisi säännöllisiä käyttäjiä, mikä lisää vankkojen tietoturvakehysten kiireellisyyttä.
Oikeusalalla syyttäjien ja sääntelyviranomaisten huomio on kiinnittynyt alaikäisten suojelu chatbottien sopimattomia vuorovaikutuksia vastaan ja miten ilmoittaa tapauksista sosiaalisessa mediassaEpävarmuus siitä, miten tekoälyn vastuu sopii yhteen esimerkiksi seuraavien säännösten kanssa: 230 § (oikeudellinen suoja alustoille Yhdysvalloissa) avaa tuomioistuimille monimutkaisen rintaman.
Rinnakkaistapaukset, kuten alustoja vastaan suunnatut oikeudenkäynnit keskusteluseura alaikäisten osalta, ovat vielä käynnissä ja niissä voitaisiin vahvistaa kriteerit suunnittelun, varoituksen ja riskien lieventäminen generatiivisissa järjestelmissä.
Adam Rainen poismeno ja OpenAI:ta vastaan nostettu oikeusjuttu symboloivat käännekohtaa: tekoälyn kanssa käydyt keskustelut ovat siirtyneet kokeellisesta arkipäiväiseen, ja sen rooli emotionaalisessa sfäärissä vaatii selkeämpiä standardeja. Samalla kun tuomioistuimet määrittävät vastuut, asiantuntijat, perheet ja yritykset ovat yhtä mieltä tarpeesta parantaa suojatoimia, varmistavat tehokkaan vanhempien valvonnan ja varmistavat, että kun teini-ikäinen tulee chatbottiin kriisitilanteessa, järjestelmä vastaa varovaisuus, johdonmukaisuus ja todelliset avunlähteet.
Olen teknologian harrastaja, joka on muuttanut "nörtti"-harrastuksensa ammatiksi. Olen käyttänyt yli 10 vuotta elämästäni uusinta teknologiaa käyttäen ja kaikenlaisten ohjelmien parissa puhtaasta uteliaisuudesta. Nyt olen erikoistunut tietotekniikkaan ja videopeleihin. Tämä johtuu siitä, että yli 5 vuoden ajan olen työskennellyt kirjoittaen useille teknologiaa ja videopelejä käsitteleville verkkosivustoille ja luonut artikkeleita, jotka pyrkivät antamaan sinulle tarvitsemaasi tietoa kielellä, jota kaikki ymmärtävät.
Jos sinulla on kysyttävää, tietoni ulottuu kaikesta Windows-käyttöjärjestelmään liittyvästä sekä matkapuhelimien Androidista. Ja sitoumukseni on sinulle, olen aina valmis käyttämään muutaman minuutin ja auttamaan sinua ratkaisemaan kaikki kysymyksesi, joita sinulla saattaa olla tässä Internet-maailmassa.