- Perhetilien linkittäminen ChatGPT-käytön seuraamiseksi teini-ikäisten toimesta.
- Mahdollisuus poistaa muisti ja historia käytöstä sekä hallita toimintoja iän mukaan.
- Automaattiset hälytykset "akuutista hätätilanteesta" ja hätäpainikkeesta.
- Käyttöönotto alkaa ensi kuussa ja 120 päivän suunnitelma perustelumalleineen.
OpenAI on ilmoittanut saapumisestaan Vanhempien valvonta ChatGPT:ssä teini-ikäisten koteihin suunnattu uusi ominaisuus, jolla yritys pyrkii vahvistamaan turvallisuutta ja tarjoamaan perheille lisää valvontatyökaluja tinkimättä chatbotin hyödyllisyydestä.
Päätös tehdään kasvavan sosiaalisen ja sääntelypaineen jälkeen, mukaan lukien Adam Rainen perheoikeusjuttu Kaliforniassa, joka syyttää yritystä epäonnistumisista mielenterveysyhteyksissä. OpenAI ennakoi, että tulee olemaan automaattiset varoitukset "akuutin ahdingon" merkeistä ja ominaisuuspaketti alaikäisten käyttökokemuksen hallintaan.
Mitä ChatGPT:ssä muuttuu perheille?
Uusien vaihtoehtojen myötä vanhemmat voivat linkitä tilisi lastesi tileihin sähköpostikutsun kautta voit tarkastella järjestelmän reaktioita ja säätää mallin toimintaa varhaiskasvatukseen suunniteltujen sääntöjen avulla.
Ohjainten joukossa on kyky poista muisti ja keskusteluhistoria käytöstäsekä rajoittaa funktioita sivuaineen kypsyystason mukaan. OpenAI harkitsee myös muistutuksia pitkien istuntojen aikana kannustaa terveellisiin taukoihin.
Lisäksi pakettiin tulee mukaan hätäpainike mikä helpottaa yhteydenpitoa tukipalveluihin ja mielenterveysalan ammattilaisiin sekä mahdollisuutta estä sisältö kun keskustelussa havaitaan riskisignaaleja.
Tietoturvakalenteri ja tiekartta
OpenAI sijoittaa laukaisunsa ensi kuukaudeksi ja vaikka se ei ole asettanut tarkkaa päivämäärää, se edistää 120 päivän suunnitelmaa tiettyjen suojatoimien vahvistamiseksi lapset ja nuoret sekä tuotteessa että sisäisissä prosesseissa.
Yhtiö ilmoittaa, että tietyt arkaluontoiset keskustelut ovat ohjaa päättelymalleihin pystyy noudattamaan turvallisuusohjeita järjestelmällisemmin tavoitteena priorisoida varovaisia ja tukevia toimia havaittuaan riskikysymykset kuten itsetuhoisuutta tai itsemurha-ajatuksia.
Tapaus, joka on laukaissut hälytykset
Ilmoitus tulee sen jälkeen, kun vanhemmat ovat nostaneet kanteen. Adam Raine, 16-vuotias teini-ikäinen joka riisti itseltään hengen kuukausien vuorovaikutuksen jälkeen chatbotin kanssa. Hakemuksen mukaan ChatGPT:llä olisi ollut normalisoituneet itsemurha-ajatukset eikä ole suositeltavaa hakea apua perheeltä, syytökset, jotka tuomioistuinten on ratkaistava.
Samanaikaisesti OpenAI myönsi, että sen avustaja saattaa epäonnistua "kriittiset tilanteet" ja sitoutunut muutoksiin. Yhtiö väittää, että näillä toimenpiteillä pyritään vähentää riskejä ilman, että päätöstä virallisesti yhdistetään oikeusjuttuun, jossa myös mainitaan GPT-4o:n käyttö keskusteluissa.
Sosiaalinen ja poliittinen paine tekoälyyn ja alaikäisiin
Heinäkuussa useat Yhdysvaltain senaattorit pyysivät yhtiötä selityksiä itsensä vahingoittamisesta ja itsemurhien ehkäisystä vastauksena äärimmäisissä tilanteissa havaittuihin sopimattomiin reaktioihin. Common Sense Media puolestaan väittää, että 18-vuotta ei pitäisi käyttää keskustelevia tekoälysovelluksia niiden "hyväksymättömien riskien" vuoksi.
OpenAI:n siirto on linjassa alan trendin kanssa, jossa alustat, kuten Meta tai YouTube ovat ajaneet perheille tarkoitettuja rajoituksia. Pohjimmiltaan keskustelu pyörii innovaatioiden tasapainottamisen ympärillä. takuu ja takuita nuorille käyttäjille.
Mitä ChatGPT:ssä tapahtuu, kun riskisignaaleja on
OpenAI pyrkii dynaamiseen reititykseen, joka johtaa monimutkaisia keskusteluja kohti harkitsevampia malleja, joissa on tiukemmat turvallisuusohjeet. Tavoitteena on vähentää itsetyytyväisyyteen perustuvaa vinoumaa, nostaa varovaisuuskynnystä ja priorisoida tukivastauksia mahdollisesti haitallisia vuorovaikutuksia vastaan.
Tämän lähestymistavan vahvistamiseksi yritys on luonut Hyvinvoinnin ja tekoälyn asiantuntijaneuvosto ja maailmanlaajuinen lääkäriverkosto. Yrityksen mukaan yli 250 lääkäriä 60 maassa ja mallin käyttäytymistä koskevaa yli 90 kontribuutiota on jo sisällytetty mielenterveyskontekstit.
Mitä vanhemmat voivat tehdä askel askeleelta
Perheet löytävät yksinkertaisen työnkulun: kutsu alaikäinen postitse, vahvista tilien linkittäminen ja määritä, mitkä toiminnot ovat aktiivisia tai eivät ole nuoren profiilissa, kiinnittäen erityistä huomiota muistiin, historiaan ja turvasuodattimet.
- Yhdistä aikuisen tili alaikäisen tiliin kutsun kautta.
- Aseta rajoitukset: muisti, historia ja ikärajoitetut ominaisuudet.
- Aktivoi ilmoitukset "akuutista hätätilanteesta" ja käytä hätäpainiketta.
- Tarkista säännöllisesti, miten järjestelmä reagoi, ja säädä asetuksia.
OpenAI sanoo jatkavansa näiden työkalujen tarkennusta, mutta ei ole vielä yksityiskohtaisesti kuvannut kaikkia yksityiskohtia. yksityisyysparametreja ja näkyvyyttä. Yhtiö muistuttaa, että vanhempien valvonta on tukea eikä korvaa ammattimaista huomiota eikä jatkuvaa perheen tukea.
Tämän paketin avulla OpenAI pyrkii vahvistamaan ChatGPT:n turvallisuutta teini-ikäisten ympäristössä perhetilit, rajoitukset ja hälytykset, vaiheittainen käyttöönotto ja ulkoinen kliininen neuvonta; toimenpiteet, joilla pyritään rajoittamaan riskejä unohtamatta, että aikuisen valvonta ja ammatillinen harkinta ovat edelleen tärkeitä välttämättömät osat.
Olen teknologian harrastaja, joka on muuttanut "nörtti"-harrastuksensa ammatiksi. Olen käyttänyt yli 10 vuotta elämästäni uusinta teknologiaa käyttäen ja kaikenlaisten ohjelmien parissa puhtaasta uteliaisuudesta. Nyt olen erikoistunut tietotekniikkaan ja videopeleihin. Tämä johtuu siitä, että yli 5 vuoden ajan olen työskennellyt kirjoittaen useille teknologiaa ja videopelejä käsitteleville verkkosivustoille ja luonut artikkeleita, jotka pyrkivät antamaan sinulle tarvitsemaasi tietoa kielellä, jota kaikki ymmärtävät.
Jos sinulla on kysyttävää, tietoni ulottuu kaikesta Windows-käyttöjärjestelmään liittyvästä sekä matkapuhelimien Androidista. Ja sitoumukseni on sinulle, olen aina valmis käyttämään muutaman minuutin ja auttamaan sinua ratkaisemaan kaikki kysymyksesi, joita sinulla saattaa olla tässä Internet-maailmassa.