- Perekontode linkimine teismeliste ChatGPT kasutamise jälgimiseks.
- Võimalus keelata mälu ja ajalugu ning hallata funktsioone vanuse järgi.
- Automaatsed hoiatused "ägeda hädaohu" indikaatorite ja hädaolukorra nupu kohta.
- Kasutuselevõtt algab järgmisel kuul ja 120-päevane plaan koos põhjendusmudelitega.
OpenAI on teatanud a saabumisest Vanemlik kontroll ChatGPT-s suunatud teismelistega kodudele – uus funktsioon, mille abil ettevõte soovib tugevdada turvalisust ja pakkuda peredele rohkem jälgimisvahendeid loobumata vestlusroboti kasulikkusest.
Otsus tehti pärast kasvavat sotsiaalset ja regulatiivset survet, sealhulgas Adam Raine'i perekonna hagi Californias, kus ettevõtet süüdistatakse vaimse tervise kontekstis ebaõnnestumistes. OpenAI eeldab, et neid tuleb automaatsed hoiatused "ägeda häda" nähtude kohta ja funktsioonide komplekt alaealiste kogemuse haldamiseks.
Mis muutub ChatGPT-s peredele?
Uute valikutega saavad vanemad siduda oma konto laste kontodega e-posti teel saadetud kutse kaudu vaadake üle, kuidas süsteem reageerib, ja kohandage mudeli käitumist varasele eale mõeldud reeglitega.
Juhtimisfunktsioonide hulka kuulub ka võime keela mälu ja vestlusajalugu, samuti funktsioonide piiramist vastavalt kõrvaleriala küpsusastmele. OpenAI kaalub ka meeldetuletused pikkade seansside ajal soodustada tervislikke pause.
Lisaks sisaldab pakett ka hädaolukorra nupp mis hõlbustab kontakti tugiteenuste ja vaimse tervise spetsialistidega ning võimalust sisu blokeerimine kui vestluses tuvastatakse riskisignaale.
Turvakalender ja tegevuskava
OpenAI paigutab stardi järgmiseks kuuks ja kuigi konkreetset kuupäeva pole määratud, edendab see 120-päevast plaani, et tugevdada konkreetseid kaitsemeetmeid lapsed ja noorukid nii tootes kui ka sisemistes protsessides.
Ettevõte märgib, et teatud tundlikud vestlused on suunab ümber arutlusmudelitele suudab süstemaatilisemalt järgida ohutusjuhiseid, eesmärgiga seada esikohale ettevaatlikud ja toetavad reageeringud rikkumise tuvastamisel riskiküsimused näiteks enesevigastamine või enesetapumõtted.
Juhtum, mis pani alarmid tööle
Teadaanne tuleb pärast lapse vanemate kohtuasja. Adam Raine, 16-aastane teismeline kes pärast kuude pikkust vestlusrobotiga suhtlemist enesetapu sooritas. Esitatud dokumentide kohaselt oleks ChatGPT-l olnud normaliseeritud enesetapumõtted ja perekonnalt abi otsimine pole soovitatav – süüdistused, mille lahendamise peavad lahendama kohtud.
Paralleelselt tunnistas OpenAI, et selle assistent võib ebaõnnestuda "kriitilised olukorrad" ja pühendunud muutustele. Ettevõte väidab, et need meetmed on suunatud riske vähendada ilma ametlikult otsust kohtuasjale omistamata, milles viidatakse ka GPT-4o kasutamisele vestlustes.
Sotsiaalne ja poliitiline surve tehisintellektile ja alaealistele
Juulis palusid mitu USA senaatorit ettevõttel selgitused enesevigastamise ja enesetapu ennetamise kohta vastuseks äärmuslikes olukordades tuvastatud sobimatutele reaktsioonidele. Common Sense Media väidab omalt poolt, et all 18 aastat ei tohiks kasutada vestluspõhiseid tehisintellekti rakendusi nende "vastuvõetamatute riskide" tõttu.
OpenAI samm on kooskõlas tööstusharu trendiga, kus platvormid, näiteks Meta või YouTube on surunud peale peredele kontrolli kehtestamist. Põhiline arutelu keerleb selle üle, kuidas tasakaalustada innovatsiooni, garantii ja garantiid noortele kasutajatele.
Mis juhtub ChatGPT-s riskisignaalide ilmnemisel
OpenAI eesmärk on dünaamiline marsruutimine, mis tuletab keerulisi vestlusi läbimõeldumate mudelite poole, millel on rangemad ohutusnõuded. Eesmärk on vähendada enesega rahulolule kalduvust, tõsta ettevaatlikkuse läve ja tugiteenuste vastuste prioriseerimine potentsiaalselt kahjulike koostoimete eest.
Selle lähenemisviisi kinnistamiseks on ettevõte loonud Heaolu ja tehisintellekti ekspertide nõukogu ja ülemaailmne arstide võrgustik. Ettevõtte sõnul on rohkem kui 250 arsti 60 riigis ja mudeli käitumise kohta on juba lisatud üle 90 kaastöö vaimse tervise kontekstid.
Mida vanemad saavad samm-sammult teha
Pered leiavad lihtsa käigu: kutsu alaealine posti teel, kinnitada kontode linkimist ja määrata, millised funktsioonid on nooruki profiilis aktiveeritud või mitte, pöörates erilist tähelepanu mälule, ajaloole ja turvafiltrid.
- Ühenda täiskasvanu konto alaealise kontoga kutse kaudu.
- Määra piirid: mälu, ajalugu ja vanusele vastavad funktsioonid.
- Aktiveeri ägeda hädaolukorra märguanded ja juurdepääs hädaolukorra nupule.
- Kontrollige perioodiliselt, kuidas süsteem reageerib, ja kohandage sätteid.
OpenAI väidab, et jätkab nende tööriistade täiustamist, kuid pole veel kõiki üksikasju avaldanud. privaatsusparameetrid ja nähtavust. Ettevõte tuletab meelde, et vanemlik kontroll on tugi ja ei asenda professionaalne tähelepanu ega jätkuvat perekonnatoetust.
Selle paketiga püüab OpenAI tugevdada ChatGPT turvalisust teismeliste keskkonnas, perekontod, limiidid ja märguanded, järkjärguline kasutuselevõtt ja väline kliiniline nõustamine; sammud, mille eesmärk on riskide piiramine, unustamata seejuures tõsiasja, et täiskasvanute järelevalve ja professionaalne otsustusvõime on endiselt olulised. hädavajalikud tükid.
Olen tehnoloogiahuviline, kes on muutnud oma "nohikese" huvidest elukutse. Olen veetnud üle 10 aasta oma elust tipptehnoloogiat kasutades ja puhtast uudishimust igasuguste programmide kallal nokitsenud. Nüüd olen spetsialiseerunud arvutitehnoloogiale ja videomängudele. Seda seetõttu, et rohkem kui 5 aastat olen kirjutanud erinevatele tehnoloogia ja videomängude veebisaitidele, luues artikleid, mille eesmärk on anda teile vajalikku teavet kõigile arusaadavas keeles.
Kui teil on küsimusi, siis minu teadmised ulatuvad kõigest, mis on seotud nii Windowsi operatsioonisüsteemiga kui ka Androidiga mobiiltelefonidele. Ja ma olen pühendunud teile, olen alati nõus kulutama paar minutit ja aitama teil lahendada kõik küsimused, mis teil selles Interneti-maailmas tekkida võivad.