OpenAI bo v ChatGPT dodal starševski nadzor z družinskimi računi, opozorili o tveganjih in omejitvami uporabe.

OpenAI je napovedal prihod Starševski nadzor v ChatGPT namenjena domovom z najstniki, nova funkcija, s katero želi podjetje okrepiti varnost in ponuditi družinam več orodij za spremljanje ne da bi se pri tem odpovedali uporabnosti klepetalnega robota.

Odločitev je prišla po naraščajočem družbenem in regulativnem pritisku, vključno z Družinska tožba Adama Rainea v Kaliforniji, ki podjetje obtožuje neuspehov na področju duševnega zdravja. OpenAI pričakuje, da bo samodejna opozorila za znake "akutne stiske" in nabor funkcij za upravljanje izkušenj mladoletnikov.

Kaj se spreminja v ChatGPT za družine?

Z novimi možnostmi bodo starši lahko povežite svoj račun z računi svojih otrok prek e-poštnega povabila pregledajte, kako se sistem odziva, in prilagodite vedenje modela s pravili, zasnovanimi za zgodnje starosti.

Med kontrolami bo možnost onemogočite pomnilnik in zgodovino klepetov, kot tudi omejevanje funkcij glede na stopnjo zrelosti mladoletnika. OpenAI predvideva tudi opomniki med dolgimi sejami spodbujati zdrave odmore.

Poleg tega bo paket vključeval gumb za nujne primere kar bo olajšalo stik s podpornimi službami in strokovnjaki za duševno zdravje ter možnost blokiraj vsebino ko se v pogovoru zaznajo signali tveganja.

Varnostni koledar in načrt

OpenAI umesti izstrelitev za naslednji mesec in čeprav ni določila natančnega datuma, pripravlja 120-dnevni načrt za okrepitev posebnih zaščitnih ukrepov za otroci in mladostniki tako v izdelku kot v internih procesih.

Podjetje navaja, da so nekateri občutljivi pogovori bo preusmeril na modele sklepanja sposobni bolj sistematično upoštevati varnostne smernice, s ciljem dajanja prednosti previdnim in podpornim odzivom, ko jih odkrijejo vprašanja tveganja kot so samopoškodovanje ali samomorilne misli.

Primer, ki je sprožil alarm

Objava prihaja po tožbi staršev Adam Raine, 16-letni najstnik ki si je po mesecih interakcije s klepetalnim robotom vzel življenje. Glede na vloženo dokumentacijo bi ChatGPT imel normalizirane samomorilne misli in ni priporočljivo iskati pomoči družine, obtožbe, ki jih bodo morala rešiti sodišča.

Vzporedno je OpenAI priznal, da bi lahko njegov pomočnik odpovedal "kritične situacije" in zavezan spremembam. Podjetje vztraja, da si ti ukrepi prizadevajo zmanjšati tveganja brez uradnega pripisovanja odločitve tožbi, ki v pogovorih navaja tudi uporabo GPT-4o.

Družbeni in politični pritisk na umetno inteligenco in mladoletnike

Julija je več ameriških senatorjev podjetje zaprosilo pojasnila o samopoškodovanju in preprečevanju samomora kot odgovor na neprimerne odzive, zaznane v ekstremnih situacijah. Common Sense Media pa trdi, da mlajši od 18 let ne bi smeli uporabljati pogovornih aplikacij umetne inteligence zaradi njihovih »nesprejemljivih tveganj«.

Poteza OpenAI je skladna s trendom v panogi, v katerem platforme, kot so Meta ali YouTube so si prizadevali za nadzor nad družinami. Temeljna razprava se vrti okoli tega, kako uravnotežiti inovacije, jamstva in jamstva za mlade uporabnike.

Kaj se zgodi znotraj ChatGPT, ko so prisotni signali tveganja

OpenAI si prizadeva za dinamično usmerjanje, ki izpelje zapletene pogovore k bolj reflektivnim modelom s strožjimi varnostnimi smernicami. Cilj je zmanjšati pristranskost samozadovoljstva, dvigniti prag preudarnosti in prednostno obravnavo odgovorov podpore pred potencialno škodljivimi interakcijami.

Za utrditev tega pristopa je podjetje ustvarilo Svet strokovnjakov za dobro počutje in umetno inteligenco in globalno mrežo zdravnikov. Po navedbah podjetja več kot 250 zdravnikov v 60 državah in vključenih je že več kot 90 prispevkov o vedenju modela konteksti duševnega zdravja.

Kaj lahko starši storijo, korak za korakom

Družine bodo našle preprost postopek: povabite mladoletnika po pošti, potrditi povezavo računov in opredeliti, katere funkcije so v profilu mladostnika aktivirane ali ne, s posebnim poudarkom na spominu, zgodovini in varnostni filtri.

• Povežite račun odrasle osebe z računom mladoletne osebe prek povabila.
• Določite omejitve: pomnilnik, zgodovina in funkcije, ki so odobrene glede na starost.
• Aktivirajte obvestila za »akutno stisko« in dostop do gumba za klic v sili.
• Občasno preverite, kako se sistem odziva, in prilagodite nastavitve.

OpenAI pravi, da bo ta orodja še naprej izpopolnjeval, vendar še ni podrobno predstavil vseh parametri zasebnosti in vidnost. Podjetje opozarja, da je starševski nadzor podpora in ne nadomešča strokovna pozornost niti nadaljnje družinske podpore.

S tem paketom poskuša OpenAI okrepiti varnost ChatGPT v najstniškem okolju z družinski računi, omejitve in opozorila, postopno uvajanje in zunanje klinično svetovanje; koraki, ki si prizadevajo omejiti tveganja, ne da bi pri tem pozabili na dejstvo, da ostajata nadzor odraslih in strokovna presoja bistveni kosi.

Povezani članek:

Najboljše aplikacije za starševski nadzor za iPhone in Android

Alberto Navarro

Sem tehnološki navdušenec, ki je svoja "geek" zanimanja spremenil v poklic. Več kot 10 let svojega življenja sem porabil za uporabo vrhunske tehnologije in premleval najrazličnejše programe iz čiste radovednosti. Zdaj sem se specializiral za računalniško tehnologijo in video igre. To je zato, ker že več kot 5 let pišem za različna spletna mesta o tehnologiji in video igrah ter ustvarjam članke, ki vam želijo dati informacije, ki jih potrebujete, v jeziku, ki je razumljiv vsem.

Če imate kakršna koli vprašanja, moje znanje sega od vsega v zvezi z operacijskim sistemom Windows kot tudi Androidom za mobilne telefone. In moja zaveza je vam, vedno sem pripravljen porabiti nekaj minut in vam pomagati razrešiti kakršna koli vprašanja, ki jih morda imate v tem internetnem svetu.