- Povezivanje obiteljskih računa za praćenje korištenja ChatGPT-a od strane tinejdžera.
- Mogućnost onemogućavanja memorije i povijesti te upravljanje funkcijama prema dobi.
- Automatska upozorenja za indikatore "akutne nevolje" i gumb za hitne slučajeve.
- Implementacija počinje sljedeći mjesec i plan od 120 dana s modelima zaključivanja.
OpenAI je najavio dolazak Roditeljski nadzor u ChatGPT-u namijenjena domovima s tinejdžerima, nova značajka kojom tvrtka želi pojačati sigurnost i ponuditi obiteljima više alata za praćenje bez odricanja od korisnosti chatbota.
Odluka dolazi nakon rastućeg društvenog i regulatornog pritiska, uključujući Obiteljska tužba Adama Rainea u Kaliforniji, koja optužuje tvrtku za propuste u kontekstu mentalnog zdravlja. OpenAI predviđa da će biti automatska upozorenja za znakove „akutne nevolje“ i skup značajki za upravljanje iskustvom maloljetnika.
Što se mijenja u ChatGPT-u za obitelji?
S novim opcijama, roditelji će moći povežite svoj račun s računima svoje djece putem pozivnice e-poštom, pregledajte kako sustav reagira i prilagodite ponašanje modela pravilima osmišljenim za ranu dob.
Među kontrolama će biti mogućnost onemogući memoriju i povijest razgovora, kao i ograničavanje funkcija prema razini zrelosti maloljetnika. OpenAI također razmatra podsjetnike tijekom dugih sesija kako bi se potaknuli zdravi odmori.
Osim toga, paket će uključivati gumb za hitne slučajeve što će olakšati kontakt sa službama podrške i stručnjacima za mentalno zdravlje, te mogućnost blokirati sadržaj kada se u razgovoru otkriju signali rizika.
Sigurnosni kalendar i plan
OpenAI postavlja lansiranje za sljedeći mjesec i, iako nije odredila određeni datum, unapređuje 120-dnevni plan za jačanje specifičnih zaštitnih mjera za djece i adolescenata kako u proizvodu tako i u internim procesima.
Tvrtka navodi da su određeni osjetljivi razgovori preusmjerit će se na modele zaključivanja sposobniji sustavnije slijediti sigurnosne smjernice, s ciljem davanja prioriteta opreznim i podržavajućim reakcijama kada se otkriju problemi s rizikom kao što su samoozljeđivanje ili suicidalne misli.
Slučaj koji je aktivirao alarme
Objava dolazi nakon tužbe roditelja Adam Raine, 16-godišnji tinejdžer koji je oduzeo sebi život nakon višemjesečne interakcije s chatbotom. Prema podnesku, ChatGPT bi imao normalizirane suicidalne misli i nije preporučljivo tražiti pomoć obitelji, optužbe koje će morati riješiti sudovi.
Paralelno s tim, OpenAI je priznao da bi njegov asistent mogao zakazati u „kritične situacije“ i predan promjenama. Tvrtka tvrdi da ove mjere imaju za cilj smanjiti rizike bez službenog pripisivanja odluke tužbi, koja također navodi korištenje GPT-4o u razgovorima.
Društveni i politički pritisak na umjetnu inteligenciju i maloljetnike
U srpnju je nekoliko američkih senatora zatražilo od tvrtke objašnjenja o samoozljeđivanju i sprječavanju samoubojstva kao odgovor na neprimjerene reakcije uočene u ekstremnim situacijama. Sa svoje strane, Common Sense Media tvrdi da u 18 godinama ne bi trebali koristiti konverzacijske AI aplikacije zbog njihovih „neprihvatljivih rizika“.
OpenAI-jev potez usklađen je s industrijskim trendom u kojem platforme poput Meta ili YouTube zalagali su se za kontrolu obitelji. Temeljna rasprava vrti se oko toga kako uravnotežiti inovacije, jamčiti i jamstva za mlade korisnike.
Što se događa unutar ChatGPT-a kada postoje signali rizika
OpenAI cilja na dinamičko usmjeravanje koje izvodi složene razgovore prema reflektivnijim modelima, sa strožim sigurnosnim smjernicama. Cilj je smanjiti pristranost samozadovoljstva, podići prag razboritosti i prioritet odgovora podrške protiv potencijalno štetnih interakcija.
Kako bi učvrstila ovaj pristup, tvrtka je stvorila Vijeće stručnjaka za dobrobit i umjetnu inteligenciju i globalnu mrežu liječnika. Prema tvrtki, više od 250 liječnika u 60 zemalja i već je uključeno više od 90 doprinosa o ponašanju modela konteksti mentalnog zdravlja.
Što roditelji mogu učiniti, korak po korak
Obitelji će pronaći jednostavan tijek: pozvati maloljetnika poštom, potvrditi povezivanje računa i definirati koje su funkcije aktivirane ili ne u profilu adolescenta, s posebnom pažnjom na pamćenje, povijest i sigurnosni filteri.
- Povežite račun odrasle osobe s računom maloljetnika putem pozivnice.
- Postavite ograničenja: memorija, povijest i značajke odobrene za određenu dob.
- Aktivirajte obavijesti za „akutnu nevolju“ i pristup gumbu za hitne slučajeve.
- Povremeno provjeravajte kako sustav reagira i prilagodite postavke.
OpenAI kaže da će nastaviti usavršavati ove alate, ali još nije detaljno opisao sve parametri privatnosti i vidljivost. Tvrtka podsjeća da je roditeljski nadzor podrška i ne zamjenjuje profesionalna pažnja niti kontinuirana obiteljska podrška.
Ovim paketom, OpenAI pokušava ojačati sigurnost ChatGPT-a u tinejdžerskom okruženju obiteljski računi, ograničenja i upozorenja, postupno uvođenje i vanjsko kliničko savjetovanje; koraci koji nastoje ograničiti rizike bez gubitka iz vida činjenice da nadzor odraslih i profesionalna prosudba ostaju bitni komadi.
Ja sam tehnološki entuzijast koji je svoje "geek" interese pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći vrhunsku tehnologiju i petljajući sa svim vrstama programa iz čiste znatiželje. Sada sam se specijalizirao za računalne tehnologije i video igre. To je zato što sam više od 5 godina pisao za razne web stranice o tehnologiji i videoigrama, stvarajući članke koji vam nastoje dati informacije koje su vam potrebne na jeziku koji je svima razumljiv.
Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog uz Windows operativni sustav kao i Android za mobitele. I moja je posvećenost vama, uvijek sam spreman odvojiti nekoliko minuta i pomoći vam riješiti sva pitanja koja imate u ovom internetskom svijetu.