- Povezivanje porodičnih računa za praćenje korištenja ChatGPT-a od strane tinejdžera.
- Mogućnost onemogućavanja memorije i historije i upravljanje funkcijama prema dobi.
- Automatska upozorenja za indikatore "akutne nevolje" i dugme za hitne slučajeve.
- Početak implementacije je sljedeći mjesec, a plan traje 120 dana s modelima zaključivanja.
OpenAI je najavio dolazak Roditeljski nadzor u ChatGPT-u namijenjena domovima s tinejdžerima, nova funkcija kojom kompanija želi pojačati sigurnost i ponuditi porodicama više alata za praćenje bez odricanja od korisnosti chatbota.
Odluka dolazi nakon rastućeg društvenog i regulatornog pritiska, uključujući Porodična tužba Adama Rainea u Kaliforniji, koja optužuje kompaniju za propuste u kontekstu mentalnog zdravlja. OpenAI predviđa da će biti automatska upozorenja za znakove „akutne nevolje“ i skup funkcija za upravljanje iskustvom maloljetnika.
Šta se mijenja u ChatGPT-u za porodice?
S novim opcijama, roditelji će moći povežite svoj račun s računima svoje djece putem e-mail pozivnice, pregledajte kako sistem reaguje i prilagodite ponašanje modela pravilima osmišljenim za rani uzrast.
Među kontrolama će biti mogućnost da onemogući memoriju i historiju razgovora, kao i ograničavanje funkcija prema nivou zrelosti maloljetnika. OpenAI također razmatra podsjetnici tokom dugih sesija kako bi se podstakli zdravi odmori.
Osim toga, paket će uključivati dugme za slučaj nužde što će olakšati kontakt sa službama podrške i stručnjacima za mentalno zdravlje, te mogućnost blokirati sadržaj kada se tokom razgovora otkriju signali rizika.
Kalendar i plan sigurnosti
OpenAI postavlja lansiranje za sljedeći mjesec i, iako nije odredila tačan datum, unapređuje 120-dnevni plan za jačanje specifičnih zaštitnih mjera za djeca i adolescenti kako u proizvodu, tako i u internim procesima.
Kompanija navodi da su određeni osjetljivi razgovori preusmjerit će se na modele zaključivanja sposobniji sistematičnije slijediti sigurnosne smjernice, s ciljem davanja prioriteta opreznim i podržavajućim reakcijama kada se otkriju problemi s rizikom kao što su samopovređivanje ili suicidalne misli.
Slučaj koji je aktivirao alarme
Objava dolazi nakon tužbe roditelja Adam Raine, šesnaestogodišnji tinejdžer koji je oduzeo sebi život nakon višemjesečne interakcije s chatbotom. Prema podnesku, ChatGPT bi imao normalizovane suicidalne misli i nije preporučljivo tražiti pomoć porodice, optužbe koje će sudovi morati riješiti.
Paralelno s tim, OpenAI je priznao da bi njegov asistent mogao propasti u "kritične situacije" i posvećen promjenama. Kompanija tvrdi da ove mjere imaju za cilj smanjiti rizike bez zvaničnog pripisivanja odluke tužbi, koja također navodi upotrebu GPT-4o u razgovorima.
Društveni i politički pritisak na umjetnu inteligenciju i maloljetnike
U julu je nekoliko američkih senatora zatražilo od kompanije objašnjenja o samopovređivanju i prevenciji samoubistva kao odgovor na neprimjerene reakcije uočene u ekstremnim situacijama. Sa svoje strane, Common Sense Media tvrdi da pod 18 godinama ne bi trebali koristiti konverzacijske AI aplikacije zbog njihovih „neprihvatljivih rizika“.
OpenAI-jev potez usklađen je s industrijskim trendom u kojem platforme poput Meta ili YouTube su se zalagali za kontrolu porodica. Osnovna diskusija se vrti oko toga kako uravnotežiti inovacije, garancija i garancije za mlade korisnike.
Šta se dešava unutar ChatGPT-a kada postoje signali rizika
OpenAI cilja na dinamičko usmjeravanje koje izvodi složene razgovore prema reflektivnijim modelima, sa strožijim sigurnosnim smjernicama. Cilj je smanjiti pristranost samozadovoljstva, podići prag razboritosti i prioritet odgovora podrške protiv potencijalno štetnih interakcija.
Da bi učvrstila ovaj pristup, firma je kreirala Vijeće stručnjaka za blagostanje i umjetnu inteligenciju i Globalna mreža ljekara. Prema kompaniji, više od 250 ljekara u 60 zemalja i već je uključeno više od 90 doprinosa o ponašanju modela konteksti mentalnog zdravlja.
Šta roditelji mogu učiniti, korak po korak
Porodice će pronaći jednostavan tok: pozovite maloljetnika poštom, potvrditi povezivanje računa i definirati koje su funkcije aktivirane, a koje ne u profilu adolescenta, s posebnom pažnjom na pamćenje, historiju i sigurnosni filteri.
- Povežite račun odrasle osobe s računom maloljetnika putem pozivnice.
- Postavite ograničenja: memorija, historija i funkcije odobrene za uzrast.
- Aktivirajte obavještenja za "akutnu nevolju" i pristup dugmetu za hitne slučajeve.
- Povremeno provjeravajte kako sistem reaguje i prilagodite postavke.
OpenAI kaže da će nastaviti usavršavati ove alate, ali još nije detaljno opisao sve... parametri privatnosti i vidljivost. Kompanija podsjeća da je roditeljska kontrola podrška i ne zamjenjuje profesionalna pažnja niti kontinuiranu podršku porodice.
Ovim paketom, OpenAI pokušava ojačati sigurnost ChatGPT-a u tinejdžerskom okruženju putem porodični računi, ograničenja i upozorenja, postepeno uvođenje i eksterni klinički savjeti; koraci koji nastoje ograničiti rizike bez gubitka iz vida činjenice da nadzor odraslih i profesionalna procjena ostaju bitnih komada.
Ja sam tehnološki entuzijasta koji je svoja "geek" interesovanja pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći najsavremeniju tehnologiju i petljajući po svim vrstama programa iz čiste radoznalosti. Sada sam se specijalizirao za kompjutersku tehnologiju i video igrice. To je zato što više od 5 godina pišem za razne web stranice o tehnologiji i video igricama, stvarajući članke koji nastoje dati vam potrebne informacije na jeziku koji je svima razumljiv.
Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog za Windows operativni sistem kao i Android za mobilne telefone. I moja posvećenost je vama, uvijek sam spreman potrošiti nekoliko minuta i pomoći vam da riješite sva pitanja koja imate u ovom svijetu interneta.