- Conectarea conturilor de familie pentru a monitoriza utilizarea ChatGPT de către adolescenți.
- Posibilitatea de a dezactiva memoria și istoricul și de a gestiona funcțiile în funcție de vârstă.
- Alerte automate pentru indicatorii de „stare de urgență acută” și buton de urgență.
- Implementarea începe luna viitoare și planul de 120 de zile cu modele de raționament.
OpenAI a anunțat sosirea unui... Control parental în ChatGPT destinată locuințelor cu adolescenți, o nouă caracteristică prin care compania își propune să consolideze securitatea și să ofere familiilor mai multe instrumente de monitorizare fără a renunța la utilitatea chatbot-ului.
Decizia vine în urma creșterii presiunii sociale și de reglementare, inclusiv Procesul familiei lui Adam Raine în California, care acuză compania de eșecuri în contexte de sănătate mintală. OpenAI anticipează că vor exista avertismente automate pentru semne de „suferință acută” și o suită de funcții pentru gestionarea experienței minorilor.
Ce se schimbă în ChatGPT pentru familii?
Cu noile opțiuni, părinții vor putea conectați contul dvs. la conturile copiilor dvs. printr-o invitație prin e-mail, examinați modul în care sistemul răspunde și ajustați comportamentul modelului cu reguli concepute pentru vârste mici.
Printre comenzi se va număra și posibilitatea de a dezactivați memoria și istoricul chatului, precum și limitarea funcțiilor în funcție de nivelul de maturitate al minorului. OpenAI are în vedere și mementouri în timpul sesiunilor lungi pentru a încuraja pauzele sănătoase.
În plus, pachetul va include o buton de urgență ceea ce va facilita contactul cu serviciile de sprijin și profesioniștii din domeniul sănătății mintale, precum și opțiunea de a blocarea conținutului când sunt detectate semnale de risc într-o conversație.
Calendarul și foaia de parcurs a securității
OpenAI plasează lansarea pentru luna viitoare și, deși nu a stabilit o dată specifică, avansează un plan pe 120 de zile pentru a consolida garanțiile specifice pentru copii și adolescenți atât în produs, cât și în procesele interne.
Compania indică faptul că anumite conversații sensibile sunt va redirecționa către modele de raționament capabil să urmeze instrucțiunile de siguranță mai sistematic, cu scopul de a prioritiza răspunsurile prudente și de susținere atunci când sunt detectate probleme de risc cum ar fi autovătămarea sau gândurile suicidare.
Cazul care a declanșat alarmele
Anunțul vine după un proces intentat de părinții... Adam Raine, un adolescent de 16 ani care și-a luat viața după luni de interacțiune cu chatbot-ul. Conform documentelor depuse, ChatGPT ar fi gânduri suicidare normalizate și nu este recomandabil să se solicite ajutorul familiei, acuzații pe care instanțele vor trebui să le soluționeze.
În paralel, OpenAI a recunoscut că asistentul său ar putea eșua în... „situații critice” și dedicat schimbărilor. Compania susține că aceste măsuri urmăresc reduce riscurile fără a atribui oficial decizia procesului, care citează și utilizarea GPT-4o în conversații.
Presiunea socială și politică asupra inteligenței artificiale și a minorilor
În iulie, mai mulți senatori americani au cerut companiei explicații despre autovătămare și prevenirea suicidului ca răspuns la reacții nepotrivite detectate în situații extreme. La rândul său, Common Sense Media susține că în anii 18 nu ar trebui să utilizeze aplicații conversaționale de inteligență artificială din cauza „riscurilor inacceptabile” pe care le prezintă.
Mișcarea OpenAI se aliniază cu o tendință din industrie în care platforme precum Meta sau YouTube au insistat asupra unor controale pentru familii. Discuția de bază se învârte în jurul modului de a echilibra inovația, garanții și garanții pentru utilizatorii tineri.
Ce se întâmplă în ChatGPT când există semnale de risc
OpenAI vizează rutarea dinamică care derivă conversații complexe către modele mai reflexive, cu linii directoare de siguranță mai stricte. Scopul este de a reduce prejudecățile de automulțumire, de a ridica pragul de prudență și prioritizați răspunsurile de asistență împotriva interacțiunilor potențial dăunătoare.
Pentru a consolida această abordare, firma a creat o Consiliul de Experți în Bunăstare și Inteligență Artificială și o rețea globală de medici. Potrivit companiei, peste 250 de medici din 60 de țări și peste 90 de contribuții privind comportamentul modelului au fost deja încorporate contexte de sănătate mintală.
Ce pot face părinții, pas cu pas
Familiile vor găsi un flux simplu: invitați minorul prin poștă, confirmați conectarea conturilor și definiți ce funcții sunt activate sau nu în profilul adolescentului, acordând o atenție specială memoriei, istoricului și filtre de securitate.
- Conectați contul adultului la contul minorului prin invitație.
- Setați limite: memorie, istoric și funcții aprobate în funcție de vârstă.
- Activează notificările pentru „starea de primejdie acută” și accesează butonul de urgență.
- Verificați periodic cum răspunde sistemul și ajustați setările.
OpenAI spune că va continua să perfecționeze aceste instrumente, dar nu a detaliat încă toate... parametrii de confidențialitate și vizibilitate. Compania reamintește că controlul parental este un sprijin și nu înlocuiește atenție profesională nici sprijinul continuu al familiei.
Cu acest pachet, OpenAI încearcă să consolideze securitatea ChatGPT în mediul adolescenților prin conturi de familie, limite și alerte, o implementare etapizată și consiliere clinică externă; măsuri care urmăresc limitarea riscurilor fără a pierde din vedere faptul că supravegherea adulților și judecata profesională rămân piese esentiale.
Sunt un pasionat de tehnologie care și-a transformat interesele de „tocilar” într-o profesie. Mi-am petrecut mai bine de 10 ani din viața mea folosind tehnologie de ultimă oră și mânuind cu tot felul de programe din pură curiozitate. Acum m-am specializat în tehnologie computerizată și jocuri video. Asta pentru că de mai bine de 5 ani scriu pentru diverse site-uri web despre tehnologie și jocuri video, creând articole care urmăresc să-ți ofere informațiile de care ai nevoie într-un limbaj pe care oricine este pe înțeles.
Dacă aveți întrebări, cunoștințele mele variază de la tot ce ține de sistemul de operare Windows, precum și Android pentru telefoane mobile. Și angajamentul meu este față de tine, sunt mereu dispus să petrec câteva minute și să te ajut să rezolvi orice întrebări pe care le poți avea în această lume a internetului.