- Lidhja e llogarive familjare për të monitoruar përdorimin e ChatGPT nga adoleshentët.
- Aftësia për të çaktivizuar kujtesën dhe historinë dhe për të menaxhuar funksionet sipas moshës.
- Alarme automatike për treguesit e "shqetësimit akut" dhe butonin e emergjencës.
- Vendosja fillon muajin tjetër dhe plani 120-ditor me modele arsyetimi.
OpenAI ka njoftuar mbërritjen e një Kontrollet prindërore në ChatGPT i destinuar për shtëpitë me adoleshentë, një veçori e re me të cilën kompania synon të përforcojë sigurinë dhe t'u ofrojë familjeve më shumë mjete monitorimi pa hequr dorë nga dobia e chatbot-it.
Vendimi vjen pas presionit në rritje shoqëror dhe rregullator, përfshirë Padia e familjes së Adam Raine në Kaliforni, e cila akuzon kompaninë për dështime në kontekstet e shëndetit mendor. OpenAI parashikon se do të ketë paralajmërime automatike për shenja të "shqetësimit akut" dhe një sërë veçorish për të menaxhuar përvojën e të miturve.
Çfarë po ndryshon në ChatGPT për familjet?
Me opsionet e reja, prindërit do të jenë në gjendje të lidhni llogarinë tuaj me llogaritë e fëmijëve tuaj Përmes një ftese me email, rishikoni se si përgjigjet sistemi dhe rregulloni sjelljen e modelit me rregulla të hartuara për moshat e vogla.
Ndër kontrollet do të jetë aftësia për të çaktivizoni kujtesën dhe historikun e bisedave, si dhe kufizimin e funksioneve sipas nivelit të pjekurisë së të miturit. OpenAI gjithashtu parashikon përkujtues gjatë seancave të gjata për të inkurajuar pushime të shëndetshme.
Përveç kësaj, paketa do të përfshijë një butoni i urgjencës gjë që do të lehtësojë kontaktin me shërbimet mbështetëse dhe profesionistët e shëndetit mendor, si dhe mundësinë e bllokoj përmbajtjen kur zbulohen sinjale rreziku në një bisedë.
Kalendari dhe harta e planit të sigurisë
OpenAI bën lançimin për muajin e ardhshëm dhe, megjithëse nuk ka caktuar një datë specifike, po përparon një plan 120-ditor për të përforcuar mbrojtjet specifike për fëmijët dhe adoleshentët si në produkt ashtu edhe në proceset e brendshme.
Kompania tregon se disa biseda të ndjeshme janë do të ridrejtojë te modelet e arsyetimit në gjendje të ndjekë udhëzimet e sigurisë në mënyrë më sistematike, me qëllim që t'i japë përparësi përgjigjeve të kujdesshme dhe mbështetëse kur zbulohen çështje rreziku siç janë vetëlëndimi ose mendimet vetëvrasëse.
Rasti që ka ndezur alarmet
Njoftimi vjen pas një padie nga prindërit e... Adam Raine, një adoleshent 16-vjeçar i cili i mori jetën vetes pas muajsh ndërveprimi me chatbot-in. Sipas dosjes, ChatGPT do të kishte mendime të normalizuara vetëvrasëse dhe nuk këshillohet të kërkohet ndihmë familjare, akuza që gjykatat do të duhet t'i zgjidhin.
Paralelisht, OpenAI pranoi se asistenti i saj mund të dështojë në "Situata kritike" dhe e përkushtuar ndaj ndryshimeve. Kompania pohon se këto masa synojnë zvogëloni rreziqet pa ia atribuuar zyrtarisht vendimin padisë, e cila citon gjithashtu përdorimin e GPT-4o në biseda.
Presioni shoqëror dhe politik mbi inteligjencën artificiale dhe të miturit
Në korrik, disa senatorë amerikanë i kërkuan kompanisë shpjegime mbi vetëlëndimin dhe parandalimin e vetëvrasjeve në përgjigje të përgjigjeve të papërshtatshme të zbuluara në situata ekstreme. Nga ana e saj, Common Sense Media argumenton se nën 18 vjet nuk duhet të përdorin aplikacione të inteligjencës artificiale për biseda për shkak të "rreziqeve të tyre të papranueshme".
Lëvizja e OpenAI përputhet me një trend të industrisë në të cilin platforma të tilla si Meta ose YouTube kanë shtyrë përpara kontrollet për familjet. Diskutimi themelor sillet rreth mënyrës së balancimit të inovacionit, garanci dhe garanci për përdoruesit e rinj.
Çfarë ndodh brenda ChatGPT kur ka sinjale rreziku
OpenAI synon një rrugëzim dinamik që nxjerr biseda komplekse drejt modeleve më reflektive, me udhëzime më të rrepta sigurie. Qëllimi është të zvogëlohet paragjykimi i vetëkënaqësisë, të rritet pragu i maturisë dhe prioritizoni përgjigjet e mbështetjes duke dhënë përparësi. kundër ndërveprimeve potencialisht të dëmshme.
Për të konsoliduar këtë qasje, firma ka krijuar një Këshilli i Ekspertëve për Mirëqenien dhe Inteligjencën Artificiale dhe një Rrjet Global Mjekësh. Sipas kompanisë, më shumë se 250 mjekë në 60 vende dhe më shumë se 90 kontribute mbi sjelljen e modelit janë përfshirë tashmë kontekste të shëndetit mendor.
Çfarë mund të bëjnë prindërit, hap pas hapi
Familjet do të gjejnë një rrjedhë të thjeshtë: ftojeni të miturin me postë, konfirmoni lidhjen e llogarive dhe përcaktoni se cilat funksione aktivizohen ose jo në profilin e adoleshentit, me vëmendje të veçantë ndaj kujtesës, historisë dhe filtrat e sigurisë.
- Lidhni llogarinë e të rriturit me llogarinë e të miturit nëpërmjet ftesës.
- Vendosni kufij: kujtesën, historikun dhe veçoritë e miratuara për moshën.
- Aktivizoni njoftimet për "shqetësim akut" dhe aksesin në butonin e urgjencës.
- Kontrolloni periodikisht se si reagon sistemi dhe rregulloni cilësimet.
OpenAI thotë se do të vazhdojë të përsosë këto mjete, por ende nuk i ka detajuar të gjitha parametrat e privatësisë dhe dukshmërinë. Kompania kujton se kontrolli prindëror është një mbështetje dhe nuk zëvendëson vëmendje profesionale as mbështetje të vazhdueshme familjare.
Me këtë paketë, OpenAI përpiqet të forcojë sigurinë e ChatGPT në mjedisin e adoleshentëve duke llogaritë familjare, limitet dhe njoftimet, një shpërndarje graduale dhe këshilla klinike të jashtme; hapa që synojnë të kufizojnë rreziqet pa humbur nga sytë faktin se mbikëqyrja e të rriturve dhe gjykimi profesional mbeten pjesë thelbësore.
Unë jam një entuziast i teknologjisë që i kam kthyer në profesion interesat e tij "geek". Kam shpenzuar më shumë se 10 vjet të jetës sime duke përdorur teknologjinë më të fundit dhe duke punuar me të gjitha llojet e programeve nga kurioziteti i pastër. Tani jam specializuar në teknologjinë kompjuterike dhe videolojërat. Kjo sepse prej më shumë se 5 vitesh shkruaj për faqe të ndryshme interneti mbi teknologjinë dhe videolojërat, duke krijuar artikuj që kërkojnë t'ju japin informacionin që ju nevojitet në një gjuhë të kuptueshme nga të gjithë.
Nëse keni ndonjë pyetje, njohuritë e mia variojnë nga gjithçka që lidhet me sistemin operativ Windows si dhe Android për telefonat celularë. Dhe angazhimi im është për ju, unë jam gjithmonë i gatshëm të kaloj disa minuta dhe t'ju ndihmoj të zgjidhni çdo pyetje që mund të keni në këtë botë të internetit.