„OpenAI“ pridės tėvų kontrolės funkcijas prie „ChatGPT“ su šeimos paskyromis, rizikos įspėjimais ir naudojimo apribojimais.

„OpenAI“ paskelbė apie atėjimą. Tėvų kontrolė „ChatGPT“ skirta namams, kuriuose gyvena paaugliai, – nauja funkcija, kuria bendrovė siekia sustiprinti saugumą ir pasiūlyti šeimoms daugiau stebėjimo įrankių neatsisakant pokalbių roboto naudingumo.

Šis sprendimas priimtas po didėjančio socialinio ir reguliavimo spaudimo, įskaitant Adamo Raine'o šeimos ieškinys Kalifornijoje, kuri kaltina bendrovę nesėkmėmis psichinės sveikatos srityje. „OpenAI“ tikisi, kad bus automatiniai įspėjimai apie „ūmaus pavojaus“ požymius ir funkcijų rinkinys, skirtas nepilnamečių patirčiai valdyti.

Kas keičiasi „ChatGPT“ šeimoms?

Su naujomis galimybėmis tėvai galės susieti savo paskyrą su savo vaikų paskyromis el. pašto kvietimu peržiūrėkite sistemos reakciją ir pakoreguokite modelio elgseną pagal ankstyvajam amžiui skirtas taisykles.

Tarp valdiklių bus galimybė išjungti atmintį ir pokalbių istoriją, taip pat riboja funkcijas pagal nepilnamečio brandos lygį. „OpenAI“ taip pat svarsto priminimai ilgų sesijų metu skatinti sveikas pertraukas.

Be to, pakuotėje bus ir avarinis mygtukas kuris palengvins susisiekimą su paramos tarnybomis ir psichikos sveikatos specialistais, taip pat suteiks galimybę blokuoti turinį kai pokalbyje aptinkami rizikos signalai.

Saugumo kalendorius ir veiksmų planas

„OpenAI“ atlieka paleidimą kitam mėnesiui ir nors konkrečios datos nenustatė, ji rengia 120 dienų planą, skirtą sustiprinti konkrečias apsaugos priemones vaikai ir paaugliai tiek produkte, tiek vidiniuose procesuose.

Bendrovė nurodo, kad tam tikri jautrūs pokalbiai yra nukreips į samprotavimo modelius gebėti sistemingiau laikytis saugos gairių, siekiant nustatyti pirmenybę atsargiems ir palaikantiems reagavimo būdams rizikos klausimai pavyzdžiui, savęs žalojimas ar mintys apie savižudybę.

Byla, dėl kurios suveikė signalizacija

Pranešimas pasirodė po to, kai tėvai pateikė ieškinį. Adamas Raine'as, 16 metų paauglys kuris po kelių mėnesių sąveikos su pokalbių robotu nusižudė. Remiantis pateikta informacija, „ChatGPT“ būtų... normalizuotos mintys apie savižudybę ir nepatartina kreiptis pagalbos į šeimą, kaltinimus, kuriuos turės išspręsti teismai.

Tuo pačiu metu „OpenAI“ pripažino, kad jos asistentas gali sugesti. „kritinės situacijos“ ir įsipareigojusi pokyčiams. Bendrovė tvirtina, kad šiomis priemonėmis siekiama sumažinti riziką oficialiai nepriskiriant sprendimo ieškiniui, kuriame taip pat cituojamas GPT-4o naudojimas pokalbiuose.

Socialinis ir politinis spaudimas dirbtiniam intelektui ir nepilnamečiams

Liepos mėnesį keli JAV senatoriai paprašė bendrovės paaiškinimai apie savęs žalojimą ir savižudybių prevenciją reaguojant į ekstremaliose situacijose aptiktus netinkamus atsakymus. Savo ruožtu „Common Sense Media“ teigia, kad pagal 18 metus neturėtų naudoti pokalbių dirbtinio intelekto programų dėl jų „nepriimtinos rizikos“.

„OpenAI“ žingsnis atitinka pramonės tendenciją, kai tokios platformos kaip Meta arba „YouTube“ ragino kontroliuoti šeimas. Pagrindinė diskusija sukasi apie tai, kaip subalansuoti inovacijas, garantija ir garantijos jauniems vartotojams.

Kas nutinka „ChatGPT“ viduje, kai yra rizikos signalų

„OpenAI“ siekia dinaminio maršrutizavimo veda sudėtingus pokalbius link labiau atspindinčių modelių su griežtesnėmis saugos gairėmis. Tikslas – sumažinti pasitenkinimo šališkumą, pakelti atsargumo slenkstį ir teikti pirmenybę palaikymo atsakymams nuo potencialiai žalingų sąveikų.

Siekdama įtvirtinti šį požiūrį, įmonė sukūrė Gerbūvio ir dirbtinio intelekto ekspertų taryba ir pasaulinis gydytojų tinklas. Pasak bendrovės, daugiau nei 250 gydytojų 60 šalių ir jau įtraukta daugiau nei 90 įnašų į modelio elgseną psichinės sveikatos kontekstai.

Ką tėvai gali padaryti žingsnis po žingsnio

Šeimos ras paprastą veiksmų seką: pakviesti nepilnametį paštu, patvirtinti paskyrų susiejimą ir apibrėžti, kurios funkcijos paauglio profilyje yra aktyvuotos, o kurios ne, ypatingą dėmesį skiriant atminčiai, istorijai ir apsaugos filtrai.

• Susieti suaugusiojo paskyrą su nepilnamečio paskyra per kvietimą.
• Nustatykite ribas: atmintį, istoriją ir pagal amžių patvirtintas funkcijas.
• Įjunkite pranešimus apie „ūmią nelaimę“ ir prieigą prie avarinio mygtuko.
• Periodiškai tikrinkite, kaip sistema reaguoja, ir pakoreguokite nustatymus.

„OpenAI“ teigia, kad toliau tobulins šiuos įrankius, tačiau dar nepateikė visų detalių. privatumo parametrus ir matomumą. Bendrovė primena, kad tėvų kontrolė yra tik pagalbinė priemonė, o ne pakeičia profesionalus dėmesys nei nuolatinės šeimos paramos.

Šiuo paketu „OpenAI“ bando sustiprinti „ChatGPT“ saugumą paauglių aplinkoje: šeimos paskyros, apribojimai ir įspėjimai, laipsniškas diegimas ir išorinės klinikinės konsultacijos; žingsniai, kuriais siekiama sumažinti riziką, nepamirštant fakto, kad suaugusiųjų priežiūra ir profesionalus sprendimas išlieka svarbūs esminės detalės.

Susijęs straipsnis:

Geriausios tėvų kontrolės programos, skirtos „iPhone“ ir „Android“.

Alberto navarro

Esu technologijų entuziastas, savo „geek“ pomėgius pavertęs profesija. Daugiau nei 10 savo gyvenimo metų praleidau naudodamas pažangiausias technologijas ir iš gryno smalsumo kūriau visas programas. Dabar aš specializuojasi kompiuterinėse technologijose ir vaizdo žaidimuose. Taip yra todėl, kad daugiau nei 5 metus rašau įvairioms interneto svetainėms apie technologijas ir vaizdo žaidimus, kurdamas straipsnius, kuriuose noriu pateikti jums reikalingą informaciją visiems suprantama kalba.

Jei turite klausimų, mano žinios svyruoja nuo visko, kas susiję su Windows operacine sistema, taip pat su Android mobiliesiems telefonams. Ir aš įsipareigoju jums, aš visada pasiruošęs skirti kelias minutes ir padėti jums išspręsti visus klausimus, kurie jums gali kilti šiame interneto pasaulyje.