- Ģimenes kontu sasaistīšana, lai uzraudzītu pusaudžu ChatGPT lietošanu.
- Spēja atspējot atmiņu un vēsturi un pārvaldīt funkcijas pēc vecuma.
- Automātiski brīdinājumi par "akūtas briesmas" indikatoriem un avārijas pogu.
- Izvietošana sāksies nākamajā mēnesī, un 120 dienu plāns ar pamatojuma modeļiem.
OpenAI ir paziņojis par a ierašanos. Vecāku kontrole pakalpojumā ChatGPT paredzēta mājām ar pusaudžiem, un tā ir jauna funkcija, ar kuras palīdzību uzņēmums vēlas pastiprināt drošību un piedāvāt ģimenēm vairāk uzraudzības rīku nezaudējot tērzēšanas robota lietderību.
Lēmums pieņemts pēc pieaugoša sociālā un regulējošā spiediena, tostarp Ādama Reina ģimenes tiesas prāva Kalifornijā, kas apsūdz uzņēmumu par neveiksmēm garīgās veselības kontekstā. OpenAI paredz, ka būs automātiski brīdinājumi par "akūtas ciešanas" pazīmēm un funkciju komplekts nepilngadīgo pieredzes pārvaldībai.
Kas mainās ChatGPT ģimenēm?
Ar jaunajām iespējām vecāki varēs saistīt savu kontu ar savu bērnu kontiem izmantojot e-pasta uzaicinājumu, pārskatiet sistēmas reakciju un pielāgojiet modeļa darbību, izmantojot noteikumus, kas paredzēti agrīnam vecumam.
Starp vadības ierīcēm būs iespēja atspējot atmiņu un tērzēšanas vēsturi, kā arī ierobežojot funkcijas atbilstoši nepilngadīgā brieduma līmenim. OpenAI arī apsver atgādinājumi garu sesiju laikā lai veicinātu veselīgus pārtraukumus.
Turklāt komplektā būs iekļauts avārijas poga kas atvieglos saziņu ar atbalsta dienestiem un garīgās veselības speciālistiem, kā arī iespēju bloķēt saturu kad sarunā tiek atklātas riska pazīmes.
Drošības kalendārs un ceļvedis
OpenAI veic palaišanu nākamajam mēnesim un, lai gan tā nav noteikusi konkrētu datumu, tā virza uz priekšu 120 dienu plānu, lai pastiprinātu konkrētus drošības pasākumus attiecībā uz bērni un pusaudži gan produktā, gan iekšējos procesos.
Uzņēmums norāda, ka noteiktas sensitīvas sarunas ir novirzīs uz spriešanas modeļiem spēj sistemātiskāk ievērot drošības vadlīnijas, kuru mērķis ir prioritāte piesardzīgām un atbalstošām atbildēm, kad tās tiek atklātas riska jautājumi piemēram, paškaitējums vai domas par pašnāvību.
Lieta, kas iedarbināja trauksmi
Paziņojums seko pēc vecāku iesniegtās tiesas prāvas. Ādams Reins, 16 gadus vecs pusaudzis kurš pēc vairāku mēnešu mijiedarbības ar tērzēšanas robotu izdarīja pašnāvību. Saskaņā ar iesniegumu ChatGPT būtu normalizētas pašnāvnieciskas domas un nav ieteicams meklēt ģimenes palīdzību, apsūdzības, kuras būs jārisina tiesām.
Vienlaikus OpenAI atzina, ka tā palīgs var neizdoties. "kritiskas situācijas" un apņēmusies veikt izmaiņas. Uzņēmums apgalvo, ka šie pasākumi ir vērsti uz samazināt riskus oficiāli neatsaucot lēmumu uz tiesas prāvu, kurā arī tiek minēta GPT-4o izmantošana sarunās.
Sociālais un politiskais spiediens uz mākslīgo intelektu un nepilngadīgajiem
Jūlijā vairāki ASV senatori lūdza uzņēmumu skaidrojumi par paškaitējumu un pašnāvību novēršanu reaģējot uz neatbilstošām reakcijām, kas konstatētas ekstremālās situācijās. Savukārt Common Sense Media apgalvo, ka jaunāki par 18 gadiem nevajadzētu izmantot sarunvalodas mākslīgā intelekta lietojumprogrammas to “nepieņemamo risku” dēļ.
OpenAI rīcība atbilst nozares tendencei, kurā tādas platformas kā Meta vai YouTube ir mudinājuši ieviest kontroles mehānismus ģimenēm. Pamatdiskusija griežas ap to, kā līdzsvarot inovāciju, garantijas un garantijas jaunajiem lietotājiem.
Kas notiek ChatGPT ietvaros, ja ir riska signāli
OpenAI mērķis ir dinamiska maršrutēšana, kas iegūst sarežģītas sarunas virzība uz pārdomātākiem modeļiem ar stingrākām drošības vadlīnijām. Mērķis ir mazināt pašapmierinātības aizspriedumus, paaugstināt piesardzības slieksni un prioritizēt atbalsta atbildes pret potenciāli kaitīgu mijiedarbību.
Lai nostiprinātu šo pieeju, uzņēmums ir izveidojis Labklājības un mākslīgā intelekta ekspertu padome un globāls ārstu tīkls. Saskaņā ar uzņēmuma datiem, vairāk nekā 250 ārsti 60 valstīs un jau ir iekļauti vairāk nekā 90 ieteikumi par modeļa uzvedību garīgās veselības konteksti.
Ko vecāki var darīt soli pa solim
Ģimenes atradīs vienkāršu plūsmu: uzaicināt nepilngadīgo pa pastu, apstipriniet kontu saistīšanu un definējiet, kuras funkcijas pusaudža profilā ir aktivizētas vai nē, īpašu uzmanību pievēršot atmiņai, vēsturei un drošības filtri.
- Saistiet pieaugušā kontu ar nepilngadīgā kontu, izmantojot uzaicinājumu.
- Iestatiet ierobežojumus: atmiņa, vēsture un vecumam atbilstošas funkcijas.
- Aktivizējiet paziņojumus par “akūtu trauksmi” un piekļuvi avārijas pogai.
- Periodiski pārbaudiet sistēmas reakciju un pielāgojiet iestatījumus.
OpenAI apgalvo, ka turpinās pilnveidot šos rīkus, taču vēl nav detalizēti aprakstījis visus aspektus. privātuma parametri un redzamību. Uzņēmums atgādina, ka vecāku kontrole ir atbalsts un neaizstāj profesionāla uzmanība nedz arī turpmāku ģimenes atbalstu.
Ar šo pakotni OpenAI mēģina stiprināt ChatGPT drošību pusaudžu vidē, ģimenes konti, ierobežojumi un brīdinājumi, pakāpeniska ieviešana un ārējas klīniskas konsultācijas; pasākumi, kuru mērķis ir ierobežot riskus, neaizmirstot par to, ka joprojām ir nepieciešama pieaugušo uzraudzība un profesionāls spriedums svarīgi elementi.
Esmu tehnoloģiju entuziasts, kurš savas "geek" intereses ir pārvērtis profesijā. Es esmu pavadījis vairāk nekā 10 gadus no savas dzīves, izmantojot jaunākās tehnoloģijas un tīri ziņkārības vadīts ar visu veidu programmām. Tagad esmu specializējies datortehnoloģijās un videospēlēs. Tas ir tāpēc, ka vairāk nekā 5 gadus esmu rakstījis dažādām tīmekļa vietnēm par tehnoloģijām un videospēlēm, veidojot rakstus, kuru mērķis ir sniegt jums nepieciešamo informāciju ikvienam saprotamā valodā.
Ja jums ir kādi jautājumi, manas zināšanas svārstās no visa, kas saistīts ar Windows operētājsistēmu, kā arī Android mobilajiem tālruņiem. Un mana apņemšanās ir jums, es vienmēr esmu gatavs veltīt dažas minūtes un palīdzēt jums atrisināt visus jautājumus, kas jums varētu rasties šajā interneta pasaulē.