- Ընտանեկան հաշիվների կապում՝ դեռահասների կողմից ChatGPT-ի օգտագործումը վերահսկելու համար։
- Հիշողությունն ու պատմությունը անջատելու և գործառույթները տարիքին համապատասխան կառավարելու ունակություն։
- Ավտոմատ ահազանգեր «սուր աղետի» ցուցիչների և արտակարգ իրավիճակի կոճակի համար։
- Տեղակայումը սկսվում է հաջորդ ամսից և 120-օրյա պլան՝ դատողությունների մոդելներով։
OpenAI-ը հայտարարել է a-ի ժամանման մասին Ծնողական վերահսկողություն ChatGPT-ում նախատեսված դեռահասներով տների համար, նոր գործառույթ, որի միջոցով ընկերությունը նպատակ ունի ամրապնդել անվտանգությունը և ընտանիքներին առաջարկել ավելի շատ մոնիթորինգի գործիքներ առանց հրաժարվելու չաթբոտի օգտակարությունից։
Որոշումը կայացվել է սոցիալական և կարգավորող մարմինների կողմից աճող ճնշումներից հետո, այդ թվում՝ Ադամ Ռեյնի ընտանեկան դատական հայցը Կալիֆոռնիայում, որը մեղադրում է ընկերությանը հոգեկան առողջության համատեքստերում ձախողումների մեջ: OpenAI-ը կանխատեսում է, որ կլինեն «սուր տառապանքի» նշանների ավտոմատ նախազգուշացումներ և անչափահասների փորձը կառավարելու գործառույթների մի շարք։
Ի՞նչ է փոխվում ChatGPT-ում ընտանիքների համար։
Նոր հնարավորությունների շնորհիվ ծնողները կկարողանան՝ կապեք ձեր հաշիվը ձեր երեխաների հաշիվների հետ էլեկտրոնային փոստի հրավերի միջոցով վերանայել, թե ինչպես է համակարգը արձագանքում և կարգավորել մոդելի վարքագիծը՝ օգտագործելով վաղ տարիքի համար մշակված կանոններ։
Կառավարման միջոցների շարքում կլինի նաև՝ անջատել հիշողությունը և զրույցի պատմությունը, ինչպես նաև սահմանափակելով գործառույթները՝ ըստ անչափահասի հասունության մակարդակի։ OpenAI-ը նաև նախատեսում է հիշեցումներ երկար նստաշրջանների ընթացքում առողջ ընդմիջումները խրախուսելու համար։
Բացի այդ, փաթեթը կներառի՝ արտակարգ իրավիճակների կոճակ որը կհեշտացնի կապը աջակցության ծառայությունների և հոգեկան առողջության մասնագետների հետ, ինչպես նաև հնարավորություն կտա արգելափակել բովանդակությունը երբ զրույցի ընթացքում հայտնաբերվում են ռիսկի ազդանշաններ։
Անվտանգության օրացույց և ճանապարհային քարտեզ
OpenAI-ը տեղադրում է մեկնարկը հաջորդ ամսվա համար և, չնայած այն կոնկրետ ամսաթիվ չի սահմանել, այն առաջ է մղում 120-օրյա ծրագիր՝ ամրապնդելու համար հատուկ պաշտպանիչ միջոցները երեխաներ և դեռահասներ ինչպես արտադրանքի, այնպես էլ ներքին գործընթացների մեջ։
Ընկերությունը նշում է, որ որոշակի զգայուն զրույցներ են կուղղորդվի դատողության մոդելներին կարողանալ ավելի համակարգված կերպով հետևել անվտանգության ուղեցույցներին՝ նպատակ ունենալով առաջնահերթություն տալ զգուշավոր և աջակցող արձագանքներին՝ հայտնաբերման դեպքում ռիսկի հետ կապված խնդիրներ ինչպիսիք են ինքնավնասումը կամ ինքնասպանության մտքերը։
Դեպքը, որը միացրել է տագնապները
Հայտարարությունը հնչել է ծնողների կողմից ներկայացված դատական հայցից հետո։ Ադամ Ռեյն, 16-ամյա դեռահաս ով ինքնասպան եղավ չաթբոտի հետ ամիսներ շարունակ շփվելուց հետո։ Համաձայն ներկայացված փաստաթղթի՝ ChatGPT-ն պետք է ունենար ինքնասպանության մտքերի նորմալացում և խորհուրդ չի տրվում դիմել ընտանեկան օգնության, մեղադրանքներ, որոնք դատարանները պետք է լուծեն։
Զուգահեռաբար, OpenAI-ը խոստովանեց, որ իր օգնականը կարող է ձախողվել «Կրիտիկական իրավիճակներ» և հանձնառու է փոփոխություններին։ Ընկերությունը պնդում է, որ այս միջոցառումները նպատակ ունեն նվազեցնել ռիսկերը առանց պաշտոնապես որոշումը վերագրելու դատական հայցին, որը նաև մեջբերում է GPT-4o-ի օգտագործումը զրույցներում։
Սոցիալական և քաղաքական ճնշում արհեստական բանականության և անչափահասների վրա
Հուլիսին ԱՄՆ մի քանի սենատորներ խնդրեցին ընկերությանը ինքնավնասման և ինքնասպանության կանխարգելման վերաբերյալ բացատրություններ ի պատասխան ծայրահեղ իրավիճակներում հայտնաբերված անպատշաճ արձագանքների: Իր հերթին, Common Sense Media-ն պնդում է, որ 18 տարի տակ չպետք է օգտագործեն խոսակցական արհեստական բանականության հավելվածներ՝ դրանց «անընդունելի ռիսկերի» պատճառով։
OpenAI-ի քայլը համապատասխանում է ոլորտի միտմանը, որի համաձայն՝ այնպիսի հարթակներ, ինչպիսիք են՝ Մետա կամ YouTube ընտանիքների համար վերահսկողության անհրաժեշտություն են առաջ քաշել։ Հիմնական քննարկումը պտտվում է նորարարությունների հավասարակշռման շուրջ, երաշխիք և երաշխիքներ երիտասարդ օգտատերերի համար։
Ի՞նչ է կատարվում ChatGPT-ի ներսում, երբ կան ռիսկի ազդանշաններ
OpenAI-ը նպատակ ունի ստեղծել դինամիկ երթուղավորում, որը բարդ զրույցներ է առաջացնում դեպի ավելի ռեֆլեկտիվ մոդելներ՝ ավելի խիստ անվտանգության ուղեցույցներով: Նպատակն է նվազեցնել ինքնագոհության կողմնակալությունը, բարձրացնել խոհեմության շեմը և առաջնահերթություն տալ աջակցության արձագանքներին պոտենցիալ վնասակար փոխազդեցությունների դեմ։
Այս մոտեցումը ամրապնդելու համար ընկերությունը ստեղծել է Բարեկեցության և արհեստական բանականության փորձագետների խորհուրդ և բժիշկների համաշխարհային ցանց։ Ընկերության տվյալներով՝ ավելի քան 250 բժիշկ 60 երկրներում և մոդելի վարքագծի վերաբերյալ ավելի քան 90 ներդրում արդեն ներառվել է հոգեկան առողջության համատեքստեր.
Ինչ կարող են անել ծնողները՝ քայլ առ քայլ
Ընտանիքները կգտնեն պարզ հոսք. հրավիրեք անչափահասին փոստով, հաստատել հաշիվների կապը և սահմանել, թե դեռահասի պրոֆիլում որ գործառույթներն են ակտիվ կամ ոչ՝ հատուկ ուշադրություն դարձնելով հիշողությանը, պատմությանը և անվտանգության զտիչներ.
- Կապեք մեծահասակի հաշիվը անչափահասի հաշվի հետ հրավերի միջոցով։
- Սահմանեք սահմանափակումներ՝ հիշողություն, պատմություն և տարիքին համապատասխան գործառույթներ։
- Ակտիվացրեք «սուր աղետի» ծանուցումները և մուտք գործեք արտակարգ իրավիճակների կոճակին։
- Պարբերաբար ստուգեք, թե ինչպես է համակարգը արձագանքում և կարգավորեք կարգավորումները։
OpenAI-ը հայտարարում է, որ կշարունակի կատարելագործել այս գործիքները, բայց դեռևս չի մանրամասնել բոլոր մանրամասները։ գաղտնիության պարամետրեր և տեսանելիություն։ Ընկերությունը հիշեցնում է, որ ծնողական վերահսկողությունը աջակցություն է և չի փոխարինում մասնագիտական ուշադրություն ո՛չ էլ ընտանիքի շարունակական աջակցությունը։
Այս փաթեթով OpenAI-ը փորձում է ամրապնդել ChatGPT-ի անվտանգությունը դեռահասների միջավայրում՝ ընտանեկան հաշիվներ, սահմանափակումներ և ծանուցումներ, փուլային ներդրում և արտաքին կլինիկական խորհրդատվություն. քայլեր, որոնք ձգտում են սահմանափակել ռիսկերը՝ առանց անտեսելու այն փաստը, որ մեծահասակների հսկողությունը և մասնագիտական դատողությունը մնում են անփոփոխ։ կարևոր մասեր.
Ես տեխնոլոգիայի էնտուզիաստ եմ, ով իր «գիկ» հետաքրքրությունները վերածել է մասնագիտության։ Ես իմ կյանքի ավելի քան 10 տարին անցկացրել եմ՝ օգտագործելով նորագույն տեխնոլոգիաներ և զուտ հետաքրքրասիրությունից դրդված բոլոր տեսակի ծրագրերի հետ աշխատելիս: Այժմ ես մասնագիտացել եմ համակարգչային տեխնիկայի և տեսախաղերի մեջ։ Դա պայմանավորված է նրանով, որ ավելի քան 5 տարի ես գրում եմ տարբեր կայքերի համար տեխնոլոգիայի և վիդեոխաղերի վերաբերյալ՝ ստեղծելով հոդվածներ, որոնք փորձում են ձեզ տրամադրել ձեզ անհրաժեշտ տեղեկատվությունը բոլորին հասկանալի լեզվով:
Եթե ունեք հարցեր, իմ գիտելիքները տատանվում են Windows օպերացիոն համակարգի հետ կապված ամեն ինչից, ինչպես նաև բջջային հեռախոսների համար նախատեսված Android-ից: Եվ իմ հանձնառությունն է ձեզ, ես միշտ պատրաստ եմ մի քանի րոպե ծախսել և օգնել ձեզ լուծել ցանկացած հարց, որը կարող եք ունենալ այս ինտերնետային աշխարհում: