- Ligi familiajn kontojn por monitori la uzon de ChatGPT fare de adoleskantoj.
- Eblo malŝalti memoron kaj historion kaj administri funkciojn laŭ aĝo.
- Aŭtomataj alarmoj por indikiloj de "akuta aflikto" kaj butono por kriz-okazo.
- Deplojo komenciĝanta venontmonate kaj 120-taga plano kun rezonadmodeloj.
OpenAI anoncis la alvenon de Gepatraj kontroloj en ChatGPT celita al hejmoj kun adoleskantoj, nova funkcio per kiu la kompanio celas plifortigi sekurecon kaj oferti al familioj pli da monitoraj iloj sen rezigni pri la utileco de la babilroboto.
La decido venas post kreskanta socia kaj reguliga premo, inkluzive de La familia proceso de Adam Raine en Kalifornio, kiu akuzas la kompanion pri malsukcesoj en kuntekstoj de mensa sano. OpenAI antaŭvidas, ke estos aŭtomataj avertoj pri signoj de "akuta aflikto" kaj aro da funkcioj por administri la sperton de neplenaĝuloj.
Kio ŝanĝiĝas en ChatGPT por familioj?
Kun la novaj ebloj, gepatroj povos ligu vian konton al la kontoj de viaj infanoj per retpoŝta invito, reviziu kiel la sistemo respondas kaj adaptu la konduton de la modelo per reguloj desegnitaj por fruaj aĝoj.
Inter la kontroloj estos la kapablo malŝalti memoron kaj babilhistorion, kaj ankaŭ limigante funkciojn laŭ la maturecnivelo de la neplenaĝulo. OpenAI ankaŭ pripensas memorigiloj dum longaj kunsidoj por instigi sanajn paŭzojn.
Krome, la pakaĵo inkluzivos krizbutono kiu faciligos kontakton kun subtenaj servoj kaj menshigienaj profesiuloj, kaj la eblon de bloki enhavon kiam riskosignaloj estas detektitaj en konversacio.
Sekureca kalendaro kaj vojmapo
OpenAI metas la lanĉon por la venonta monato kaj, kvankam ĝi ne fiksis specifan daton, ĝi antaŭenigas 120-tagan planon por plifortigi specifajn protektojn por infanoj kaj junuloj kaj en la produkto kaj en internaj procezoj.
La kompanio indikas, ke certaj sentemaj konversacioj estas redirektos al rezonadmodeloj kapabla sekvi sekurecajn gvidliniojn pli sisteme, kun la celo prioritatigi singardajn kaj subtenajn respondojn kiam detektite riskaj problemoj kiel ekzemple memvundado aŭ suicidaj pensoj.
La kazo kiu ekigis la alarmojn
La anonco venas post proceso de la gepatroj de Adam Raine, 16-jaraĝa adoleskanto kiu memmortigis sin post monatoj da interagado kun la babilroboto. Laŭ la dokumento, ChatGPT estus normaligitaj suicidaj pensoj kaj ne estas konsilinde peti familian helpon, akuzojn, kiujn la tribunaloj devos solvi.
Paralele, OpenAI agnoskis, ke ĝia asistanto eble malsukcesos "kritikaj situacioj" kaj engaĝita al ŝanĝoj. La kompanio asertas, ke ĉi tiuj mezuroj celas redukti riskojn sen oficiale atribui la decidon al la proceso, kiu ankaŭ citas la uzon de GPT-4o en la konversacioj.
Socia kaj politika premo sur AI kaj neplenaĝuloj
En julio, pluraj usonaj senatanoj petis la kompanion klarigoj pri memvundado kaj preventado de memmortigo responde al maltaŭgaj respondoj detektitaj en ekstremaj situacioj. Siaflanke, Common Sense Media argumentas, ke sub 18 jaroj ne devus uzi konversaciajn AI-aplikaĵojn pro iliaj "neakcepteblaj riskoj".
La movo de OpenAI konformas al industria tendenco, en kiu platformoj kiel ekzemple Meta aŭ YouTube antaŭenigis kontrolojn por familioj. La subesta diskuto rondiras ĉirkaŭ kiel balanci novigadon, garantioj kaj garantiojn por junaj uzantoj.
Kio okazas ene de ChatGPT kiam ekzistas riskaj signaloj
OpenAI celas dinamikan vojigon kiu derivas kompleksajn konversaciojn al pli reflektaj modeloj, kun pli striktaj sekurecaj gvidlinioj. La celo estas redukti memkontentiĝon, levi la sojlon de prudento kaj prioritatigi subtenajn respondojn kontraŭ eble malutilaj interagoj.
Por cementi ĉi tiun aliron, la firmao kreis Konsilio de Ekspertoj pri Bonfarto kaj AI kaj Tutmonda Reto de Kuracistoj. Laŭ la kompanio, pli ol 250 kuracistoj en 60 landoj kaj pli ol 90 kontribuoj pri la konduto de la modelo jam estas integritaj kuntekstoj pri mensa sano.
Kion gepatroj povas fari, paŝon post paŝo
Familioj trovos simplan fluon: inviti la neplenaĝulon per poŝto, konfirmu la ligadon de kontoj kaj difinu, kiuj funkcioj estas aktivigitaj aŭ ne en la adoleska profilo, kun speciala atento al memoro, historio kaj sekurecaj filtriloj.
- Ligu la konton de la plenkreskulo al la konto de la neplenaĝulo per invito.
- Fiksu limojn: memoron, historion kaj aĝ-aprobitajn funkciojn.
- Aktivigu sciigojn por "akuta aflikto" kaj aliron al la butono de kriz-okazo.
- Periode kontrolu kiel la sistemo respondas kaj ĝustigu la agordojn.
OpenAI diras, ke ĝi daŭre rafinos ĉi tiujn ilojn, sed ankoraŭ ne detale priskribis ĉiujn... privateco parametroj kaj videbleco. La kompanio memorigas, ke gepatra kontrolo estas subteno kaj ne anstataŭas la profesia atento nek daŭra familia subteno.
Per ĉi tiu pakaĵo, OpenAI provas plifortigi la sekurecon de ChatGPT en la medio de adoleskantoj per familiaj kontoj, limoj kaj alarmoj, laŭgrada enkonduko kaj ekstera klinika konsilo; paŝoj kiuj celas limigi riskojn sen perdi el vido la fakton, ke plenkreskula superrigardo kaj profesia juĝo restas esencaj pecoj.
Mi estas teknologientuziasmulo, kiu transformis siajn "geek" interesojn en profesion. Mi pasigis pli ol 10 jarojn de mia vivo uzante avangardan teknologion kaj tuŝante ĉiajn programojn pro pura scivolemo. Nun mi specialiĝis pri komputila teknologio kaj videoludoj. Ĉi tio estas ĉar de pli ol 5 jaroj mi verkas por diversaj retejoj pri teknologio kaj videoludoj, kreante artikolojn, kiuj celas doni al vi la informojn, kiujn vi bezonas en lingvo komprenebla por ĉiuj.
Se vi havas demandojn, mia scio varias de ĉio rilata al la Vindoza operaciumo same kiel Android por poŝtelefonoj. Kaj mia devontigo estas al vi, mi ĉiam pretas pasigi kelkajn minutojn kaj helpi vin solvi ajnajn demandojn, kiujn vi povas havi en ĉi tiu interreta mondo.