- Pag-link ng mga account ng pamilya upang subaybayan ang paggamit ng mga tinedyer ng ChatGPT.
- Kakayahang huwag paganahin ang memorya at kasaysayan at pamahalaan ang mga function ayon sa edad.
- Mga awtomatikong alerto para sa mga indicator ng "acute distress" at emergency button.
- Deployment simula sa susunod na buwan at 120-araw na plano na may mga modelo ng pangangatwiran.
Inihayag ng OpenAI ang pagdating ng isang Mga kontrol ng magulang sa ChatGPT naglalayon sa mga tahanan na may mga teenager, isang bagong feature kung saan nilalayon ng kumpanya na palakasin ang seguridad at mag-alok ng mga pamilya higit pang mga tool sa pagsubaybay nang hindi isinusuko ang pagiging kapaki-pakinabang ng chatbot.
Ang desisyon ay dumating pagkatapos ng lumalagong panlipunan at pang-regulasyon na presyon, kabilang ang Ang kaso ng pamilya ni Adam Raine sa California, na inaakusahan ang kumpanya ng mga pagkabigo sa mga konteksto sa kalusugan ng isip. Inaasahan ng OpenAI na magkakaroon mga awtomatikong babala para sa mga palatandaan ng "talamak na pagkabalisa" at isang hanay ng mga tampok upang pamahalaan ang karanasan ng mga menor de edad.
Ano ang nagbabago sa ChatGPT para sa mga pamilya?
Gamit ang mga bagong opsyon, magagawa ng mga magulang i-link ang iyong account sa mga account ng iyong mga anak sa pamamagitan ng isang imbitasyon sa email, suriin kung paano tumugon ang system at ayusin ang gawi ng modelo gamit ang mga panuntunang idinisenyo para sa mga maagang edad.
Kabilang sa mga kontrol ay ang kakayahang huwag paganahin ang memorya at kasaysayan ng chat, pati na rin ang paglilimita sa mga function ayon sa antas ng maturity ng menor de edad. Nag-iisip din ang OpenAI mga paalala sa mahabang sesyon upang hikayatin ang malusog na pahinga.
Bilang karagdagan, ang pakete ay may kasamang a pindutan ng pang-emergency na magpapadali sa pakikipag-ugnayan sa mga serbisyo ng suporta at mga propesyonal sa kalusugan ng isip, at ang opsyon ng harangan ang nilalaman kapag ang mga signal ng panganib ay nakita sa isang pag-uusap.
Kalendaryo ng seguridad at roadmap
Inilalagay ng OpenAI ang paglulunsad para sa susunod na buwan at, bagama't hindi ito nagtakda ng isang tiyak na petsa, ito ay nagsusulong ng isang 120-araw na plano upang palakasin ang mga partikular na pananggalang para sa mga bata at kabataan kapwa sa produkto at sa mga panloob na proseso.
Ang kumpanya ay nagpapahiwatig na ang ilang mga sensitibong pag-uusap ay ay magre-redirect sa mga modelo ng pangangatwiran magagawang sundin ang mga alituntunin sa kaligtasan nang mas sistematiko, na may layuning bigyang-priyoridad ang mga maingat at pansuportang tugon kapag nakita mga isyu sa panganib tulad ng pananakit sa sarili o pag-iisip ng pagpapakamatay.
Ang kaso na nag-set off ang mga alarma
Ang anunsyo ay pagkatapos ng isang demanda mula sa mga magulang ng Adam Raine, isang 16-anyos na binatilyo na nagbuwis ng sariling buhay pagkatapos ng ilang buwang pakikipag-ugnayan sa chatbot. Ayon sa paghaharap, ang ChatGPT ay magkakaroon na-normalize ang mga pag-iisip ng pagpapakamatay at hindi ipinapayong humingi ng tulong sa pamilya, mga paratang na kailangang lutasin ng mga korte.
Kasabay nito, kinilala ng OpenAI na maaaring mabigo ang katulong nito "mga kritikal na sitwasyon" at nakatuon sa mga pagbabago. Naninindigan ang kumpanya na hinahanap ng mga hakbang na ito bawasan ang mga panganib nang hindi opisyal na iniuugnay ang desisyon sa demanda, na binabanggit din ang paggamit ng GPT-4o sa mga pag-uusap.
Social at political pressure sa AI at mga menor de edad
Noong Hulyo, ilang senador ng US ang nagtanong sa kumpanya mga paliwanag sa pananakit sa sarili at pag-iwas sa pagpapakamatay bilang tugon sa mga hindi naaangkop na tugon na nakita sa matinding sitwasyon. Para sa bahagi nito, pinagtatalunan iyon ng Common Sense Media sa ilalim ng 18 na taon hindi dapat gumamit ng mga pang-usap na AI application dahil sa kanilang "hindi katanggap-tanggap na mga panganib."
Ang hakbang ng OpenAI ay umaayon sa isang trend ng industriya kung saan ang mga platform tulad ng Meta o YouTube itinulak ang mga kontrol para sa mga pamilya. Ang pinagbabatayan na talakayan ay umiikot sa kung paano balansehin ang pagbabago, garantiya at mga garantiya para sa mga batang gumagamit.
Ano ang nangyayari sa loob ng ChatGPT kapag may mga signal ng panganib
Layunin ng OpenAI na dynamic na pagruruta iyon nakakakuha ng mga kumplikadong pag-uusap patungo sa higit pang mapanimdim na mga modelo, na may mas mahigpit na mga alituntunin sa kaligtasan. Ang layunin ay bawasan ang pagkiling sa kasiyahan, itaas ang threshold ng prudence at unahin ang mga tugon sa suporta laban sa mga potensyal na nakakapinsalang pakikipag-ugnayan.
Upang pagtibayin ang pamamaraang ito, ang kompanya ay lumikha ng isang Council of Experts on Wellbeing at AI at isang Global Network of Physicians. Ayon sa kumpanya, higit sa 250 manggagamot sa 60 bansa at higit sa 90 mga kontribusyon sa pag-uugali ng modelo ay naisama na konteksto ng kalusugan ng isip.
Kung ano ang magagawa ng mga magulang, hakbang-hakbang
Ang mga pamilya ay makakahanap ng isang simpleng daloy: anyayahan ang menor de edad sa pamamagitan ng koreo, kumpirmahin ang pag-link ng mga account at tukuyin kung aling mga function ang isinaaktibo o hindi sa profile ng kabataan, na may espesyal na pansin sa memorya, kasaysayan at mga filter ng seguridad.
- I-link ang account ng nasa hustong gulang sa account ng menor de edad sa pamamagitan ng imbitasyon.
- Magtakda ng mga limitasyon: memorya, kasaysayan, at mga feature na inaprubahan ng edad.
- I-activate ang mga notification para sa "acute distress" at access sa emergency button.
- Pana-panahong suriin kung paano tumugon ang system at ayusin ang mga setting.
Sinabi ng OpenAI na magpapatuloy itong pinuhin ang mga tool na ito, ngunit hindi pa detalyado ang lahat mga parameter ng privacy at visibility. Ipinapaalala ng kumpanya na ang kontrol ng magulang ay isang suporta at hindi pinapalitan ang propesyonal na atensyon o patuloy na suporta sa pamilya.
Sa package na ito, sinusubukan ng OpenAI na palakasin ang seguridad ng ChatGPT sa kapaligiran ng kabataan sa pamamagitan ng mga account ng pamilya, mga limitasyon at mga alerto, isang phased rollout at panlabas na klinikal na payo; mga hakbang na naglalayong limitahan ang mga panganib nang hindi nawawala ang katotohanang nananatili ang pangangasiwa ng nasa hustong gulang at propesyonal na paghuhusga mahahalagang piraso.
Isa akong mahilig sa teknolohiya na ginawang propesyon ang kanyang mga "geek" na interes. Ako ay gumugol ng higit sa 10 taon ng aking buhay sa paggamit ng makabagong teknolohiya at pag-iisip sa lahat ng uri ng mga programa dahil sa purong kuryusidad. Ngayon ay nagdadalubhasa na ako sa teknolohiya ng kompyuter at mga video game. Ito ay dahil sa higit sa 5 taon na ako ay sumusulat para sa iba't ibang mga website sa teknolohiya at mga video game, na lumilikha ng mga artikulo na naglalayong ibigay sa iyo ang impormasyong kailangan mo sa isang wika na naiintindihan ng lahat.
Kung mayroon kang anumang mga katanungan, ang aking kaalaman ay mula sa lahat ng nauugnay sa Windows operating system pati na rin ang Android para sa mga mobile phone. At ang aking pangako ay sa iyo, lagi akong handang gumugol ng ilang minuto at tulungan kang lutasin ang anumang mga katanungan na maaaring mayroon ka sa mundo ng internet na ito.