- Cysylltu cyfrifon teuluol i fonitro defnydd pobl ifanc o ChatGPT.
- Y gallu i analluogi cof a hanes a rheoli swyddogaethau yn ôl oedran.
- Rhybuddion awtomatig ar gyfer dangosyddion "trallod acíwt" a botwm argyfwng.
- Dechrau defnyddio'r mis nesaf a chynllun 120 diwrnod gyda modelau rhesymu.
Mae OpenAI wedi cyhoeddi dyfodiad a Rheolyddion rhieni yn ChatGPT wedi'i anelu at gartrefi gyda phobl ifanc, nodwedd newydd y mae'r cwmni'n anelu ati i atgyfnerthu diogelwch a chynnig i deuluoedd mwy o offer monitro heb ildio defnyddioldeb y chatbot.
Daw'r penderfyniad ar ôl pwysau cymdeithasol a rheoleiddiol cynyddol, gan gynnwys Achos cyfreithiol teuluol Adam Raine yng Nghaliffornia, sy'n cyhuddo'r cwmni o fethiannau mewn cyd-destunau iechyd meddwl. Mae OpenAI yn rhagweld y bydd rhybuddion awtomatig am arwyddion o “drallod acíwt” a chyfres o nodweddion i reoli profiad pobl ifanc.
Beth sy'n newid yn ChatGPT i deuluoedd?
Gyda'r opsiynau newydd, bydd rhieni'n gallu cysylltu eich cyfrif â chyfrifon eich plant drwy wahoddiad e-bost, adolygu sut mae'r system yn ymateb ac addasu ymddygiad y model gyda rheolau a gynlluniwyd ar gyfer oedrannau cynnar.
Ymhlith y rheolyddion bydd y gallu i analluogi cof a hanes sgwrsio, yn ogystal â chyfyngu swyddogaethau yn ôl lefel aeddfedrwydd y plentyn dan oed. Mae OpenAI hefyd yn ystyried. atgofion yn ystod sesiynau hir i annog seibiannau iach.
Yn ogystal, bydd y pecyn yn cynnwys botwm argyfwng a fydd yn hwyluso cyswllt â gwasanaethau cymorth a gweithwyr iechyd meddwl proffesiynol, a'r opsiwn o cynnwys bloc pan ganfyddir arwyddion risg mewn sgwrs.
Calendr diogelwch a map ffordd
Mae OpenAI yn gosod y lansiad ar gyfer y mis nesaf ac, er nad yw wedi gosod dyddiad penodol, mae'n hyrwyddo cynllun 120 diwrnod i atgyfnerthu mesurau diogelwch penodol ar gyfer plant a phobl ifanc yn y cynnyrch ac mewn prosesau mewnol.
Mae'r cwmni'n nodi bod rhai sgyrsiau sensitif yn bydd yn ailgyfeirio at fodelau rhesymu gallu dilyn canllawiau diogelwch yn fwy systematig, gyda'r nod o flaenoriaethu ymatebion gofalus a chefnogol pan gânt eu canfod materion risg fel hunan-niweidio neu feddyliau hunanladdol.
Yr achos sydd wedi sbarduno'r larymau
Daw'r cyhoeddiad ar ôl achos cyfreithiol gan rieni Adam Raine, dyn ifanc 16 oed a gymerodd ei fywyd ei hun ar ôl misoedd o ryngweithio â'r chatbot. Yn ôl y ffeilio, byddai ChatGPT wedi meddyliau hunanladdol normal ac nid yw'n ddoeth ceisio cymorth teuluol, cyhuddiadau y bydd yn rhaid i'r llysoedd eu datrys.
Ochr yn ochr â hynny, cydnabu OpenAI y gallai ei gynorthwyydd fethu yn "sefyllfaoedd critigol" ac wedi ymrwymo i newidiadau. Mae'r cwmni'n mynnu bod y mesurau hyn yn ceisio lleihau risgiau heb briodoli'r penderfyniad yn swyddogol i'r achos cyfreithiol, sydd hefyd yn crybwyll y defnydd o GPT-4o yn y sgyrsiau.
Pwysau cymdeithasol a gwleidyddol ar AI a phobl dan oed
Ym mis Gorffennaf, gofynnodd nifer o seneddwyr yr Unol Daleithiau i'r cwmni esboniadau ar atal hunan-niweidio ac atal hunanladdiad mewn ymateb i ymatebion amhriodol a ganfuwyd mewn sefyllfaoedd eithafol. O ran Common Sense Media, mae hynny'n cael ei ddadlau o dan 18 mlynedd ni ddylent ddefnyddio cymwysiadau deallusrwydd artiffisial sgyrsiol oherwydd eu “risgiau annerbyniol”.
Mae symudiad OpenAI yn cyd-fynd â thueddiad diwydiant lle mae llwyfannau fel Meta neu YouTube wedi pwyso am reolaethau i deuluoedd. Mae'r drafodaeth sylfaenol yn ymwneud â sut i gydbwyso arloesedd, gwarant a gwarantau i ddefnyddwyr ifanc.
Beth sy'n digwydd y tu mewn i ChatGPT pan fydd arwyddion risg
Mae OpenAI yn anelu at lwybro deinamig sy'n yn deillio sgyrsiau cymhleth tuag at fodelau mwy myfyriol, gyda chanllawiau diogelwch llymach. Y nod yw lleihau rhagfarn hunanfodlonrwydd, codi trothwy doethineb a blaenoriaethu ymatebion cymorth yn erbyn rhyngweithiadau a allai fod yn niweidiol.
I atgyfnerthu'r dull hwn, mae'r cwmni wedi creu Cyngor yr Arbenigwyr ar Lesiant a Deallusrwydd Artiffisial a Rhwydwaith Byd-eang o Feddygon. Yn ôl y cwmni, mwy na 250 o feddygon mewn 60 o wledydd ac mae mwy na 90 o gyfraniadau ar ymddygiad y model eisoes wedi'u hymgorffori cyd-destunau iechyd meddwl.
Beth all rhieni ei wneud, gam wrth gam
Bydd teuluoedd yn dod o hyd i lif syml: gwahodd y plentyn dan oed drwy'r post, cadarnhau cysylltu cyfrifon a diffinio pa swyddogaethau sy'n cael eu actifadu ai peidio ym mhroffil y glasoed, gan roi sylw arbennig i gof, hanes a hidlwyr diogelwch.
- Cysylltwch gyfrif yr oedolyn â chyfrif y plentyn dan oed drwy wahoddiad.
- Gosod terfynau: cof, hanes, a nodweddion sydd wedi'u cymeradwyo gan oedran.
- Galluogi hysbysiadau ar gyfer “trallod acíwt” a mynediad i’r botwm argyfwng.
- Gwiriwch yn rheolaidd sut mae'r system yn ymateb ac addaswch y gosodiadau.
Dywed OpenAI y bydd yn parhau i fireinio'r offer hyn, ond nid yw wedi manylu ar yr holl bethau eto. paramedrau preifatrwydd a gwelededd. Mae'r cwmni'n atgoffa bod rheolaeth rhieni yn gefnogaeth ac nad yw'n disodli'r sylw proffesiynol na chefnogaeth barhaus i'r teulu.
Gyda'r pecyn hwn, mae OpenAI yn ceisio cryfhau diogelwch ChatGPT yn amgylchedd pobl ifanc drwy cyfrifon teulu, terfynau a rhybuddion, cyflwyno fesul cam a chyngor clinigol allanol; camau sy'n ceisio cyfyngu ar risgiau heb anghofio bod goruchwyliaeth oedolion a barn broffesiynol yn parhau darnau hanfodol.
Rwy'n frwd dros dechnoleg sydd wedi troi ei ddiddordebau "geek" yn broffesiwn. Rwyf wedi treulio mwy na 10 mlynedd o fy mywyd yn defnyddio technoleg flaengar ac yn tinkering gyda phob math o raglenni allan o chwilfrydedd pur. Nawr rydw i wedi arbenigo mewn technoleg gyfrifiadurol a gemau fideo. Mae hyn oherwydd ers mwy na 5 mlynedd rwyf wedi bod yn ysgrifennu ar gyfer gwefannau amrywiol ar dechnoleg a gemau fideo, gan greu erthyglau sy'n ceisio rhoi'r wybodaeth sydd ei hangen arnoch mewn iaith sy'n ddealladwy i bawb.
Os oes gennych unrhyw gwestiynau, mae fy ngwybodaeth yn amrywio o bopeth sy'n ymwneud â system weithredu Windows yn ogystal ag Android ar gyfer ffonau symudol. Ac mae fy ymrwymiad i chi, rwyf bob amser yn barod i dreulio ychydig funudau a'ch helpu i ddatrys unrhyw gwestiynau sydd gennych yn y byd rhyngrwyd hwn.