- Tenging fjölskyldureikninga til að fylgjast með notkun unglinga á ChatGPT.
- Geta til að slökkva á minni og sögu og stjórna aðgerðum eftir aldri.
- Sjálfvirkar viðvaranir um „bráðatilvik“ og neyðarhnapp.
- Innleiðing hefst í næsta mánuði og 120 daga áætlun með rökstuðningslíkönum.
OpenAI hefur tilkynnt komu a Foreldraeftirlit í ChatGPT miðað við heimili með unglingum, nýr eiginleiki sem fyrirtækið notar til að efla öryggi og bjóða fjölskyldum fleiri eftirlitstæki án þess að fórna notagildi spjallþjónsins.
Ákvörðunin kemur í kjölfar vaxandi félagslegs og eftirlitsþrýstings, þ.m.t. Fjölskyldumálsókn Adams Raine í Kaliforníu, sem sakar fyrirtækið um mistök í geðheilbrigðismálum. OpenAI gerir ráð fyrir að það verði sjálfvirkar viðvaranir um merki um „bráða neyð“ og fjöldi eiginleika til að stjórna upplifun ólögráða barna.
Hvað er að breytast í ChatGPT fyrir fjölskyldur?
Með nýju valkostunum munu foreldrar geta tengja reikninginn þinn við reikninga barnanna þinna með tölvupóstboði, fara yfir hvernig kerfið bregst við og aðlaga hegðun líkansins með reglum sem eru hannaðar fyrir unga aldurshópa.
Meðal stjórntækja verður möguleikinn á að slökkva á minni og spjallsögu, sem og að takmarka virkni í samræmi við þroskastig barnsins. OpenAI tekur einnig tillit til áminningar á löngum lotum til að hvetja til heilbrigðra hléa.
Að auki mun pakkinn innihalda a neyðarhnappur sem mun auðvelda samskipti við stuðningsþjónustur og fagfólk í geðheilbrigðismálum og möguleikann á loka á efni þegar hættumerki eru greind í samtali.
Öryggisáætlun og vegvísir
OpenAI setur ræsinguna fyrir næsta mánuð og þótt það hafi ekki ákveðið nákvæma dagsetningu, þá er það að þróa 120 daga áætlun til að styrkja sérstök öryggisráðstafanir fyrir börn og unglingar bæði í vörunni og í innri ferlum.
Fyrirtækið gefur til kynna að ákveðin viðkvæm samtöl séu mun vísa á rökhugsunarlíkön geta fylgt öryggisleiðbeiningum kerfisbundnar með það að markmiði að forgangsraða varkárum og stuðningslegum viðbrögðum þegar þau eru uppgötvuð áhættumál eins og sjálfsskaða eða sjálfsvígshugsanir.
Málið sem kveikti viðvörunarbjöllurnar
Tilkynningin kemur í kjölfar málsóknar frá foreldrum Adam Raine, 16 ára unglingur sem tók eigið líf eftir margra mánaða samskipti við spjallþjóninn. Samkvæmt skráningu hefði ChatGPT eðlilegar sjálfsvígshugsanir og það er ekki ráðlegt að leita aðstoðar fjölskyldunnar, ásakanir sem dómstólar þurfa að leysa.
Samhliða því viðurkenndi OpenAI að aðstoðarmaður þess gæti mistekist í „Hættulegar aðstæður“ og skuldbundið sig til breytinga. Fyrirtækið heldur því fram að þessar aðgerðir miði að því að draga úr áhættu án þess að rekja ákvörðunina opinberlega til málsóknarinnar, sem einnig vitnar í notkun GPT-4o í samræðunum.
Félagslegur og pólitískur þrýstingur á gervigreind og börn
Í júlí báðu nokkrir bandarískir öldungadeildarþingmenn fyrirtækið útskýringar á sjálfsskaða og sjálfsvígsforvörnum sem svar við óviðeigandi viðbrögðum sem greinast í öfgafullum aðstæðum. Common Sense Media heldur því fram að undir 18 árum ættu ekki að nota samræðuforrit fyrir gervigreind vegna „óásættanlegrar áhættu“ sem fylgir þeim.
Aðgerð OpenAI er í samræmi við þróun í greininni þar sem kerfi eins og Meta eða YouTube hafa ýtt undir stjórn fyrir fjölskyldur. Undirliggjandi umræðan snýst um hvernig hægt sé að halda jafnvægi á nýsköpun, ábyrgð og ábyrgðir fyrir unga notendur.
Hvað gerist inni í ChatGPT þegar áhættuvísbendingar eru til staðar
OpenAI stefnir að kraftmikilli leiðarvísun sem leiðir af sér flóknar samræður í átt að ígrundaðri líkönum með strangari öryggisleiðbeiningum. Markmiðið er að draga úr hlutdrægni vegna sjálfsánægju, hækka þröskuld varfærni og forgangsraða svörum við stuðningi gegn hugsanlega skaðlegum milliverkunum.
Til að festa þessa nálgun í sessi hefur fyrirtækið búið til Sérfræðingaráð um vellíðan og gervigreind og alþjóðlegt læknanet. Samkvæmt fyrirtækinu, meira en 250 læknar í 60 löndum og meira en 90 framlög um hegðun líkansins hafa þegar verið tekin inn samhengi geðheilbrigðis.
Það sem foreldrar geta gert, skref fyrir skref
Fjölskyldur munu finna einfalda leið: bjóða ólögráða einstaklingi í pósti, staðfesta tengingu reikninga og skilgreina hvaða aðgerðir eru virkjaðar eða ekki í unglingaprófílnum, með sérstakri áherslu á minni, sögu og öryggissíur.
- Tengdu reikning fullorðins einstaklingsins við reikning ólögráða einstaklingsins með boði.
- Settu takmörk: minni, sögu og aldurstengda eiginleika.
- Virkjaðu tilkynningar um „brátt neyðarástand“ og aðgang að neyðarhnappinum.
- Athugaðu reglulega hvernig kerfið bregst við og aðlagaðu stillingarnar.
OpenAI segist ætla að halda áfram að betrumbæta þessi verkfæri en hefur ekki enn útskýrt öll þau. persónuverndarbreytur og sýnileika. Fyrirtækið minnir á að foreldraeftirlit er stuðningur og kemur ekki í staðinn fyrir faglega umönnun né áframhaldandi stuðningur fjölskyldunnar.
Með þessum pakka reynir OpenAI að styrkja öryggi ChatGPT í unglingaumhverfi með því að... fjölskyldureikningar, takmörk og viðvaranir, stigvaxandi innleiðing og utanaðkomandi klínísk ráðgjöf; skref sem miða að því að takmarka áhættu án þess að gleyma því að eftirlit fullorðinna og fagleg dómgreind eru enn í gildi nauðsynlegir hlutir.
Ég er tækniáhugamaður sem hefur breytt "nörda" áhugamálum sínum í fag. Ég hef eytt meira en 10 árum af lífi mínu í að nota háþróaða tækni og fikta í alls kyns forritum af einskærri forvitni. Nú hef ég sérhæft mig í tölvutækni og tölvuleikjum. Þetta er vegna þess að í meira en 5 ár hef ég skrifað fyrir ýmsar vefsíður um tækni og tölvuleiki, búið til greinar sem leitast við að veita þér þær upplýsingar sem þú þarft á tungumáli sem er skiljanlegt fyrir alla.
Ef þú hefur einhverjar spurningar þá nær þekking mín frá öllu sem tengist Windows stýrikerfinu sem og Android fyrir farsíma. Og skuldbinding mín er til þín, ég er alltaf tilbúin að eyða nokkrum mínútum og hjálpa þér að leysa allar spurningar sem þú gætir haft í þessum internetheimi.