OpenAI sal ouerkontroles by ChatGPT voeg met gesinsrekeninge, risikowaarskuwings en gebruikslimiete.

OpenAI het die aankoms van 'n Ouerskapkontroles in ChatGPT gemik op huise met tieners, 'n nuwe kenmerk waarmee die maatskappy sekuriteit wil versterk en gesinne wil bied meer moniteringsinstrumente sonder om die nut van die kletsbot prys te gee.

Die besluit kom na toenemende sosiale en regulatoriese druk, insluitend Adam Raine se familie-regsgeding in Kalifornië, wat die maatskappy beskuldig van mislukkings in geestesgesondheidskontekste. OpenAI verwag dat daar sal wees outomatiese waarskuwings vir tekens van "akute nood" en 'n reeks funksies om die ervaring van minderjariges te bestuur.

Wat verander in ChatGPT vir gesinne?

Met die nuwe opsies sal ouers in staat wees om koppel jou rekening aan jou kinders se rekeninge deur middel van 'n e-posuitnodiging, hersien hoe die stelsel reageer en pas die model se gedrag aan met reëls wat vir vroeë ouderdomme ontwerp is.

Onder die kontroles sal die vermoë wees om deaktiveer geheue en kletsgeskiedenis, sowel as die beperking van funksies volgens die minderjarige se volwassenheidsvlak. OpenAI oorweeg ook herinnerings tydens lang sessies om gesonde pouses aan te moedig.

Daarbenewens sal die pakket 'n noodknoppie wat kontak met ondersteuningsdienste en geestesgesondheidswerkers sal vergemaklik, en die opsie van blokkeer inhoud wanneer risikoseine in 'n gesprek bespeur word.

Sekuriteitskalender en padkaart

OpenAI plaas die bekendstelling vir volgende maand en, hoewel dit nie 'n spesifieke datum vasgestel het nie, bevorder dit 'n 120-dae-plan om spesifieke waarborge te versterk vir kinders en tieners beide in die produk en in interne prosesse.

Die maatskappy dui aan dat sekere sensitiewe gesprekke sal na redenasiemodelle herlei in staat wees om veiligheidsriglyne meer sistematies te volg, met die doel om versigtige en ondersteunende reaksies te prioritiseer wanneer dit opgespoor word risikokwessies soos selfbesering of selfmoordgedagtes.

Die saak wat die alarms laat afgaan het

Die aankondiging kom na 'n regsgeding deur die ouers van Adam Raine, 'n 16-jarige tiener wat sy eie lewe geneem het na maande se interaksie met die kletsbot. Volgens die liassering sou ChatGPT genormaliseerde selfmoordgedagtes en dit is nie raadsaam om familiehulp te soek nie, beskuldigings wat die howe sal moet oplos.

Terselfdertyd het OpenAI erken dat sy assistent moontlik kan misluk. "kritieke situasies" en verbind tot veranderinge. Die maatskappy hou vol dat hierdie maatreëls poog verminder risiko's sonder om die besluit amptelik aan die regsgeding toe te skryf, wat ook die gebruik van GPT-4o in die gesprekke aanhaal.

Sosiale en politieke druk op KI en minderjariges

In Julie het verskeie Amerikaanse senatore die maatskappy gevra verduidelikings oor selfbesering en selfmoordvoorkoming in reaksie op onvanpaste reaksies wat in uiterste situasies opgespoor word. Common Sense Media voer aan dat onder 18 jaar moet nie gespreks-KI-toepassings gebruik nie as gevolg van hul "onaanvaarbare risiko's".

OpenAI se skuif stem ooreen met 'n bedryfstendens waarin platforms soos Meta of YouTube het druk uitgeoefen vir beheermaatreëls vir gesinne. Die onderliggende bespreking draai om hoe om innovasie te balanseer, waarborg en waarborge vir jong gebruikers.

Wat gebeur binne ChatGPT wanneer daar risikoseine is

OpenAI mik na dinamiese roetering wat lei komplekse gesprekke af na meer reflektiewe modelle, met strenger veiligheidsriglyne. Die doel is om selfvoldaanheidsvooroordeel te verminder, die drempel van versigtigheid te verhoog en prioritiseer ondersteuningsreaksies teen potensieel skadelike interaksies.

Om hierdie benadering te versterk, het die firma 'n Raad van Kenners oor Welstand en KI en 'n wêreldwye netwerk van dokters. Volgens die maatskappy, meer as 250 dokters in 60 lande en meer as 90 bydraes oor die model se gedrag is reeds opgeneem geestesgesondheidskontekste.

Wat ouers stap vir stap kan doen

Gesinne sal 'n eenvoudige vloei vind: nooi die minderjarige per pos uit, bevestig die koppeling van rekeninge en definieer watter funksies geaktiveer is of nie in die adolessente profiel nie, met spesiale aandag aan geheue, geskiedenis en sekuriteit filters.

• Koppel die volwassene se rekening aan die minderjarige se rekening via uitnodiging.
• Stel limiete: geheue, geskiedenis en ouderdomsgoedgekeurde kenmerke.
• Aktiveer kennisgewings vir "akute nood" en toegang tot die noodknoppie.
• Kontroleer gereeld hoe die stelsel reageer en pas die instellings aan.

OpenAI sê dat hulle hierdie gereedskap sal voortgaan om te verfyn, maar het nog nie al die besonderhede uiteengesit nie. privaatheid parameters en sigbaarheid. Die maatskappy herinner daaraan dat ouerlike beheer 'n ondersteuning is en nie die vervanging van die professionele aandag ook nie voortgesette familieondersteuning nie.

Met hierdie pakket poog OpenAI om die sekuriteit van ChatGPT in die tieneromgewing te versterk deur gesinsrekeninge, limiete en waarskuwings, 'n gefaseerde uitrol en eksterne kliniese advies; stappe wat poog om risiko's te beperk sonder om die feit uit die oog te verloor dat volwasse toesig en professionele oordeel steeds nodig is noodsaaklike stukke.

Verwante artikel:

Die beste ouerbeheerprogramme vir iPhone en Android

Alberto navarro

Ek is 'n tegnologie-entoesias wat sy "geek"-belangstellings in 'n beroep verander het. Ek het meer as 10 jaar van my lewe bestee om die nuutste tegnologie te gebruik en uit pure nuuskierigheid met allerhande programme te peuter. Nou het ek gespesialiseer in rekenaartegnologie en videospeletjies. Dit is omdat ek al vir meer as 5 jaar vir verskeie webwerwe oor tegnologie en videospeletjies skryf en artikels skep wat poog om jou die inligting te gee wat jy nodig het in 'n taal wat vir almal verstaanbaar is.

As jy enige vrae het, strek my kennis van alles wat verband hou met die Windows-bedryfstelsel sowel as Android vir selfone. En my verbintenis is aan jou, ek is altyd bereid om 'n paar minute te spandeer en jou te help om enige vrae op te los wat jy in hierdie internetwêreld mag hê.