ChatGPT gatavo savu pieaugušo režīmu: mazāk filtru, lielāka kontrole un liels izaicinājums ar vecumu.

Ģeneratīvā mākslīgā intelekta nozare gatavojas delikātām pārmaiņām: ienākšanai. ChatGPT pieaugušo režīms, konfigurācija, kas paredzēta atvieglot dažus pašreizējos filtrus un atļaut vairāk atklātu sarunu, vienmēr tikai pieaugušajiemŠī funkcija, par kuru ilgi klīda baumas un kuru tagad oficiāli izziņojusi OpenAI, ir paredzēta, lai reaģējot uz sūdzībām no tiem, kuri uzskatīja, ka asistents ir kļuvis pārāk konservatīvsit īpaši pēc jaunākajiem modeļu atjauninājumiem.

Sema Altmana uzņēmums ir apstiprinājis, ka šis režīms netiks aktivizēts, kamēr tā sistēma nebūs spējīga pārbaudīt katra lietotāja vecumuVienkārša atzīmēšana lodziņā “jā, man ir 18 gadi” vairs nebūs pietiekama: Piekļuve noteiktam saturam vietnē ChatGPT būs atkarīga no mākslīgā intelekta modeļu, uzvedības analīzes un pastiprinātu drošības politiku kombinācijas.ar mērķi izslēgt nepilngadīgos un piedāvāt pieaugušajiem lielāku rīcības brīvību.

Izlaidums atlikts līdz 2026. gadam, lai precizētu vadības ierīces

OpenAI ir vairākkārt paziņojis, ka tā prioritāte ir Izvairieties no kļūdām bērnu aizsardzībāUn tas ir ietekmējis grafiku. Lai gan Altman publiski paziņoja, ka pieaugušo režīms būs gatavs līdz decembrim, uzņēmums ir pārcēlis datumu un tagad paredz tā izlaišanu šajā laikā. 2026. gada pirmais ceturksnisKavēšanās, pēc tās vadītāju teiktā, ir saistīta ar nepieciešamību uzlabot vecuma prognozēšanas sistēmu, kas kalpos par vārtiem uz jauno pieredzi.

Fidži Simo, OpenAI lietojumprogrammu vadītājs, vairākās preses konferencēs ir paskaidrojis, ka uzņēmums pašlaik atrodas viņu vecuma novērtēšanas modeļa pirmās testēšanas fāzesŠis modelis ne tikai jautā lietotājam, bet arī mēģina automātiski secināt, vai viņš ir nepilngadīgs, pusaudzis vai pieaugušais, lai izlemt, kāda veida saturs ir piemērots katrā gadījumā.

Uzņēmums jau veic testus noteiktās valstīs un tirgosanalizējot, cik precīzi sistēma identificē pusaudžus, nejaucot tos ar pieaugušajiem. Šis punkts ir īpaši delikāts: Kļūdaini pozitīvs rezultāts, kas ļauj nepilngadīgajam iziet pārbaudi, var radīt juridiskas un reputācijas problēmas.Savukārt viltus negatīvs rezultāts, kas sistemātiski bloķē vecākus lietotājus, kaitētu pieredzei un uzticībai produktam.

Vienlaikus OpenAI cenšas ievērot arvien prasīgāko normatīvo vidi gan Amerikas Savienotajās Valstīs, tāpat kā Eiropākur tiek izstrādāti likumi, kas paredz stiprināt vecuma pārbaudes mehānismus un sensitīva satura uzraudzību. Tāpēc pieaugušo režīms nav iecerēts kā vienkārša papildu funkcija, bet gan kā elements, kam būs jāiekļaujas sarežģītā regulējuma mīklā.

Ko tieši pieaugušo režīms cenšas piedāvāt?

Viena no lielajām šaubām griežas apkārt kāda veida saturu ChatGPT faktiski atļaus kad kļūs pieejams pieaugušo režīms. OpenAI iepriekš bija ļoti ierobežojoša politika, kas aizliedza gandrīz jebkādas erotiskas atsauces pat nepārprotami informatīvos, literāros vai pieaugušo konsensusa kontekstos. Ar jauno režīmu uzņēmums ir atvērts dažu šo noteikumu mīkstināšanai, lai gan tas vēl nav precizējis šīs mīkstināšanas apmēru.

Simo un Altmana paustā vispārējā ideja ir tāda, ka verificēti pieaugušie varēs piekļūt personiskākas, jutekliskākas, romantiskākas un pat erotiskas sarunas...ar mazāk glaimojošu valodas lietojumu, ja konteksts un lietotāja pieprasījums to attaisno. Tas ietvertu, piemēram, izdomātas ainas no mīlas romāniem vai vienkāršus skaidrojumus par seksualitāti, asistentam nekavējoties nesasalstot.

Uzņēmums uzstāj, ka mērķis nav pārvērst tērzēšanas robotu par platformu bez noteikumiem, bet gan mainīt pieeju, ko daudzi lietotāji raksturoja kā "aseptisku". Altmana atkārtotais vēstījums ir šāds: "Izturēties pret pieaugušajiem lietotājiem kā pret pieaugušajiem"ļaujot lielāku radošo brīvību un izpausmi, bet saskaņā ar pastiprinātu drošības sistēmu, lai novērstu nepilngadīgo ļaunprātīgu izmantošanu vai neatļautu piekļuvi.

Joprojām Vēl jānosaka, kādi materiāli tiks uzskatīti par atļautiem erotiskiem materiāliem un kādi joprojām būs aizliegti. jo tas tiek uzskatīts par kaitīgu, nelikumīgu vai pretēju iekšējai politikai. Šī robeža būs galvenā.Tas ir paredzēts ikdienas lietošanai, kā arī satura autoriem, scenāristiem vai veidotājiem, kuri ir centušies strādāt ar atklātākām ainām, nesaskaroties ar pastāvīgiem bloķējumiem.

Galvenais elements: mākslīgais intelekts, kas mēģina uzminēt jūsu vecumu

Lai šī bērnības, jaunības un pieaugušo pieredzes atdalīšana būtu iespējama, OpenAI izstrādā vecuma pārbaudes un prognozēšanas sistēma balstīts uz mākslīgo intelektu. Mērķis ir atteikties no tradicionālajām metodēm, piemēram, vienkāršas lietotāja deklarācijas vai sejas atpazīšanas, kas rada problēmas ar privātumu, uzticamību un sociālo pieņemšanu, īpaši Eiropā.

Tā vietā uzņēmums testē modeli, kas analizē veids, kā viņi izpauž sevi, tēmas, ko viņi izvirza, un viņu mijiedarbības modeļi ar tērzēšanas robotu. Pamatojoties uz šo informāciju, sistēma aprēķina, vai tā, visticamāk, būs nepilngadīgā, pusaudze vai pieaugušā persona, un atkarībā no šī rezultāta aktivizē vienu vai otru satura politiku.

Šai pieejai ir acīmredzamas priekšrocības ērtības ziņā, jo tā neprasa lietotājam sūtīt dokumentus vai attēlus, bet tā arī ietver tehniskie un juridiskie riskiKļūdas dēļ nepilngadīga persona var piekļūt pieaugušajiem paredzētam saturam vai pieaugušais var sistemātiski tikt iedalīts “bērniem draudzīgā” pieredzē, kas var izraisīt sūdzības, uzticības zaudēšanu un, iespējams, normatīvas sankcijas.

Pats OpenAI to atzīst dod priekšroku pārmērīgai piesardzībaiJa sistēma nevar skaidri noteikt lietotāja vecumu, lietotājiem, kas jaunāki par 18 gadiem, noklusējuma pieredze būs droša vide ar tādiem pašiem stingriem ierobežojumiem kā iepriekš. Pieaugušo režīms un ar to saistītās funkcijas tiks iespējotas tikai tad, kad sistēma būs pietiekami pārliecināta, ka lietotājs ir pilngadīgs.

Eiropā šāda veida risinājumam būs jāpastāv līdzās tādiem regulējošiem regulējumiem kā Digitālo pakalpojumu regula (DPA) un bērnu aizsardzības un privātuma noteikumi, kas pieprasa pārredzamību attiecībā uz to, kā tiek pieņemti automatizēti lēmumi un kādi dati tiek izmantoti, lai secinātu par tādām sensitīvām īpašībām kā vecums.

Psiholoģiskie riski un emocionālā saikne ar tērzēšanas robotu

Papildus tehniskajam aspektam viens no jautājumiem, kas izraisa visvairāk diskusiju, ir ietekme, ko liberālāks tērzēšanas robots varētu atstāt uz lietotāju garīgā veselība un emocionālās saitesJaunākie pētījumi, kas publicēti tādos žurnālos kā Žurnāls Sociālo un personiskās attiecības Viņi norāda, ka pieaugušie, kuri veido spēcīgas emocionālas saites ar virtuālajiem asistentiem, biežāk piedzīvo augstāku psiholoģiskā stresa līmeni.

Paralēli pētījumi liecina, ka cilvēki ar mazāk klātienes sociālās mijiedarbības Viņi mēdz vairāk paļauties uz tērzēšanas robotiem, lai saņemtu biedriskumu, padomu vai emocionālu apstiprinājumu.Šajā kontekstā pieaugušo režīms, kas ļauj sarunāties intīmās vietās, flirtēt vai rādīt erotisku saturu, varētu padziļināt šo atkarību, īpaši, ja sistēma pieņem ļoti empātisku un pielāgojamu personību.

OpenAI šīs bažas ir zināmas. Uzņēmums ir atzinis, ka daži lietotāji sasniedz attīstīt emocionālu pieķeršanos ChatGPTlīdz pat brīdim, kad to izmanto kā galveno frustrācijas izpausmes avotu. Reaģējot uz to, uzņēmums ir ieviesis iekšējas iniciatīvas un konsultējies ar digitālās labklājības ekspertiem, lai vadītu savu modeļu izstrādi drošākas mijiedarbības virzienā, cenšoties nepieļaut, ka tērzēšanas robots tiek pasniegts kā profesionāla atbalsta vai reālu cilvēcisku attiecību aizstājējs.

Šajā kontekstā atvēršanās pieaugušo modei rada acīmredzamu spriedzi: no vienas puses, tiek meklēts respektēt pieaugušo autonomiju lai viņi varētu izlemt, kā viņi vēlas mijiedarboties ar mākslīgo intelektu; no otras puses, tiek atzīts, ka šī tehnoloģija joprojām ir relatīvi jauna un ka tās ilgtermiņa ietekme uz kolektīvo psiholoģiju joprojām ir maz zināma.

Līdzsvars starp brīvības piedāvāšanu un izvairīties no atkarības vai emocionāla kaitējuma dinamikas Šis būs viens no aspektiem, ko regulatori, psihologi un patērētāju tiesību aizsardzības organizācijas visrūpīgāk uzraudzīs, īpaši Eiropas Savienības valstīs, kur šīs debates notiek jau gadiem ilgi.

Regulējošais spiediens un salīdzinājums ar citiem nozares dalībniekiem

Pieaugušo režīma paziņojums notiek laikā, kad lielie tehnoloģiju uzņēmumi atrodas regulatoru un sabiedriskās domas uzmanības centrā jo viņu sistēmas mijiedarbojas ar nepilngadīgajiem. Tādi gadījumi kā Meta asistentu gadījums, kuriem, iespējams, bija seksuāli nepiedienīgas sarunas ar pusaudžiem, ir izcēluši tradicionālo vecuma pārbaudes mehānismu nepietiekamību, kā to pierāda gadījumi, kad Rotaļlietas un tērzēšanas roboti tiek rūpīgi pārbaudīti.

OpenAI, kas jau saskaras ar tiesas prāvām un rūpīgu pārbaudi par savu produktu ietekmi, Viņš cenšas sevi attēlot kā relatīvi apdomīgu aktieri salīdzinājumā ar dažiem konkurentiem. Lai gan uzņēmums atliek pieaugušo režīma ieviešanu, līdz tam būs stabilāka verifikācijas sistēma, citi sarunu mākslīgā intelekta pakalpojumi ir virzījušies uz priekšu pa mazāk ierobežojošiem ceļiem.

Līdzīgi rīki Groks no xAIvai virtuālo tēlu platformas, piemēram, Character.AI, ir eksperimentējušas ar romantiskas mijiedarbības un virtuāli “waifus” Šīs sistēmas flirtē ar lietotāju, pārvēršot pikantu saturu par galveno mārketinga triku. Ir arī atvērtā pirmkoda modeļi, kas var darboties lokāli, bez korporatīvās uzraudzības, ļaujot veidot pieaugušajiem paredzētu saturu praktiski bez filtriem.

Paralēli ir parādījušies gadījumi, kad lielas platformu sistēmas, piemēram, dažas Meta modeļiViņiem ir bijušas seksuāli nepiedienīgas sarunas ar nepilngadīgajiem, kas uzkurina debates par to, vai šie uzņēmumi dara pietiekami daudz, lai aizsargātu jaunos lietotājus, vai, gluži pretēji, viņi pārāk steidzas ar potenciāli bīstamām funkcijām.

OpenAI darbojas šajā starpposma teritorijā: tā vēlas sacensties ar funkcijām un brīvību ar citiem nozares dalībniekiem, taču vienlaikus ir jāpierāda regulatoriem un sabiedrībai, ka tā pieeja prioritāti piešķir drošībai. Pieaugušo režīma panākumus vai neveiksmi mērīs gan pēc lietotāju apmierinātības, gan pēc nopietnu skandālu neesamības, kas saistīti ar tā lietošanu.

Ko lietotāji var sagaidīt, kad Spānijā un Eiropā ienāks pieaugušo režīms?

Kad ChatGPT pieaugušo režīms būs pilnībā funkcionāls, ieviešana dažādos reģionos notiks pakāpeniski, kas ir īpaši jutīgi Spānija un pārējā Eiropas Savienībakur privātuma, bērnu aizsardzības un algoritmiskās pārredzamības noteikumi ir stingrāki nekā citos tirgos.

Paredzams, ka, lai aktivizētu pieaugušo režīmu, lietotājiem būs jāiziet cauri verifikācijas process kas apvieno automātisku vecuma noteikšanu ar noteiktiem papildu apstiprināšanas soļiem. Atkarībā no vietējām normatīvajām prasībām varētu tikt ieviesta kāda veida dokumentu validācija vai validācija, izmantojot uzticamas trešās puses, lai gan OpenAI vēl nav sniegusi konkrētu informāciju par Eiropas tirgu.

Pēc aktivizēšanas pieaugušajam lietotājam vajadzētu pamanīt mazāk cenzētas atbildes par seksualitātes, attiecību, pieķeršanās un erotiskās daiļliteratūras tēmāmvienmēr likumā un uzņēmuma iekšējās politikā noteiktajās robežās. Visticamāk, tiks ieviesti redzami brīdinājumi par ģenerētā satura veidu, kā arī iespējas jebkurā laikā atspējot šo režīmu.

Tikmēr nepilngadīgie, kas Spānijā un Eiropā izmanto ChatGPT, saskarsies ar ierobežotāka un uzraudzītāka pieredzear seksuāli nepiedienīga satura un citu materiālu, kas tiek uzskatīti par kaitīgiem, automātisku bloķēšanu. Ārkārtējos gadījumos sistēma varētu aktivizēt trauksmes protokolus vai atvieglot tiesībaizsardzības iestāžu iejaukšanos, ja tā konstatē nopietnus riskus lietotāja drošībai.

Uzņēmumam ir grūti skaidri izskaidrot Kā jūsu vecuma prognozēšanas sistēma pieņem lēmumus?Kādi dati tiek vākti, cik ilgi tie tiek glabāti un kā lietotāji var iesniegt apelāciju vai labot kļūdas. Šī pārredzamība būs ļoti svarīga, lai iegūtu gan regulatoru, gan iedzīvotāju uzticību, īpaši situācijās, kad privātums ir ļoti sensitīvs.

Tomēr ChatGPT pieaugušo režīms veidojas tāds, kāds tas ir. viena no delikātākajām izmaiņām Īsajā mākslīgā intelekta asistentu vēsturē mērķis ir apmierināt pieaugušo pieprasījumu pēc lielākas brīvības un reālisma, vienlaikus cenšoties aizsargāt nepilngadīgos, izmantojot sarežģītu un joprojām pārbaudītu verifikācijas sistēmu. Līdz tās galīgajai palaišanai debates turpināsies ap vienu un to pašu jautājumu: cik daudz privātuma un erotikas mēs esam gatavi piešķirt mākslīgajam intelektam, nezaudējot no redzesloka atbildību un visneaizsargātāko aizsardzību?

saistīto rakstu:

Roblox pastiprina bērniem draudzīgos pasākumus: sejas pārbaudi un uz vecumu balstītas tērzēšanas sarunas

Alberto navarro

Esmu tehnoloģiju entuziasts, kurš savas "geek" intereses ir pārvērtis profesijā. Es esmu pavadījis vairāk nekā 10 gadus no savas dzīves, izmantojot jaunākās tehnoloģijas un tīri ziņkārības vadīts ar visu veidu programmām. Tagad esmu specializējies datortehnoloģijās un videospēlēs. Tas ir tāpēc, ka vairāk nekā 5 gadus esmu rakstījis dažādām tīmekļa vietnēm par tehnoloģijām un videospēlēm, veidojot rakstus, kuru mērķis ir sniegt jums nepieciešamo informāciju ikvienam saprotamā valodā.

Ja jums ir kādi jautājumi, manas zināšanas svārstās no visa, kas saistīts ar Windows operētājsistēmu, kā arī Android mobilajiem tālruņiem. Un mana apņemšanās ir jums, es vienmēr esmu gatavs veltīt dažas minūtes un palīdzēt jums atrisināt visus jautājumus, kas jums varētu rasties šajā interneta pasaulē.