ChatGPT priprema svoj način rada za odrasle: manje filtera, više kontrole i veliki izazov s godinama.

Sektor generativne umjetne inteligencije priprema se za delikatnu promjenu: dolazak ChatGPT način rada za odrasle, konfiguracija dizajnirana za ublažite neke od trenutnih filtera i omogućite eksplicitnije razgovore, uvijek ograničeno na odrasleOva značajka, o kojoj se dugo pričalo, a koju je OpenAI sada službeno najavio, ima za cilj odgovaranje na pritužbe onih koji su smatrali da je asistent postao previše konzervativanposebno nakon najnovijih ažuriranja modela.

Tvrtka Sama Altmana potvrdila je da se ovaj način rada neće aktivirati dok njihov sustav ne bude sposoban provjerite dob svakog korisnikaSamo označavanje okvira s natpisom „da, imam više od 18 godina“ više neće biti dovoljno: Pristup određenom sadržaju na ChatGPT-u ovisit će o kombinaciji AI modela, analize ponašanja i pojačanih sigurnosnih politika.s ciljem isključivanja maloljetnika i pružanja više manevarskog prostora odraslima.

Objavljivanje odgođeno do 2026. godine radi finog podešavanja kontrola

OpenAI je više puta izjavio da mu je prioritet izbjegavajte pogreške u zaštiti djeceI to je uzelo danak rasporedu. Iako je Altman javno najavio da će mod za odrasle biti spreman do prosinca, tvrtka je pomaknula datum i sada postavlja njegovo izlaženje tijekom prvo tromjesečje 2026Kašnjenje je, prema riječima njegovih menadžera, posljedica potrebe za poboljšanjem sustava za predviđanje dobi koji će poslužiti kao ulaz u novo iskustvo.

Fidji Simo, voditelj odjela za aplikacije u OpenAI-ju, objasnio je na nekoliko konferencija za novinare da se tvrtka trenutno nalazi u prve faze testiranja njihovog modela procjene dobiOvaj model ne pita samo korisnika, već pokušava automatski zaključiti je li maloljetnik, tinejdžer ili odrasla osoba, kako bi odlučiti koja je vrsta sadržaja prikladna u svakom slučaju.

Tvrtka već provodi testiranja u određene zemlje i tržištaanalizirajući u kojoj mjeri sustav točno identificira adolescente bez miješanja s odraslima. Ova je točka posebno osjetljiva: Lažno pozitivan rezultat koji omogućuje maloljetniku da prođe mogao bi dovesti do pravnih i reputacijskih problema.Dok bi lažno negativan rezultat koji sustavno blokira starije korisnike naštetio iskustvu i povjerenju u proizvod.

Istovremeno, OpenAI pokušava se prilagoditi sve zahtjevnijem regulatornom okruženju, kako u Sjedinjene Države, kao i u Europigdje se donose zakoni koji zahtijevaju jačanje mehanizama za provjeru dobi i praćenje osjetljivog sadržaja. Način rada za odrasle stoga nije zamišljen kao jednostavna dodatna značajka, već kao element koji će se morati uklopiti u složenu regulatornu slagalicu.

Što točno nudi način igre za odrasle?

Jedna od velikih dvojbi vrti se okolo kakav sadržaj ChatGPT zapravo dopušta kada postane dostupan način rada za odrasle. OpenAI je prije imao vrlo restriktivne politike koje su zabranjivale gotovo sve erotske reference, čak i u jasno informativnim, književnim ili konsenzualnim kontekstima za odrasle. S novim načinom rada, tvrtka je otvorena za ublažavanje nekih od tih pravila, iako još nije precizirala opseg tog ublažavanja.

Opća ideja koju su Simo i Altman prenijeli jest da će provjerene odrasle osobe moći pristupiti osobnije, senzualnije, romantičnije, pa čak i erotične razgovore...s manje uljepšanim jezikom kada kontekst i korisnikov zahtjev to zahtijevaju. To bi uključivalo, na primjer, izmišljene scene iz ljubavnih romana ili izravna objašnjenja o seksualnosti, bez da se asistent odmah ukoči.

Tvrtka inzistira da cilj nije pretvoriti chatbot u platformu bez pravila, već preokrenuti pristup koji su mnogi korisnici opisali kao "aseptičan". Poruka koju je Altman ponovio je: „tretirajte odrasle korisnike kao odrasle osobe“omogućujući veću kreativnu slobodu i izražavanje, ali pod pojačanim sigurnosnim okvirom kako bi se spriječila zlouporaba ili neovlašteni pristup maloljetnika.

još Ostaje utvrditi koji će se materijal smatrati dopuštenim erotskim materijalom, a koji će i dalje biti zabranjen. jer se smatra štetnim, nezakonitim ili suprotnim internim politikama. To ograničenje će biti ključno.Ovo je za svakodnevnu upotrebu, kao i za autore sadržaja, scenariste ili kreatore koji su se potrudili da mogu raditi s eksplicitnijim scenama bez stalnih blokada.

Ključni element: umjetna inteligencija koja pokušava pogoditi vaše godine

Kako bi se omogućilo ovo odvajanje iskustava djetinjstva, mladosti i odraslih, OpenAI razvija sustav za provjeru i predviđanje dobi temeljeno na umjetnoj inteligenciji. Cilj je odmaknuti se od tradicionalnih metoda, poput jednostavne korisničke deklaracije ili prepoznavanja lica, koje postavljaju pitanja privatnosti, pouzdanosti i društvene prihvaćenosti, posebno u Europi.

Umjesto toga, tvrtka testira model koji analizira način na koji se izražavaju, teme koje pokreću i njihovi obrasci interakcije s chatbotom. Na temelju tih informacija sustav izračunava je li vjerojatno riječ o maloljetniku, tinejdžeru ili odrasloj osobi i, ovisno o tom rezultatu, aktivira jednu ili drugu politiku sadržaja.

Ovaj pristup ima jasne prednosti u smislu praktičnosti, jer ne zahtijeva od korisnika slanje dokumenata ili slika, ali također podrazumijeva tehnički i pravni riziciPogreška bi mogla rezultirati time da maloljetnik pristupi sadržaju za odrasle ili da se odrasla osoba sustavno svrstava u iskustvo "prilagođeno djeci", što dovodi do pritužbi, gubitka povjerenja i potencijalno regulatornih sankcija.

Sam OpenAI priznaje da radije griješi na strani pretjeranog oprezaKada sustav ne može jasno odrediti dob korisnika, zadano iskustvo bit će sigurno okruženje za korisnike mlađe od 18 godina, s istim strogim ograničenjima kao i prije. Tek kada sustav bude razumno siguran da je korisnik punoljetan, omogućit će se način rada za odrasle i s njim povezane značajke.

U Europi će ova vrsta rješenja morati koegzistirati s regulatornim okvirima kao što su Regulativa o digitalnim uslugama (DSA) i propise o zaštiti djece i privatnosti, koji zahtijevaju transparentnost o tome kako se donose automatizirane odluke i koji se podaci koriste za zaključivanje o osjetljivim karakteristikama poput dobi.

Psihološki rizici i emocionalne veze s chatbotom

Osim tehničke dimenzije, jedna od točaka koja izaziva najviše rasprave jest utjecaj koji popustljiviji chatbot može imati na mentalno zdravlje i emocionalne veze korisnikaNedavne studije objavljene u časopisima kao što su Časopis za društvene i osobne odnose Oni sugeriraju da odrasli koji stvaraju snažne emocionalne veze s virtualnim asistentima imaju veću vjerojatnost da će iskusiti veću razinu psihološke nevolje.

Paralelna istraživanja sugeriraju da ljudi s manje društvenih interakcija licem u lice Skloni su se više oslanjati na chatbotove za druženje, savjete ili emocionalnu potvrdu.U tom kontekstu, način rada za odrasle koji omogućuje intimne razgovore, flert ili erotski sadržaj mogao bi produbiti tu ovisnost, posebno ako sustav usvoji vrlo empatičnu i prilagodljivu osobnost.

OpenAI nije stranac ovim problemima. Tvrtka je priznala da neki korisnici dosežu razviti emocionalnu privrženost ChatGPT-udo te mjere da ga koriste kao primarni ispušni ventil za frustraciju. Kao odgovor na to, tvrtka je implementirala interne inicijative i tražila savjete od stručnjaka za digitalnu dobrobit kako bi usmjerila dizajn svojih modela prema sigurnijim interakcijama, s ciljem sprječavanja da se chatbot predstavi kao zamjena za profesionalnu podršku ili stvarne ljudske odnose.

U tom kontekstu, otvaranje prema odraslom načinu života predstavlja očitu napetost: s jedne strane, traži se poštujte autonomiju odraslih odlučiti kako žele komunicirati s umjetnom inteligencijom; s druge strane, prepoznato je da je tehnologija još uvijek relativno nova i da su njezini dugoročni učinci na kolektivnu psihologiju još uvijek malo poznati.

Ravnoteža između pružanja slobode i izbjegavajte dinamiku ovisnosti ili emocionalne štete Ovo će biti jedan od aspekata koji će regulatori, psiholozi i organizacije za zaštitu potrošača najpažljivije pratiti, posebno u zemljama Europske unije gdje se te rasprave vode već godinama.

Regulatorni pritisak i usporedba s drugim akterima u sektoru

Najava načina rada za odrasle dolazi u vrijeme kada su velike tehnološke tvrtke u u središtu pozornosti regulatora i javnog mnijenja zbog načina na koji njihovi sustavi komuniciraju s maloljetnicima. Slučajevi poput onog Meta asistenata, koji su navodno vodili seksualno eksplicitne razgovore s tinejdžerskim korisnicima, istaknuli su da tradicionalni mehanizmi za provjeru dobi nisu dovoljni, kao što je pokazano u slučajevima Igračke i chatbotovi pod lupom.

OpenAI, koji se već suočava s tužbama i istragom zbog utjecaja svojih proizvoda, Pokušava se prikazati kao relativno razborit glumac u usporedbi s nekim konkurentima. Dok tvrtka odgađa svoj način rada za odrasle dok ne bude imala robusniji sustav provjere, druge konverzacijske AI usluge krenule su naprijed manje restriktivnim putem.

Alati poput Grok, iz xAI-aili platforme za virtualne likove poput Character.AI su eksperimentirale s romantične interakcije i virtualni "waifusi" Ovi sustavi koketiraju s korisnikom, pretvarajući riskantan sadržaj u glavni marketinški trik. Postoje i modeli otvorenog koda koji se mogu pokretati lokalno, bez korporativnog nadzora, omogućujući stvaranje sadržaja za odrasle praktički bez filtera.

Paralelno s tim, pojavili su se slučajevi u kojima veliki platformski sustavi, poput nekih Meta modeliVodili su seksualno eksplicitne razgovore s maloljetnicima, što je potaknulo raspravu o tome čine li te tvrtke dovoljno kako bi zaštitile mlade korisnike ili, naprotiv, prebrzo uvode potencijalno opasne značajke.

OpenAI djeluje na tom međupodručju: želi natjecati se na temelju značajki i slobode s drugim igračima u sektoru, ali istovremeno mora pokazati regulatorima i javnosti da njegov pristup daje prioritet sigurnosti. Uspjeh ili neuspjeh načina rada za odrasle mjerit će se i zadovoljstvom korisnika i odsutnošću ozbiljnih skandala povezanih s njegovom upotrebom.

Što korisnici mogu očekivati ​​kada način rada za odrasle stigne u Španjolsku i Europu?

Kada ChatGPT-ov način rada za odrasle bude u potpunosti operativan, uvođenje će biti postupno u različitim regijama, što je posebno osjetljivo u Španjolska i ostatak Europske unijegdje su pravila o privatnosti, zaštiti djece i algoritamskoj transparentnosti stroža nego na drugim tržištima.

Očekuje se da će korisnici, kako bi aktivirali način rada za odrasle, morati proći kroz postupak provjere koji kombinira automatsko predviđanje dobi s određenim dodatnim koracima potvrde. Ovisno o lokalnim regulatornim zahtjevima, mogao bi se uvesti neki oblik validacije dokumenata ili validacije putem pouzdanih trećih strana, iako OpenAI još nije pružio konkretne detalje za europsko tržište.

Nakon aktivacije, odrasli korisnik bi trebao primijetiti manje cenzurirani odgovori na teme seksualnosti, veza, naklonosti i erotske fikcijeuvijek unutar ograničenja postavljenih zakonom i internim politikama tvrtke. Vjerojatno će biti implementirana vidljiva upozorenja o vrsti sadržaja koji će se generirati, kao i opcije za onemogućavanje načina rada u bilo kojem trenutku.

U međuvremenu, maloljetnici koji koriste ChatGPT u Španjolskoj i Europi susrest će se ograničenije i nadzirano iskustvos automatskim blokiranjem seksualno eksplicitnog sadržaja i drugih materijala koji se smatraju štetnima. U ekstremnim slučajevima, sustav bi mogao aktivirati protokole upozorenja ili olakšati intervenciju policije ako otkrije ozbiljne rizike za sigurnost korisnika.

Tvrtka se suočava s izazovom jasnog objašnjenja Kako vaš sustav za predviđanje dobi donosi odlukeKoji se podaci prikupljaju, koliko se dugo čuvaju i kako se korisnici mogu žaliti ili ispraviti pogreške. Ova transparentnost bit će ključna za stjecanje povjerenja i regulatora i građana, posebno u kontekstima gdje je privatnost vrlo osjetljiva.

Međutim, ChatGPT-ov način rada za odrasle se oblikuje u jedna od najosjetljivijih promjena U kratkoj povijesti asistenata temeljenih na umjetnoj inteligenciji, cilj je zadovoljiti zahtjeve odraslih za većom slobodom i realizmom, a istovremeno pokušati zaštititi maloljetnike putem složenog i još uvijek testiranog sustava verifikacije. Do konačnog lansiranja, rasprava će se i dalje vrtjeti oko istog pitanja: koliko privatnosti i erotike smo spremni dodijeliti umjetnoj inteligenciji, a da pritom ne izgubimo iz vida odgovornost i zaštitu najranjivijih?

Povezani članak:

Roblox pojačava svoje mjere prilagođene djeci: provjeru lica i chatove temeljene na dobi

Alberto navarro

Ja sam tehnološki entuzijast koji je svoje "geek" interese pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći vrhunsku tehnologiju i petljajući sa svim vrstama programa iz čiste znatiželje. Sada sam se specijalizirao za računalne tehnologije i video igre. To je zato što sam više od 5 godina pisao za razne web stranice o tehnologiji i videoigrama, stvarajući članke koji vam nastoje dati informacije koje su vam potrebne na jeziku koji je svima razumljiv.

Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog uz Windows operativni sustav kao i Android za mobitele. I moja je posvećenost vama, uvijek sam spreman odvojiti nekoliko minuta i pomoći vam riješiti sva pitanja koja imate u ovom internetskom svijetu.