„ChatGPT“ ruošia suaugusiųjų režimą: mažiau filtrų, daugiau kontrolės ir didelis iššūkis su amžiumi.

Generatyvinio dirbtinio intelekto sektorius ruošiasi subtiliems pokyčiams: atėjimui. ChatGPT suaugusiųjų režimas, konfigūracija, skirta sušvelninti kai kuriuos dabartinius filtrus ir leisti atviresnius pokalbius, visada apsiriboja suaugusiaisiaisŠi funkcija, apie kurią ilgai sklandė gandai ir kurią dabar oficialiai paskelbė „OpenAI“, siekia reaguodamas į skundus tų, kurie manė, kad asistentas tapo pernelyg konservatyvusypač po naujausių modelių atnaujinimų.

Samo Altmano kompanija patvirtino, kad šis režimas nebus aktyvuotas, kol jos sistema negalės patikrinkite kiekvieno naudotojo amžiųTiesiog pažymėti langelį „taip, man daugiau nei 18 metų“ nebeužteks: Prieiga prie tam tikro „ChatGPT“ turinio priklausys nuo dirbtinio intelekto modelių, elgesio analizės ir sustiprintų saugumo politikų derinio.siekiant neįtraukti nepilnamečių ir suteikti daugiau laisvės suaugusiesiems.

Išleidimas atidėtas iki 2026 m., siekiant tiksliai suderinti valdiklius

„OpenAI“ ne kartą pareiškė, kad jos prioritetas yra išvengti klaidų vaikų apsaugos srityjeIr tai atsiliepė tvarkaraščiui. Nors „Altman“ viešai paskelbė, kad suaugusiųjų režimas bus paruoštas iki gruodžio mėnesio, bendrovė perkėlė datą ir dabar jo išleidimas numatytas gruodžio mėnesį. pirmąjį 2026 m. ketvirtįVadovų teigimu, vėlavimas susijęs su poreikiu patobulinti amžiaus prognozavimo sistemą, kuri bus vartai į naują patirtį.

Fidji Simo, „OpenAI“ programų vadovas, keliose spaudos konferencijose paaiškino, kad bendrovė šiuo metu dirba pirmieji jų amžiaus įvertinimo modelio testavimo etapaiŠis modelis ne tik klausia vartotojo, bet ir bando automatiškai nustatyti, ar jis yra nepilnametis, paauglys ar suaugęs, kad galėtų nuspręsti, kokio tipo turinys yra tinkamas kiekvienu atveju.

Įmonė jau atlieka bandymus tam tikrose šalyse ir rinkoseanalizuojant, kiek tiksliai sistema atpažįsta paauglius, nepainiodama jų su suaugusiaisiais. Šis klausimas yra ypač jautrus: Klaidingai teigiamas rezultatas, leidžiantis nepilnamečiui išlaikyti egzaminą, gali sukelti teisinių ir reputacijos problemų.Tuo tarpu klaidingai neigiamas rezultatas, kuris sistemingai blokuoja vyresnio amžiaus vartotojus, pakenktų patirčiai ir pasitikėjimui produktu.

Tuo pačiu metu „OpenAI“ stengiasi laikytis vis griežtesnių reguliavimo aplinkos reikalavimų tiek Jungtinės Valstijos, kaip ir Europojekur kuriami įstatymai, reikalaujantys stiprinti amžiaus tikrinimo mechanizmus ir stebėti jautrų turinį. Todėl suaugusiųjų režimas nėra suprantamas kaip paprasta papildoma funkcija, o kaip elementas, kuris turės tilpti į sudėtingą reguliavimo dėlionę.

Ką tiksliai siekia pasiūlyti suaugusiųjų režimas?

Aplink sukasi viena didžiausių abejonių kokio tipo turinį „ChatGPT“ iš tikrųjų leis? kai taps prieinamas suaugusiųjų režimas. Anksčiau „OpenAI“ taikė labai griežtą politiką, kuri draudė beveik bet kokias erotines nuorodas, net ir aiškiai informaciniuose, literatūriniuose ar suaugusiųjų sutikimu pagrįstuose kontekstuose. Įdiegusi naująjį režimą, bendrovė yra pasirengusi sušvelninti kai kurias iš šių taisyklių, nors dar nenurodė šio sušvelninimo masto.

Bendra Simo ir Altmano idėja yra ta, kad patvirtinti suaugusieji galės pasiekti asmeniškesni, jausmingesni, romantiškesni ir net erotiškesni pokalbiai...su mažiau saldžiais kalbos kiekiais, kai to reikalauja kontekstas ir vartotojo prašymas. Pavyzdžiui, tai apimtų išgalvotas scenas iš meilės romanų arba tiesmukus paaiškinimus apie seksualumą, asistentui iš karto nesustingstant.

Bendrovė tvirtina, kad tikslas nėra paversti pokalbių robotą taisyklių neturinčia platforma, o pakeisti požiūrį, kurį daugelis vartotojų apibūdino kaip „aseptinį“. Altmanas pakartojo žinutę: „Elkitės su suaugusiais vartotojais kaip su suaugusiaisiais“suteikiant didesnę kūrybinę laisvę ir saviraišką, tačiau taikant sustiprintą saugumo sistemą, siekiant užkirsti kelią nepilnamečių piktnaudžiavimui ar neteisėtai prieigai.

Vis tiek Dar reikia nuspręsti, kokia medžiaga bus laikoma leidžiama erotine medžiaga, o kokia ir toliau bus draudžiama. nes tai laikoma žalingu, neteisėtu arba prieštaraujančiu vidaus politikai. Ta riba bus esminė.Tai skirta kasdieniam naudojimui, taip pat turinio autoriams, scenaristams ar kūrėjams, kurie stengėsi dirbti su atviresnėmis scenomis nesusidurdami su nuolatiniais blokais.

Pagrindinis elementas: dirbtinis intelektas, kuris bando atspėti jūsų amžių

Kad būtų galima atskirti vaikystės, jaunystės ir suaugusiųjų patirtis, „OpenAI“ kuria amžiaus patvirtinimo ir numatymo sistema pagrįstas dirbtiniu intelektu. Tikslas – atsisakyti tradicinių metodų, tokių kaip paprastas naudotojo deklaravimas ar veido atpažinimas, kurie kelia privatumo, patikimumo ir socialinio pripažinimo klausimų, ypač Europoje.

Vietoj to, bendrovė testuoja modelį, kuris analizuoja jų saviraiškos būdas, keliamos temos ir sąveikos modeliai su pokalbių robotu. Remdamasi šia informacija, sistema apskaičiuoja, ar tai greičiausiai nepilnametis, paauglys ar suaugęs asmuo, ir, atsižvelgdama į šį rezultatą, aktyvuoja vieną ar kitą turinio politiką.

Šis metodas turi aiškių pranašumų patogumo požiūriu, nes nereikalauja, kad vartotojas siųstų dokumentus ar vaizdus, ​​tačiau jis taip pat apima techninės ir teisinės rizikosDėl klaidos nepilnametis gali pasiekti suaugusiems skirtą turinį arba suaugęs asmuo gali būti sistemingai priskirdamas jį „vaikams pritaikytai“ patirčiai, dėl to gali būti pateikti skundai, prarastas pasitikėjimas ir galimos reguliavimo sankcijos.

Pats „OpenAI“ tai pripažįsta renkasi pernelyg atsargų elgesįKai sistema negali aiškiai nustatyti naudotojo amžiaus, numatytoji patirtis bus saugi aplinka jaunesniems nei 18 metų naudotojams, taikant tuos pačius griežtus apribojimus kaip ir anksčiau. Suaugusiųjų režimas ir su juo susijusios funkcijos bus įjungti tik tada, kai sistema bus pagrįstai įsitikinusi, kad naudotojas yra suaugęs.

Europoje tokio tipo sprendimas turės egzistuoti kartu su reguliavimo sistemomis, tokiomis kaip Skaitmeninių paslaugų reglamentas (DSR) ir vaikų apsaugos bei privatumo reglamentus, kurie reikalauja skaidrumo, kaip priimami automatizuoti sprendimai ir kokie duomenys naudojami tokioms jautrioms savybėms kaip amžius nustatyti.

Psichologinė rizika ir emociniai ryšiai su pokalbių robotu

Be techninio aspekto, vienas iš daugiausiai diskusijų sukeliančių klausimų yra poveikis, kurį laisvesnis pokalbių robotas gali turėti vartotojų psichinė sveikata ir emociniai ryšiaiNaujausi tyrimai, paskelbti tokiuose žurnaluose kaip Socialinių ir asmeninių santykių leidinys Jie rodo, kad suaugusieji, kurie užmezga stiprius emocinius ryšius su virtualiais asistentais, dažniau patiria didesnį psichologinį stresą.

Lygiagretūs tyrimai rodo, kad žmonės su mažiau tiesioginių socialinių sąveikų Jie linkę labiau pasikliauti pokalbių robotais, norėdami pabendrauti, patarti ar gauti emocinį patvirtinimą.Šiame kontekste suaugusiųjų režimas, leidžiantis intymius pokalbius, flirtavimą ar erotinį turinį, galėtų pagilinti šią priklausomybę, ypač jei sistema priima labai empatišką ir prisitaikančią asmenybę.

„OpenAI“ šios problemos nėra svetimos. Bendrovė pripažino, kad kai kurie vartotojai pasiekia ugdyti emocinį prisirišimą prie „ChatGPT“iki tokio lygio, kad pokalbių robotas tampa pagrindine jų nusivylimo išraiškos priemone. Reaguodama į tai, bendrovė įgyvendino vidines iniciatyvas ir kreipėsi į skaitmeninės gerovės ekspertus patarimų, kad šie padėtų kurti savo modelius, siekiant saugesnio bendravimo, siekiant užkirsti kelią pokalbių roboto pateikimui kaip profesionalios pagalbos ar tikrų žmogiškų santykių pakaitalo.

Šiame kontekste atsivėrimas suaugusiųjų požiūriui kelia akivaizdžią įtampą: viena vertus, siekiama gerbti suaugusiųjų autonomiją nuspręsti, kaip jie nori bendrauti su dirbtiniu intelektu; kita vertus, pripažįstama, kad ši technologija vis dar yra gana nauja ir kad jos ilgalaikis poveikis kolektyvinei psichologijai vis dar mažai žinomas.

Balansas tarp laisvės siūlymo ir venkite priklausomybės ar emocinės žalos dinamikos Tai bus vienas iš aspektų, kurį akyliausiai stebės reguliuotojai, psichologai ir vartotojų teisių gynimo organizacijos, ypač Europos Sąjungos šalyse, kuriose šios diskusijos vyksta jau daugelį metų.

Reguliavimo spaudimas ir palyginimas su kitais sektoriaus dalyviais

Suaugusiųjų režimas buvo paskelbtas tuo metu, kai didžiosios technologijų įmonės yra... reguliavimo institucijų ir visuomenės dėmesio centre dėl to, kaip jų sistemos sąveikauja su nepilnamečiais. Tokie atvejai kaip „Meta“ asistentų, kurie tariamai vedė seksualiai atvirus pokalbius su paaugliais vartotojais, parodė, kad tradiciniai amžiaus patvirtinimo mechanizmai yra nepakankami, kaip rodo atvejai Žaislai ir pokalbių robotai atidžiai stebimi.

„OpenAI“, kuri jau susiduria su ieškiniais ir tikrinimu dėl savo produktų poveikio, Jis bando save pavaizduoti kaip gana apdairų aktorių palyginti su kai kuriais konkurentais. Nors bendrovė atideda suaugusiųjų režimo įdiegimą, kol turės patikimesnę patvirtinimo sistemą, kitos pokalbių dirbtinio intelekto paslaugos žengė į priekį mažiau ribojančiais keliais.

Įrankiai kaip Grokas iš xAIarba virtualių personažų platformos, tokios kaip „Character.AI“, eksperimentavo su romantiška sąveika ir virtualūs „waifus“ Šios sistemos flirtuoja su vartotoju, paversdamos rizikingą turinį pagrindiniu rinkodaros kabliuku. Taip pat yra atvirojo kodo modelių, kurie gali veikti lokaliai, be įmonės priežiūros, todėl galima kurti turinį suaugusiesiems praktiškai be jokių filtrų.

Lygiagrečiai išryškėjo atvejų, kai didelės platformų sistemos, pvz., kai kurios Meta modeliaiJos turėjo seksualiai atvirų pokalbių su nepilnamečiais, kurstydamos diskusijas apie tai, ar šios bendrovės daro pakankamai, kad apsaugotų jaunus vartotojus, ar, priešingai, jos pernelyg skuba kurti potencialiai pavojingas funkcijas.

„OpenAI“ veikia toje tarpinėje teritorijoje: ji nori konkuruoti dėl funkcijų ir laisvės su kitais sektoriaus dalyviais, tačiau tuo pačiu metu reikia parodyti reguliavimo institucijoms ir visuomenei, kad jos požiūris teikia pirmenybę saugumui. Suaugusiųjų režimo sėkmė ar nesėkmė bus vertinama tiek pagal naudotojų pasitenkinimą, tiek pagal tai, ar nėra rimtų skandalų, susijusių su jo naudojimu.

Ko gali tikėtis vartotojai, kai suaugusiųjų režimas pasirodys Ispanijoje ir Europoje?

Kai „ChatGPT“ suaugusiųjų režimas pradės veikti visu pajėgumu, diegimas skirtinguose regionuose bus laipsniškas, o tai ypač jautru. Ispanija ir likusi Europos Sąjungakur privatumo, vaikų apsaugos ir algoritminio skaidrumo taisyklės yra griežtesnės nei kitose rinkose.

Tikimasi, kad norint įjungti suaugusiųjų režimą, vartotojai turės atlikti šiuos veiksmus: patvirtinimo procesas kuris sujungia automatinį amžiaus numatymą su tam tikrais papildomais patvirtinimo veiksmais. Priklausomai nuo vietos reguliavimo reikalavimų, gali būti įdiegta tam tikra dokumentų patvirtinimo forma arba patvirtinimas per patikimas trečiąsias šalis, nors „OpenAI“ dar nepateikė konkrečios informacijos apie Europos rinką.

Suaktyvinus suaugęs vartotojas turėtų pastebėti mažiau cenzūruotų atsakymų seksualumo, santykių, meilės ir erotinės literatūros temomisvisada laikantis įstatymų ir įmonės vidaus politikos nustatytų ribų. Tikėtina, kad bus įdiegti matomi įspėjimai apie generuojamo turinio tipą, taip pat bus numatytos parinktys bet kuriuo metu išjungti šį režimą.

Tuo tarpu nepilnamečiai, naudojantys „ChatGPT“ Ispanijoje ir Europoje, susidurs su labiau ribota ir prižiūrima patirtisautomatiškai blokuojant seksualinio pobūdžio turinį ir kitą žalinga laikomą medžiagą. Kraštutiniais atvejais sistema galėtų aktyvuoti įspėjimo protokolus arba palengvinti teisėsaugos įsikišimą, jei aptiktų rimtą pavojų vartotojo saugumui.

Įmonė susiduria su iššūkiu aiškiai paaiškinti kaip jūsų amžiaus prognozavimo sistema priima sprendimusKokie duomenys renkami, kiek laiko jie saugomi ir kaip vartotojai gali pateikti apeliacijas arba ištaisyti klaidas. Šis skaidrumas bus labai svarbus siekiant įgyti tiek reguliavimo institucijų, tiek piliečių pasitikėjimą, ypač tais atvejais, kai privatumas yra labai jautrus.

Tačiau „ChatGPT“ suaugusiųjų režimas formuojasi taip: vienas iš subtiliausių pokyčių Per trumpą dirbtinio intelekto pagrindu veikiančių asistentų istoriją tikslas – patenkinti suaugusiųjų poreikį turėti daugiau laisvės ir realizmo, tuo pačiu metu bandant apsaugoti nepilnamečius pasitelkiant sudėtingą ir vis dar išbandytą patvirtinimo sistemą. Iki galutinio jos paleidimo diskusijos ir toliau suksis apie tą patį klausimą: kiek privatumo ir erotiškumo esame pasirengę suteikti dirbtiniam intelektui, nepamiršdami atsakomybės ir labiausiai pažeidžiamų asmenų apsaugos?

Susijęs straipsnis:

„Roblox“ sustiprina vaikams pritaikytas priemones: veido atpažinimą ir pokalbius pagal amžių

Alberto navarro

Esu technologijų entuziastas, savo „geek“ pomėgius pavertęs profesija. Daugiau nei 10 savo gyvenimo metų praleidau naudodamas pažangiausias technologijas ir iš gryno smalsumo kūriau visas programas. Dabar aš specializuojasi kompiuterinėse technologijose ir vaizdo žaidimuose. Taip yra todėl, kad daugiau nei 5 metus rašau įvairioms interneto svetainėms apie technologijas ir vaizdo žaidimus, kurdamas straipsnius, kuriuose noriu pateikti jums reikalingą informaciją visiems suprantama kalba.

Jei turite klausimų, mano žinios svyruoja nuo visko, kas susiję su Windows operacine sistema, taip pat su Android mobiliesiems telefonams. Ir aš įsipareigoju jums, aš visada pasiruošęs skirti kelias minutes ir padėti jums išspręsti visus klausimus, kurie jums gali kilti šiame interneto pasaulyje.