ChatGPT připravuje svůj režim pro dospělé: méně filtrů, větší kontrola a velká výzva s věkem.

Sektor generativní umělé inteligence se připravuje na delikátní změnu: příchod Režim pro dospělé v ChatGPT, konfigurace určená pro uvolnit některé stávající filtry a umožnit explicitnější konverzace, vždy omezeno na dospěléTato funkce, o které se dlouho spekulovalo a kterou nyní oficiálně oznámila společnost OpenAI, si klade za cíl reagovat na stížnosti těch, kteří měli pocit, že se asistent stal příliš konzervativnímzejména po nejnovějších aktualizacích modelu.

Společnost Sama Altmana potvrdila, že tento režim nebude aktivován, dokud její systém nebude schopen ověřit věk každého uživatelePouhé zaškrtnutí políčka „ano, je mi více než 18 let“ již nebude stačit: Přístup k určitému obsahu na ChatGPT bude záviset na kombinaci modelů umělé inteligence, behaviorální analýzy a posílených bezpečnostních zásad.s cílem vyloučit nezletilé a nabídnout dospělým větší manévrovací prostor.

Vydání odloženo na rok 2026 kvůli doladění ovládání

OpenAI opakovaně prohlásila, že její prioritou je vyhněte se chybám v ochraně dětíA to si vybralo svou daň na harmonogramu. Ačkoli Altman veřejně oznámil, že režim pro dospělé bude hotový do prosince, společnost datum posunula a nyní jeho vydání zařazuje do první čtvrtletí roku 2026Zpoždění je podle jeho manažerů způsobeno potřebou vylepšit systém predikce věku, který bude sloužit jako brána k novému zážitku.

Fidji Simo, vedoucí oddělení aplikací ve společnosti OpenAI, na několika tiskových konferencích vysvětlil, že se společnost v současné době nachází v první fáze testování jejich modelu odhadu věkuTento model se uživatele pouze neptá, ale pokouší se automaticky odvodit, zda se jedná o nezletilého, teenagera nebo dospělého, aby mohl rozhodněte, jaký typ obsahu je v každém případě vhodný.

Společnost již provádí testy v určité země a trhyanalýza rozsahu, do jaké systém přesně identifikuje dospívající, aniž by je zaměňoval s dospělými. Tento bod je obzvláště citlivý: Falešně pozitivní výsledek, který umožní nezletilému průchod, by mohl vést k právním problémům a problémům s reputací.Zatímco falešně negativní výsledek, který systematicky blokuje starší uživatele, by poškodil zážitek z produktu a důvěru v něj.

Zároveň se OpenAI snaží vyhovět stále náročnějšímu regulačnímu prostředí, a to jak v Spojené státy, stejně jako v Evropěkde se připravují zákony, které vyžadují posílení mechanismů ověřování věku a monitorování citlivého obsahu. Režim pro dospělé proto není koncipován jako jednoduchá doplňková funkce, ale jako prvek, který bude muset zapadat do složité regulační skládačky.

Co přesně chce režim pro dospělé nabídnout?

Jedna z velkých pochybností se točí kolem Jaký druh obsahu ChatGPT vlastně povolí? až bude k dispozici režim pro dospělé. OpenAI dříve měla velmi restriktivní pravidla, která zakazovala téměř jakékoli erotické narážky, a to i v jasně informativních, literárních nebo konsensuálních kontextech pro dospělé. S novým režimem je společnost otevřena uvolnění některých z těchto pravidel, ačkoli zatím nespecifikovala rozsah tohoto uvolnění.

Obecná myšlenka, kterou Simo a Altman sdělili, je, že ověřené dospělé osoby budou mít přístup osobnější, smyslnější, romantickější a dokonce i erotičtější rozhovory...s méně přikrášleným jazykem, pokud to kontext a požadavek uživatele dovolují. To by zahrnovalo například fiktivní scény z romantických románů nebo přímočará vysvětlení sexuality, aniž by asistent okamžitě ztuhl.

Společnost trvá na tom, že cílem není proměnit chatbota v platformu bez pravidel, ale spíše zvrátit přístup, který mnoho uživatelů popsalo jako „aseptický“. Altman opakovaně zopakoval toto sdělení: „Zacházejte s dospělými uživateli jako s dospělými“umožňuje větší tvůrčí svobodu a vyjádření, ale za posíleného bezpečnostního rámce, který zabraňuje zneužívání nebo neoprávněnému přístupu nezletilých osob.

Stále Zbývá určit, jaký materiál bude považován za povolený erotický materiál a jaký bude i nadále zakázaný. protože je to považováno za škodlivé, nezákonné nebo v rozporu s interními zásadami. Ten limit bude klíčový.Toto je určeno pro každodenní použití i pro autory obsahu, scenáristy nebo tvůrce, kteří se snaží pracovat s explicitnějšími scénami, aniž by se museli neustále potýkat s bloky.

Klíčový prvek: umělá inteligence, která se snaží odhadnout váš věk

Aby bylo možné toto oddělení mezi dětstvím, mládím a dospělými zkušenostmi, OpenAI vyvíjí systém ověřování a predikce věku založené na umělé inteligenci. Cílem je odklonit se od tradičních metod, jako je jednoduché prohlášení uživatele nebo rozpoznávání obličeje, které vyvolávají otázky týkající se soukromí, spolehlivosti a společenské akceptace, zejména v Evropě.

Místo toho společnost testuje model, který analyzuje způsob, jakým se vyjadřují, témata, která nastolují, a jejich vzorce interakce s chatbotem. Na základě těchto informací systém vypočítá, zda se pravděpodobně jedná o nezletilou osobu, teenagera nebo dospělou osobu, a v závislosti na tomto výsledku aktivuje jednu nebo druhou obsahovou politiku.

Tento přístup má jasné výhody z hlediska pohodlí, protože nevyžaduje, aby uživatel odesílal dokumenty nebo obrázky, ale také s sebou nese technická a právní rizikaChyba by mohla vést k tomu, že nezletilá osoba získá přístup k obsahu pro dospělé, nebo že dospělá osoba bude systematicky zařazena do kategorie „vhodné pro děti“, což by vedlo ke stížnostem, ztrátě důvěry a potenciálně i k regulačním sankcím.

Samotná OpenAI to přiznává raději se přiklání k přehnané opatrnostiPokud systém nedokáže jasně určit věk uživatele, bude výchozím nastavením bezpečné prostředí pro uživatele mladší 18 let se stejnými přísnými omezeními jako dříve. Režim pro dospělé a s ním spojené funkce se aktivují pouze tehdy, když si bude systém dostatečně jistý, že je uživatel dospělý.

V Evropě bude muset tento typ řešení koexistovat s regulačními rámci, jako je Regulace digitálních služeb (DSA) a předpisy o ochraně dětí a soukromí, které vyžadují transparentnost ohledně toho, jak se přijímají automatizovaná rozhodnutí a jaké údaje se používají k odvození tak citlivých charakteristik, jako je věk.

Psychologická rizika a emocionální vazby s chatbotem

Kromě technického rozměru je jedním z bodů, které vyvolávají nejvíce debat, dopad, který může mít tolerantnější chatbot na duševní zdraví a emocionální vazby uživatelůNedávné studie publikované v časopisech, jako např. Journal sociálních a osobních vztazích Naznačují, že dospělí, kteří si s virtuálními asistenty vytvářejí silné emocionální vazby, s větší pravděpodobností zažívají vyšší úroveň psychické tísně.

Paralelní výzkum naznačuje, že lidé s méně osobních sociálních interakcí Mají tendenci se více spoléhat na chatboty pro společnost, rady nebo emocionální potvrzení.V tomto kontextu by režim pro dospělé, který umožňuje intimní konverzace, flirtování nebo erotický obsah, mohl tuto závislost prohloubit, zejména pokud systém přijme velmi empatickou a přizpůsobivou osobnost.

Společnost OpenAI se těmto obavám plně věnuje. Společnost uznala, že někteří uživatelé dosahují rozvíjet emocionální vazbu k ChatGPTdo té míry, že ho používají jako primární ventil frustrace. V reakci na to společnost zavedla interní iniciativy a vyhledala rady od odborníků na digitální pohodu, aby nasměrovali návrh svých modelů směrem k bezpečnějším interakcím s cílem zabránit tomu, aby byl chatbot prezentován jako náhrada za profesionální podporu nebo skutečné lidské vztahy.

V tomto kontextu představuje otevření se dospělému módu zjevné napětí: na jedné straně člověk hledá respektovat autonomii dospělých rozhodnout se, jak chtějí s umělou inteligencí interagovat; na druhou stranu se uznává, že se jedná o relativně novou technologii a že její dlouhodobé účinky na kolektivní psychologii jsou stále málo známé.

Rovnováha mezi nabídkou svobody a vyhněte se dynamice závislosti nebo emocionální újmě Toto bude jeden z aspektů, který budou regulační orgány, psychologové a organizace na ochranu spotřebitelů nejpečlivěji sledovat, zejména v zemích Evropské unie, kde tyto debaty probíhají již léta.

Regulační tlak a srovnání s ostatními aktéry v odvětví

Oznámení režimu pro dospělé přichází v době, kdy se velké technologické společnosti nacházejí v v centru pozornosti regulačních orgánů a veřejného mínění kvůli způsobu, jakým jejich systémy interagují s nezletilými. Případy, jako byl případ asistentů Meta, kteří údajně vedli sexuálně explicitní rozhovory s dospívajícími uživateli, zdůraznily, že tradiční mechanismy ověřování věku jsou nedostatečné, jak ukázaly případy Hračky a chatboti pod drobnohledem.

OpenAI, která již čelí soudním sporům a kontrole kvůli dopadu svých produktů, Snaží se vykreslit jako relativně rozvážný herec ve srovnání s některými konkurenty. Zatímco společnost odkládá svůj režim pro dospělé, dokud nebude mít robustnější ověřovací systém, jiné konverzační služby umělé inteligence se posunuly vpřed méně omezujícími cestami.

Nástroje jako Grok z xAInebo platformy virtuálních postav jako Character.AI experimentovaly s romantické interakce a virtuální „waifus“ Tyto systémy flirtují s uživatelem a z netradičního obsahu dělají hlavní marketingový tah. Existují také open-source modely, které mohou běžet lokálně, bez dohledu korporací, což umožňuje vytvářet obsah pro dospělé prakticky bez filtrů.

Souběžně se objevily případy, kdy velké platformové systémy, jako například některé Meta modelyVedli sexuálně explicitní rozhovory s nezletilými, což vyvolalo debatu o tom, zda tyto společnosti dělají dost pro ochranu mladých uživatelů, nebo zda naopak s potenciálně nebezpečnými funkcemi postupují příliš rychle.

OpenAI působí v tomto přechodném území: chce soutěžit ve vlastnostech a svobodě s ostatními hráči v tomto odvětví, ale zároveň musí regulačním orgánům a veřejnosti ukázat, že jeho přístup upřednostňuje bezpečnost. Úspěch či neúspěch režimu pro dospělé bude měřen jak spokojeností uživatelů, tak absencí vážných skandálů spojených s jeho používáním.

Co mohou uživatelé očekávat, až se režim pro dospělé objeví ve Španělsku a Evropě?

Jakmile bude režim pro dospělé v ChatGPT plně funkční, bude jeho zavádění v různých regionech postupné, což je obzvláště citlivé v... Španělsko a zbytek Evropské uniekde jsou pravidla týkající se soukromí, ochrany dětí a algoritmické transparentnosti přísnější než na jiných trzích.

Očekává se, že pro aktivaci režimu pro dospělé budou muset uživatelé projít ověřovací proces která kombinuje automatickou predikci věku s určitými dalšími kroky potvrzení. V závislosti na místních regulačních požadavcích by mohla být zavedena nějaká forma ověřování dokumentů nebo ověřování prostřednictvím důvěryhodných třetích stran, ačkoli OpenAI zatím neposkytla konkrétní podrobnosti pro evropský trh.

Po aktivaci by si dospělý uživatel měl všimnout méně cenzurované odpovědi na témata sexuality, vztahů, náklonnosti a erotické fikcevždy v mezích stanovených zákonem a interními zásadami společnosti. Pravděpodobně budou implementována viditelná varování o typu generovaného obsahu a také možnosti kdykoli tento režim deaktivovat.

Mezitím se nezletilí používající ChatGPT ve Španělsku a Evropě setkají omezenější a kontrolovaný zážiteks automatickým blokováním sexuálně explicitního obsahu a dalších materiálů považovaných za škodlivé. V extrémních případech by systém mohl aktivovat varovné protokoly nebo usnadnit zásah orgánů činných v trestním řízení, pokud zjistí vážná rizika pro bezpečnost uživatele.

Společnost čelí výzvě jasně vysvětlit Jak váš systém pro predikci věku rozhodujeJaká data se shromažďují, jak dlouho se uchovávají a jak se uživatelé mohou odvolat proti chybám nebo je opravit. Tato transparentnost bude klíčová pro získání důvěry regulačních orgánů i občanů, zejména v kontextech, kde je soukromí vysoce citlivé.

Režim pro dospělé v ChatGPT se však rýsuje do budoucna. jedna z nejcitlivějších změn V krátké historii asistentů založených na umělé inteligenci je cílem uspokojit poptávku dospělých po větší svobodě a realismu a zároveň se pokusit chránit nezletilé prostřednictvím komplexního a stále testovaného ověřovacího systému. Až do jeho konečného spuštění se debata bude točit kolem stejné otázky: kolik soukromí a erotiky jsme ochotni umělé inteligenci poskytnout, aniž bychom ztratili ze zřetele odpovědnost a ochranu nejzranitelnějších?

Související článek:

Roblox posiluje svá opatření vhodná pro děti: ověřování obličeje a chaty podle věku

Alberto navarro

Jsem technologický nadšenec, který ze svých „geekovských“ zájmů udělal profesi. Strávil jsem více než 10 let svého života používáním nejmodernějších technologií a vrtáním se všemi druhy programů z čisté zvědavosti. Nyní se specializuji na počítačovou techniku ​​a videohry. Je to proto, že již více než 5 let píšu pro různé webové stránky o technologiích a videohrách a tvořím články, které se vám snaží poskytnout informace, které potřebujete, v jazyce, který je srozumitelný všem.

Pokud máte nějaké dotazy, mé znalosti sahají od všeho, co se týká operačního systému Windows a také Androidu pro mobilní telefony. A můj závazek je vůči vám, jsem vždy ochoten strávit pár minut a pomoci vám vyřešit jakékoli otázky, které můžete mít v tomto internetovém světě.