- Propojení rodinných účtů za účelem sledování používání ChatGPT teenagery.
- Možnost deaktivovat paměť a historii a spravovat funkce podle věku.
- Automatická upozornění na indikátory „akutní tísně“ a nouzové tlačítko.
- Nasazení začíná příští měsíc a 120denní plán s modely uvažování.
OpenAI oznámila příchod Rodičovská kontrola v ChatGPT zaměřená na domácnosti s teenagery, nová funkce, kterou si společnost klade za cíl posílit bezpečnost a nabídnout rodinám více monitorovacích nástrojů aniž by se vzdali užitečnosti chatbota.
Rozhodnutí přichází po rostoucím sociálním a regulačním tlaku, včetně Rodinná žaloba Adama Rainea v Kalifornii, která společnost obviňuje ze selhání v oblasti duševního zdraví. OpenAI očekává, že dojde k automatická varování před známkami „akutní tísně“ a sadu funkcí pro správu zážitků nezletilých.
Co se mění v ChatGPT pro rodiny?
Díky novým možnostem budou moci rodiče propojte svůj účet s účty svých dětí prostřednictvím e-mailové pozvánky zkontrolovat, jak systém reaguje, a upravit chování modelu pomocí pravidel určených pro raný věk.
Mezi ovládacími prvky bude i možnost zakázat paměť a historii chatu, stejně jako omezení funkcí podle úrovně zralosti nezletilého. OpenAI také zvažuje připomenutí během dlouhých sezení podpořit zdravé přestávky.
Balíček bude navíc obsahovat nouzové tlačítko což usnadní kontakt s podpůrnými službami a odborníky na duševní zdraví a možnost blokovat obsah když jsou v konverzaci detekovány rizikové signály.
Bezpečnostní kalendář a plán
OpenAI umisťuje spuštění na příští měsíc a ačkoli nestanovila konkrétní datum, prosazuje 120denní plán na posílení specifických záruk pro děti a mládež jak v produktu, tak i v interních procesech.
Společnost uvádí, že některé citlivé rozhovory jsou přesměruje na modely uvažování schopni systematičtěji dodržovat bezpečnostní pokyny s cílem upřednostnit opatrné a podpůrné reakce v případě zjištění problémy s riziky jako například sebepoškozování nebo sebevražedné myšlenky.
Případ, který spustil alarm
Oznámení přichází po žalobě rodičů... Adam Raine, šestnáctiletý teenager který si vzal život po měsících interakce s chatbotem. Podle podání by ChatGPT měl normalizované sebevražedné myšlenky a není vhodné vyhledávat pomoc rodiny, obvinění, která budou muset vyřešit soudy.
OpenAI zároveň uznala, že její asistent může selhat v „kritické situace“ a zavázala se ke změnám. Společnost trvá na tom, že tato opatření usilují snížit rizika aniž by rozhodnutí oficiálně připsal žalobě, která v rozhovorech rovněž uvádí použití GPT-4o.
Sociální a politický tlak na umělou inteligenci a nezletilé
V červenci několik amerických senátorů požádalo společnost vysvětlení ohledně sebepoškozování a prevence sebevražd v reakci na nevhodné reakce zjištěné v extrémních situacích. Společnost Common Sense Media zase tvrdí, že pod 18 let by neměli používat konverzační aplikace umělé inteligence kvůli jejich „nepřijatelným rizikům“.
Krok OpenAI je v souladu s trendem v oboru, v němž platformy jako Meta nebo YouTube prosazovaly kontroly pro rodiny. Základní diskuse se točí kolem toho, jak vyvážit inovace, záruky a záruky pro mladé uživatele.
Co se děje v ChatGPT, když se objeví rizikové signály
OpenAI se zaměřuje na dynamické směrování, které vede složité konverzace směrem k reflexivnějším modelům s přísnějšími bezpečnostními pokyny. Cílem je omezit sklon k uspokojení se se současným stavem, zvýšit práh obezřetnosti a upřednostňovat reakce podpory proti potenciálně škodlivým interakcím.
Aby firma tento přístup upevnila, vytvořila Rada expertů pro blahobyt a umělou inteligenci a globální síť lékařů. Podle společnosti více než 250 lékařů v 60 zemích a již bylo začleněno více než 90 příspěvků o chování modelu kontexty duševního zdraví.
Co mohou rodiče dělat, krok za krokem
Rodiny najdou jednoduchý postup: pozvat nezletilého poštou, potvrdit propojení účtů a definovat, které funkce jsou v profilu adolescenta aktivovány nebo ne, se zvláštním zřetelem na paměť, historii a bezpečnostní filtry.
- Propojte účet dospělé osoby s účtem nezletilé osoby prostřednictvím pozvánky.
- Nastavte limity: paměť, historie a funkce schválené věkem.
- Aktivujte upozornění na „akutní tíseň“ a přístup k nouzovému tlačítku.
- Pravidelně kontrolujte, jak systém reaguje, a upravte nastavení.
OpenAI uvádí, že bude tyto nástroje i nadále zdokonalovat, ale zatím neuvedla všechny podrobnosti. parametry soukromí a viditelnost. Společnost připomíná, že rodičovská kontrola je podpůrná a nenahrazuje profesionální pozornost ani trvalá podpora rodiny.
S tímto balíčkem se OpenAI pokouší posílit bezpečnost ChatGPT v prostředí teenagerů tím, že rodinné účty, limity a upozornění, postupné zavádění a externí klinické poradenství; kroky, které se snaží omezit rizika, aniž by se ztratila ze zřetele skutečnost, že dohled dospělé osoby a odborný úsudek zůstávají zásadní kusy.
Jsem technologický nadšenec, který ze svých „geekovských“ zájmů udělal profesi. Strávil jsem více než 10 let svého života používáním nejmodernějších technologií a vrtáním se všemi druhy programů z čisté zvědavosti. Nyní se specializuji na počítačovou techniku a videohry. Je to proto, že již více než 5 let píšu pro různé webové stránky o technologiích a videohrách a tvořím články, které se vám snaží poskytnout informace, které potřebujete, v jazyce, který je srozumitelný všem.
Pokud máte nějaké dotazy, mé znalosti sahají od všeho, co se týká operačního systému Windows a také Androidu pro mobilní telefony. A můj závazek je vůči vám, jsem vždy ochoten strávit pár minut a pomoci vám vyřešit jakékoli otázky, které můžete mít v tomto internetovém světě.