- Prepojenie rodinných účtov na monitorovanie používania ChatGPT tínedžermi.
- Možnosť vypnúť pamäť a históriu a spravovať funkcie podľa veku.
- Automatické upozornenia na indikátory „akútnej tiesne“ a núdzové tlačidlo.
- Nasadenie začína budúci mesiac a 120-dňový plán s modelmi uvažovania.
OpenAI oznámila príchod Rodičovská kontrola v ChatGPT zameraná na domácnosti s tínedžermi, nová funkcia, ktorou sa spoločnosť snaží posilniť bezpečnosť a ponúknuť rodinám viac monitorovacích nástrojov bez toho, aby sa vzdali užitočnosti chatbota.
Rozhodnutie prichádza po rastúcom sociálnom a regulačnom tlaku vrátane Rodinná žaloba Adama Rainea v Kalifornii, ktorá spoločnosť obviňuje zo zlyhaní v oblasti duševného zdravia. OpenAI očakáva, že dôjde k automatické varovania pred príznakmi „akútnej tiesne“ a súbor funkcií na správu skúseností maloletých.
Čo sa mení v ChatGPT pre rodiny?
Vďaka novým možnostiam budú môcť rodičia prepojte svoj účet s účtami svojich detí prostredníctvom e-mailovej pozvánky skontrolujte, ako systém reaguje, a upravte správanie modelu pomocou pravidiel navrhnutých pre raný vek.
Medzi ovládacími prvkami bude možnosť vypnúť pamäť a históriu chatu, ako aj obmedzenie funkcií podľa úrovne zrelosti maloletého. OpenAI tiež zvažuje pripomienky počas dlhých sedení povzbudiť k zdravým prestávkam.
Okrem toho bude balíček obsahovať aj núdzové tlačidlo čo uľahčí kontakt s podpornými službami a odborníkmi v oblasti duševného zdravia a možnosť blokovať obsah keď sa v konverzácii zistia rizikové signály.
Bezpečnostný kalendár a plán
OpenAI uvádza štart na budúci mesiac a hoci nestanovila konkrétny dátum, presadzuje 120-dňový plán na posilnenie špecifických záruk pre deti a dospievajúci ako v produkte, tak aj vo interných procesoch.
Spoločnosť uvádza, že niektoré citlivé rozhovory sú presmeruje na modely uvažovania schopní systematickejšie dodržiavať bezpečnostné pokyny s cieľom uprednostniť opatrné a podporné reakcie pri ich zistení problémy s rizikom ako napríklad sebapoškodzovanie alebo samovražedné myšlienky.
Prípad, ktorý spustil alarm
Oznámenie prichádza po žalobe zo strany rodičov... Adam Raine, 16-ročný tínedžer ktorý si vzal život po mesiacoch interakcie s chatbotom. Podľa podania by ChatGPT mal normalizované samovražedné myšlienky a nie je vhodné vyhľadať pomoc rodiny, obvinenia, ktoré budú musieť vyriešiť súdy.
Súbežne s tým spoločnosť OpenAI uznala, že jej asistent môže zlyhať v „kritické situácie“ a zaviazala sa k zmenám. Spoločnosť tvrdí, že cieľom týchto opatrení znížiť riziká bez oficiálneho pripísania rozhodnutia žalobe, ktorá tiež uvádza použitie GPT-4o v rozhovoroch.
Sociálny a politický tlak na umelú inteligenciu a maloletých
V júli niekoľko amerických senátorov požiadalo spoločnosť vysvetlenia týkajúce sa sebapoškodzovania a prevencie samovrážd v reakcii na nevhodné reakcie zistené v extrémnych situáciách. Spoločnosť Common Sense Media zasa tvrdí, že za roky 18 by nemali používať konverzačné aplikácie umelej inteligencie kvôli ich „neprijateľným rizikám“.
Krok spoločnosti OpenAI je v súlade s trendom v tomto odvetví, v ktorom platformy ako napríklad Meta alebo YouTube presadzovali kontroly pre rodiny. Základná diskusia sa točí okolo toho, ako vyvážiť inovácie, záruka a záruky pre mladých používateľov.
Čo sa deje v ChatGPT, keď sa objavia rizikové signály
OpenAI sa zameriava na dynamické smerovanie, ktoré vedie k zložitým rozhovorom smerom k reflexívnejším modelom s prísnejšími bezpečnostnými pokynmi. Cieľom je znížiť sklon k uspokojeniu sa so súčasným stavom, zvýšiť prah obozretnosti a uprednostniť odpovede podpory proti potenciálne škodlivým interakciám.
Na upevnenie tohto prístupu spoločnosť vytvorila Rada expertov pre blahobyt a umelú inteligenciu a globálna sieť lekárov. Podľa spoločnosti viac ako 250 lekárov v 60 krajinách a už bolo zapracovaných viac ako 90 príspevkov o správaní modelu kontexty duševného zdravia.
Čo môžu rodičia urobiť, krok za krokom
Rodiny nájdu jednoduchý postup: pozvať maloletého poštou, potvrdiť prepojenie účtov a definovať, ktoré funkcie sú v profile adolescenta aktivované alebo nie, so zameraním na pamäť, históriu a bezpečnostné filtre.
- Prepojte účet dospelej osoby s účtom neplnoletej osoby prostredníctvom pozvánky.
- Nastavte limity: pamäť, história a funkcie schválené pre daný vek.
- Aktivujte upozornenia na „akútnu tieseň“ a prístup k núdzovému tlačidlu.
- Pravidelne kontrolujte, ako systém reaguje, a upravte nastavenia.
OpenAI tvrdí, že bude tieto nástroje naďalej zdokonaľovať, ale zatiaľ neposkytla všetky podrobnosti. parametre ochrany osobných údajov a viditeľnosť. Spoločnosť pripomína, že rodičovská kontrola je podpora a nenahrádza profesionálna pozornosť ani pokračujúca podpora rodiny.
Týmto balíkom sa OpenAI pokúša posilniť bezpečnosť ChatGPT v prostredí tínedžerov tým, že rodinné účty, limity a upozornenia, postupné zavádzanie a externé klinické poradenstvo; kroky, ktorých cieľom je obmedziť riziká bez toho, aby sa stratila zo zreteľa skutočnosť, že dohľad dospelej osoby a odborný úsudok zostávajú podstatné kúsky.
Som technologický nadšenec, ktorý zo svojich „geekovských“ záujmov urobil povolanie. Strávil som viac ako 10 rokov svojho života používaním špičkových technológií a hraním so všetkými druhmi programov z čistej zvedavosti. Teraz som sa špecializoval na počítačovú techniku a videohry. Je to preto, že už viac ako 5 rokov píšem pre rôzne webové stránky o technológiách a videohrách a vytváram články, ktoré sa snažia poskytnúť vám potrebné informácie v jazyku, ktorý je zrozumiteľný pre každého.
Ak máte nejaké otázky, moje znalosti siahajú od všetkého, čo súvisí s operačným systémom Windows, ako aj Androidom pre mobilné telefóny. A môj záväzok je voči vám, vždy som ochotný venovať pár minút a pomôcť vám vyriešiť akékoľvek otázky, ktoré môžete mať v tomto internetovom svete.