- Повезивање породичних налога ради праћења коришћења ChatGPT-а од стране тинејџера.
- Могућност онемогућавања памћења и историје и управљање функцијама према узрасту.
- Аутоматска упозорења за индикаторе „акутне невоље“ и дугме за хитне случајеве.
- Распоређивање почиње следећег месеца и план од 120 дана са моделима резоновања.
OpenAI је најавио долазак Родитељски надзор у ChatGPT-у намењена домовима са тинејџерима, нова функција којом компанија жели да појача безбедност и понуди породицама више алата за праћење без одустајања од корисности четбота.
Одлука долази након растућег друштвеног и регулаторног притиска, укључујући Породична тужба Адама Рејна у Калифорнији, која оптужује компанију за пропусте у контекстима менталног здравља. OpenAI очекује да ће бити аутоматска упозорења за знаке „акутне невоље“ и скуп функција за управљање искуством малолетника.
Шта се мења у ChatGPT-у за породице?
Са новим опцијама, родитељи ће моћи да повежите свој налог са налозима ваше деце путем позивнице путем е-поште, прегледајте како систем реагује и прилагодите понашање модела правилима дизајнираним за рани узраст.
Међу контролама ће бити могућност да онемогућите меморију и историју ћаскања, као и ограничавање функција према нивоу зрелости малолетника. OpenAI такође разматра подсетници током дугих сесија да подстакну здраве паузе.
Поред тога, пакет ће садржати и дугме за случај нужде што ће олакшати контакт са службама подршке и стручњацима за ментално здравље, као и могућност блокирати садржај када се у разговору открију сигнали ризика.
Календар и план рада за безбедност
OpenAI поставља лансирање за следећи месец и, иако није одредила тачан датум, унапређује план од 120 дана за јачање специфичних заштитних мера за деца и адолесценти како у производу тако и у интерним процесима.
Компанија наводи да се воде одређени осетљиви разговори преусмериће на моделе резоновања моћи систематичније да прате безбедносне смернице, са циљем давања приоритета опрезним и подржавајућим реакцијама када се открију проблеми са ризиком као што су самоповређивање или суицидалне мисли.
Случај који је активирао аларме
Ова објава долази након тужбе родитеља Адам Рејн, шеснаестогодишњи тинејџер који је себи одузео живот након вишемесечне интеракције са четботом. Према поднеску, ChatGPT би имао нормализоване суицидалне мисли и није препоручљиво тражити помоћ породице, оптужбе које ће судови морати да реше.
Паралелно са тим, OpenAI је признао да би његов асистент могао да закаже у „критичне ситуације“ и посвећен променама. Компанија тврди да ове мере имају за циљ смањити ризике без званичног приписивања одлуке тужби, која такође наводи употребу GPT-4o у разговорима.
Друштвени и политички притисак на вештачку интелигенцију и малолетнике
У јулу је неколико америчких сенатора затражило од компаније објашњења о самоповређивању и превенцији самоубиства као одговор на непримерене реакције откривене у екстремним ситуацијама. Са своје стране, Common Sense Media тврди да под КСНУМКС година не би требало да користе конверзационе вештачке интелигенције због њихових „неприхватљивих ризика“.
Потез компаније OpenAI је у складу са трендом у индустрији у којем платформе попут Мета или Јутјуб су се залагали за контролу породица. Основна дискусија се врти око тога како уравнотежити иновације, гаранције и гаранције за младе кориснике.
Шта се дешава унутар ChatGPT-а када постоје сигнали ризика
OpenAI циља на динамичко рутирање које изводи сложене разговоре ка рефлективнијим моделима, са строжим безбедносним смерницама. Циљ је смањити пристрасност самозадовољства, подићи праг обазривости и давање приоритета одговорима подршке против потенцијално штетних интеракција.
Да би учврстила овај приступ, фирма је креирала Савет стручњака за благостање и вештачку интелигенцију и Глобална мрежа лекара. Према подацима компаније, више од 250 лекара у 60 земаља и више од 90 доприноса о понашању модела је већ укључено контексти менталног здравља.
Шта родитељи могу да ураде, корак по корак
Породице ће пронаћи једноставан ток: позовите малолетника поштом, потврдити повезивање налога и дефинисати које су функције активиране или не у профилу адолесцената, са посебном пажњом на памћење, историју и сигурносни филтери.
- Повежите налог одрасле особе са налогом малолетне особе путем позива.
- Поставите ограничења: меморија, историја и функције одобрене за узраст.
- Активирајте обавештења за „акутну невољу“ и приступ дугмету за хитне случајеве.
- Периодично проверавајте како систем реагује и прилагодите подешавања.
OpenAI каже да ће наставити да усавршава ове алате, али још увек није детаљно објаснио све параметри приватности и видљивост. Компанија подсећа да је родитељски надзор подршка и да не замењује стручна пажња нити континуирану породичну подршку.
Овим пакетом, OpenAI покушава да ојача безбедност ChatGPT-а у тинејџерском окружењу тако што... породични налози, ограничења и упозорења, постепено увођење и екстерни клинички савети; кораци који настоје да ограниче ризике, а да се притом не изгуби из вида чињеница да надзор одраслих и стручна процена остају битни комади.
Ја сам технолошки ентузијаста који је своја „штреберска“ интересовања претворио у професију. Провео сам више од 10 година свог живота користећи најсавременију технологију и петљајући по свим врстама програма из чисте радозналости. Сада сам се специјализовао за компјутерску технологију и видео игрице. То је зато што више од 5 година пишем за различите веб странице о технологији и видео игрицама, стварајући чланке који желе да вам дају информације које су вам потребне на језику који је свима разумљив.
Ако имате било каквих питања, моје знање се креће од свега што се тиче Виндовс оперативног система као и Андроида за мобилне телефоне. И моја посвећеност је вама, увек сам спреман да потрошим неколико минута и помогнем вам да решите сва питања која имате у овом свету интернета.