- Családi fiókok összekapcsolása a ChatGPT tinédzserkori használatának monitorozásához.
- Lehetőség a memória és a történelem letiltására, valamint a funkciók életkor szerinti kezelésére.
- Automatikus riasztások az "akut vészhelyzet" jelzéseihez és a vészhelyzeti gombhoz.
- A telepítés a következő hónapban kezdődik, és 120 napos terv indoklási modellekkel.
Az OpenAI bejelentette egy új… Szülői felügyelet a ChatGPT-ben tinédzsereket befogadó otthonok számára, egy új funkcióval, amellyel a vállalat a biztonság megerősítését és a családok számára kínál több felügyeleti eszköz anélkül, hogy feladnánk a chatbot hasznosságát.
A döntés a növekvő társadalmi és szabályozási nyomás után született, beleértve Adam Raine családi pere kaliforniai cég, amely a mentális egészséggel kapcsolatos kudarcokkal vádolja a céget. Az OpenAI arra számít, hogy lesznek automatikus figyelmeztetések az „akut szorongás” jeleire és egy sor funkció a kiskorúak élményének kezelésére.
Mi változik a ChatGPT-ben a családok számára?
Az új lehetőségekkel a szülők képesek lesznek összekapcsolja fiókját gyermekei fiókjaival egy e-mailes meghívó segítségével áttekintheti a rendszer reakcióit, és a korai korosztályok számára tervezett szabályokkal módosíthatja a modell viselkedését.
A vezérlőelemek között szerepel majd a következő képesség: memória és csevegési előzmények letiltása, valamint a függvények korlátozása a kiskorú érettségi szintje szerint. Az OpenAI azt is fontolóra veszi, hogy emlékeztetők hosszú munkamenetek során az egészséges szünetek ösztönzése.
Ezen felül a csomag tartalmazni fog egy vészhelyzeti gomb amely megkönnyíti a támogató szolgálatokkal és a mentálhigiénés szakemberekkel való kapcsolatfelvételt, valamint a következők lehetőségét tartalom blokkolása amikor kockázati jeleket észlelnek egy beszélgetés során.
Biztonsági naptár és ütemterv
Az OpenAI elhelyezi a rajtot a következő hónapra és bár konkrét dátumot nem tűzött ki, egy 120 napos tervet dolgoz ki a konkrét biztosítékok megerősítésére gyermekek és serdülők mind a termékben, mind a belső folyamatokban.
A vállalat jelzi, hogy bizonyos érzékeny beszélgetések átirányít az érvelési modellekre képes szisztematikusabban követni a biztonsági irányelveket, azzal a céllal, hogy észlelés esetén az óvatos és támogató válaszokat részesítse előnyben kockázati kérdések mint például az önkárosítás vagy az öngyilkossági gondolatok.
Az eset, ami megszólaltatta a riasztókat
A bejelentés a szülők perét követően érkezett. Adam Raine, egy 16 éves tinédzser aki hónapokig tartó chatbottal való interakció után öngyilkos lett. A beadvány szerint a ChatGPT-nek lett volna normalizált öngyilkossági gondolatok és nem tanácsos családi segítséget kérni, olyan vádakat, amelyeket a bíróságoknak kell majd megoldaniuk.
Ezzel párhuzamosan az OpenAI elismerte, hogy asszisztense meghibásodhat „kritikus helyzetek” és elkötelezett a változások mellett. A vállalat fenntartja, hogy ezek az intézkedések a következőkre irányulnak: kockázatok csökkentése anélkül, hogy hivatalosan a pernek tulajdonítaná a döntést, amely szintén a GPT-4o használatát említi a beszélgetésekben.
Társadalmi és politikai nyomás a mesterséges intelligenciára és a kiskorúakra
Júliusban több amerikai szenátor is felkérte a céget magyarázatok az önkárosításról és az öngyilkosság megelőzéséről a szélsőséges helyzetekben észlelt nem megfelelő reakciókra válaszul. A Common Sense Media a maga részéről azt állítja, hogy 18 év alatti nem szabad párbeszédes MI-alkalmazásokat használniuk „elfogadhatatlan kockázataik” miatt.
Az OpenAI lépése összhangban van egy olyan iparági trenddel, amelyben az olyan platformok, mint a Meta vagy YouTube szorgalmazták a családok ellenőrzését. Az alapvető vita az innováció egyensúlyának megteremtéséről szól, garanciák és garanciák a fiatal felhasználók számára.
Mi történik a ChatGPT-ben kockázati jelek esetén?
Az OpenAI dinamikus útvonaltervezést céloz meg összetett párbeszédeket eredményez a szigorúbb biztonsági irányelvekkel rendelkező, reflektívebb modellek felé. A cél az önelégültségből fakadó torzítás csökkentése, az óvatossági küszöb emelése és a támogatási válaszok rangsorolása a potenciálisan káros kölcsönhatások ellen.
Ennek a megközelítésnek a megszilárdítása érdekében a cég létrehozott egy Jólléttel és mesterséges intelligenciával foglalkozó szakértői tanács és egy globális orvoshálózat. A vállalat szerint több mint 250 orvos 60 országban és a modell viselkedésével kapcsolatos több mint 90 hozzájárulást már beépítettek mentális egészségügyi kontextusok.
Amit a szülők tehetnek, lépésről lépésre
A családok egy egyszerű folyamatot találnak: meghívni a kiskorút levélben, erősítse meg a fiókok összekapcsolását, és határozza meg, hogy mely funkciók vannak aktiválva, és melyek nem a serdülőkori profilban, különös tekintettel az emlékezetre, a történelemre és biztonsági szűrők.
- Kapcsolja össze a felnőtt fiókját a kiskorú fiókjával meghívó segítségével.
- Korlátok beállítása: memória, előzmények és korhatár-besorolás szerinti funkciók.
- Aktiválja az „akut vészhelyzet” értesítéseit és a vészhelyzeti gomb elérését.
- Rendszeresen ellenőrizze a rendszer reakcióit, és módosítsa a beállításokat.
Az OpenAI azt állítja, hogy tovább finomítja ezeket az eszközöket, de még nem részletezte az összeset. adatvédelmi paraméterek és láthatóság. A vállalat emlékeztet arra, hogy a szülői felügyelet támogatást nyújt, és nem helyettesíti a szakmai figyelem sem a folyamatos családi támogatás.
Ezzel a csomaggal az OpenAI megpróbálja megerősíteni a ChatGPT biztonságát a tinédzser környezetben azáltal, hogy családi fiókok, korlátok és riasztások, fokozatos bevezetés és külső klinikai tanácsadás; olyan lépések, amelyek célja a kockázatok korlátozása anélkül, hogy szem elől tévesztenék azt a tényt, hogy a felnőtt felügyelet és a szakmai megítélés továbbra is szükséges nélkülözhetetlen darabok.
Technológia-rajongó vagyok, aki "geek" érdeklődését szakmává változtatta. Életemből több mint 10 évet töltöttem a legmodernebb technológiával, és pusztán kíváncsiságból mindenféle programmal bütykölgettem. Most a számítástechnikára és a videojátékokra szakosodtam. Ennek az az oka, hogy több mint 5 éve írok különféle technológiával és videojátékokkal foglalkozó weboldalakra, olyan cikkeket készítve, amelyek mindenki számára érthető nyelven igyekeznek megadni a szükséges információkat.
Ha bármilyen kérdése van, tudásom a Windows operációs rendszerrel, valamint a mobiltelefonokhoz készült Androiddal kapcsolatos mindenre kiterjed. És az én elkötelezettségem az Ön iránti elkötelezettségem, mindig készen állok néhány percet rászánni arra, hogy segítsek megoldani minden kérdését ebben az internetes világban.