- Łączenie kont rodzinnych w celu monitorowania korzystania z ChatGPT przez nastolatków.
- Możliwość wyłączenia pamięci i historii oraz zarządzania funkcjami zależnie od wieku.
- Automatyczne alerty dotyczące wskaźników „ostrego zagrożenia” i przycisk alarmowy.
- Wdrożenie rozpocznie się w przyszłym miesiącu, a plan obejmuje 120 dni i obejmuje modele wnioskowania.
Firma OpenAI ogłosiła nadejście Kontrola rodzicielska w ChatGPT skierowana do domów z nastolatkami, nowa funkcja, dzięki której firma chce wzmocnić bezpieczeństwo i zapewnić rodzinom więcej narzędzi monitorujących bez rezygnacji z użyteczności chatbota.
Decyzja ta zapadła po rosnącej presji społecznej i regulacyjnej, w tym Pozew rodzinny Adama Raine'a w Kalifornii, która oskarża firmę o zaniedbania w kontekście zdrowia psychicznego. OpenAI przewiduje, że będzie automatyczne ostrzeżenia o oznakach „ostrego niepokoju” oraz zestaw funkcji do zarządzania doświadczeniami osób niepełnoletnich.
Co zmienia się w ChatGPT dla rodzin?
Dzięki nowym opcjom rodzice będą mogli: połącz swoje konto z kontami swoich dzieci za pomocą zaproszenia wysłanego e-mailem sprawdź, w jaki sposób system reaguje i dostosuj zachowanie modelu, korzystając z reguł opracowanych dla najmłodszych dzieci.
Wśród elementów sterujących znajdzie się możliwość wyłącz pamięć i historię czatów, a także ograniczanie funkcji w zależności od poziomu dojrzałości nieletniego. OpenAI uwzględnia również przypomnienia podczas długich sesji aby zachęcać do zdrowych przerw.
Ponadto w pakiecie znajdą się: przycisk awaryjny co ułatwi kontakt ze służbami wsparcia i specjalistami zdrowia psychicznego, a także umożliwi blokować zawartość gdy w rozmowie zostaną wykryte sygnały ryzyka.
Kalendarz i plan bezpieczeństwa
OpenAI umieszcza start na przyszły miesiąc i chociaż nie ustalono konkretnej daty, opracowano 120-dniowy plan mający na celu wzmocnienie konkretnych zabezpieczeń dzieci i młodzież zarówno w produkcie jak i w procesach wewnętrznych.
Firma wskazuje, że niektóre rozmowy o charakterze wrażliwym są przekieruje do modeli rozumowania możliwość bardziej systematycznego przestrzegania wytycznych bezpieczeństwa, mając na celu priorytetowe traktowanie ostrożnych i wspierających reakcji w przypadku wykrycia kwestie ryzyka takich jak samookaleczenie lub myśli samobójcze.
Sprawa, która wywołała alarm
Oświadczenie to pojawiło się po pozwie złożonym przez rodziców Adam Raine, 16-letni nastolatek który odebrał sobie życie po miesiącach interakcji z chatbotem. Według akt sprawy, ChatGPT miał znormalizowane myśli samobójcze i nie jest wskazane szukanie pomocy u rodziny, oskarżenia te będą musiały zostać rozstrzygnięte przez sąd.
Jednocześnie OpenAI przyznało, że jego asystent może zawieść „krytyczne sytuacje” i zaangażowana w zmiany. Firma utrzymuje, że działania te mają na celu zmniejszyć ryzyko nie przypisując oficjalnie tej decyzji pozwowi, w którym również wspomniano o wykorzystaniu GPT-4o w rozmowach.
Presja społeczna i polityczna na sztuczną inteligencję i nieletnich
W lipcu kilku senatorów USA zwróciło się do firmy z prośbą o wyjaśnienia dotyczące samookaleczenia i zapobiegania samobójstwom w odpowiedzi na niewłaściwe reakcje wykryte w sytuacjach ekstremalnych. Common Sense Media ze swojej strony argumentuje, że pod 18 lat nie powinni korzystać z aplikacji opartych na sztucznej inteligencji konwersacyjnej ze względu na ich „niedopuszczalne ryzyko”.
Działanie OpenAI wpisuje się w trend branżowy, w którym platformy takie jak Meta lub YouTube Naciskali na wprowadzenie kontroli dla rodzin. Podstawowa dyskusja koncentruje się na tym, jak zrównoważyć innowacje, gwarancje i gwarancje dla młodych użytkowników.
Co dzieje się w ChatGPT w przypadku pojawienia się sygnałów ryzyka
OpenAI ma na celu dynamiczne trasowanie, które prowadzi złożone konwersacje w kierunku modeli bardziej refleksyjnych, z bardziej rygorystycznymi wytycznymi bezpieczeństwa. Celem jest ograniczenie samozadowolenia, podniesienie progu ostrożności i nadaj priorytet odpowiedziom wsparcia przed potencjalnie szkodliwymi interakcjami.
Aby utrwalić to podejście, firma stworzyła Rada Ekspertów ds. Dobrostanu i AI i globalną sieć lekarzy. Według firmy, ponad 250 lekarzy w 60 krajach i uwzględniono już ponad 90 wkładów dotyczących zachowania modelu konteksty zdrowia psychicznego.
Co mogą zrobić rodzice, krok po kroku
Rodziny znajdą prosty sposób: zaprosić nieletniego pocztą, potwierdź powiązanie kont i zdefiniuj, które funkcje są aktywowane lub nie w profilu nastolatka, ze szczególnym uwzględnieniem pamięci, historii i filtry bezpieczeństwa.
- Połącz konto osoby dorosłej z kontem osoby niepełnoletniej poprzez zaproszenie.
- Ustaw ograniczenia: pamięć, historię i funkcje dozwolone ze względu na wiek.
- Aktywuj powiadomienia o „ostrym niebezpieczeństwie” i dostęp do przycisku alarmowego.
- Okresowo sprawdzaj reakcję systemu i dostosuj ustawienia.
Firma OpenAI twierdzi, że będzie nadal udoskonalać te narzędzia, ale nie podała jeszcze wszystkich szczegółów parametry prywatności i widoczność. Firma przypomina, że kontrola rodzicielska jest wsparciem, a nie zamiennikiem profesjonalna uwaga ani dalszego wsparcia rodziny.
Dzięki temu pakietowi OpenAI próbuje wzmocnić bezpieczeństwo ChatGPT w środowisku nastolatków poprzez konta rodzinne, limity i alertyetapowe wdrażanie i zewnętrzne doradztwo kliniczne; kroki mające na celu ograniczenie ryzyka bez tracenia z oczu faktu, że nadzór osoby dorosłej i profesjonalna ocena pozostają niezbędne elementy.
Jestem entuzjastą technologii, który swoje „geekowskie” zainteresowania przekształcił w zawód. Spędziłem ponad 10 lat mojego życia, korzystając z najnowocześniejszych technologii i majsterkując przy wszelkiego rodzaju programach z czystej ciekawości. Teraz specjalizuję się w technologii komputerowej i grach wideo. Dzieje się tak dlatego, że od ponad 5 lat piszę dla różnych serwisów poświęconych technologii i grom wideo, tworząc artykuły, których celem jest dostarczenie potrzebnych informacji w języku zrozumiałym dla każdego.
Jeśli masz jakieś pytania, moja wiedza obejmuje wszystko, co jest związane z systemem operacyjnym Windows, a także Androidem dla telefonów komórkowych. Moje zaangażowanie jest wobec Ciebie. Zawsze jestem gotowy poświęcić kilka minut i pomóc Ci rozwiązać wszelkie pytania, jakie możesz mieć w tym internetowym świecie.