- Пов’язування сімейних облікових записів для моніторингу використання ChatGPT підлітками.
- Можливість відключення пам'яті та історії, а також керування функціями за віком.
- Автоматичні сповіщення про індикатори «гострого лиха» та кнопку екстреного виклику.
- Розгортання починається наступного місяця, а також план на 120 днів з моделями міркування.
OpenAI оголосила про появу Батьківський контроль у ChatGPT призначена для сімей з підлітками, нова функція, за допомогою якої компанія прагне посилити безпеку та запропонувати сім'ям більше інструментів моніторингу не відмовляючись від корисності чат-бота.
Рішення ухвалено після зростаючого соціального та регуляторного тиску, зокрема Сімейний позов Адама Рейна у Каліфорнії, де компанію звинувачують у провалах у сфері психічного здоров'я. OpenAI очікує, що буде автоматичні попередження про ознаки «гострого лиха» та набір функцій для керування досвідом неповнолітніх.
Що змінюється в ChatGPT для сімей?
Завдяки новим опціям батьки зможуть прив’яжіть свій обліковий запис до облікових записів ваших дітей через запрошення електронною поштою, перегляньте реакцію системи та скоригуйте поведінку моделі за допомогою правил, розроблених для раннього віку.
Серед елементів керування буде можливість вимкнути пам'ять та історію чатів, а також обмеження функцій відповідно до рівня зрілості неповнолітнього. OpenAI також розглядає нагадування під час тривалих сесій заохочувати здорові перерви.
Крім того, пакет включатиме аварійна кнопка що сприятиме контакту зі службами підтримки та фахівцями з психічного здоров'я, а також можливості блокувати вміст коли в розмові виявляються сигнали ризику.
Календар та дорожня карта безпеки
OpenAI розміщує запуск на наступний місяць і, хоча вона не встановила конкретної дати, вона просуває 120-денний план щодо посилення конкретних гарантій для дітей та підлітків як у продукті, так і у внутрішніх процесах.
Компанія вказує, що певні конфіденційні розмови перенаправить на моделі міркувань здатні більш систематично дотримуватися правил безпеки, з метою пріоритезації обережних та підтримуючих дій у разі виявлення питання ризику такі як самоушкодження або суїцидальні думки.
Справа, яка спрацювала
Ця заява з'явилася після позову від батьків Адам Рейн, 16-річний підліток який покінчив життя самогубством після кількох місяців взаємодії з чат-ботом. Згідно з поданою заявою, ChatGPT мав би нормалізовані суїцидальні думки і не рекомендується звертатися за допомогою до родини, звинувачення, які доведеться вирішувати судам.
Паралельно, OpenAI визнав, що його помічник може дати збій у «критичні ситуації» та зобов'язаний змінюватися. Компанія стверджує, що ці заходи спрямовані на зменшити ризики без офіційного посилання на рішення на позов, у якому також посилається на використання GPT-4o в розмовах.
Соціальний та політичний тиск на ШІ та неповнолітніх
У липні кілька сенаторів США звернулися до компанії пояснення щодо самоушкодження та запобігання самогубствам у відповідь на неадекватні реакції, виявлені в екстремальних ситуаціях. Зі свого боку, Common Sense Media стверджує, що під 18 років не повинні використовувати розмовні додатки на основі штучного інтелекту через їхні «неприйнятні ризики».
Крок OpenAI відповідає галузевій тенденції, в якій такі платформи, як Мета або YouTube наполягали на контролі для сімей. Основна дискусія обертається навколо того, як збалансувати інновації, гарантія та гарантії для молодих користувачів.
Що відбувається всередині ChatGPT, коли є сигнали ризику
OpenAI прагне динамічної маршрутизації, яка веде складні розмови до більш рефлексивних моделей із суворішими правилами безпеки. Мета полягає в тому, щоб зменшити упередженість самовдоволення, підвищити поріг обачності та пріоритезація відповідей служби підтримки від потенційно шкідливих взаємодій.
Щоб закріпити цей підхід, фірма створила Рада експертів з питань добробуту та штучного інтелекту та Глобальна мережа лікарів. За даними компанії, понад 250 лікарів у 60 країнах і вже включено понад 90 робіт щодо поведінки моделі контексти психічного здоров'я.
Що можуть зробити батьки, крок за кроком
Сім'ї знайдуть простий порядок дій: запросити неповнолітнього поштою, підтвердити зв'язок облікових записів та визначити, які функції активовані, а які ні в профілі підлітка, приділяючи особливу увагу пам'яті, історії та фільтри безпеки.
- Прив’яжіть обліковий запис дорослого до облікового запису неповнолітнього за допомогою запрошення.
- Встановіть обмеження: пам'ять, історія та функції, дозволені за віком.
- Активуйте сповіщення про «гостру біду» та доступ до кнопки екстреного виклику.
- Періодично перевіряйте, як реагує система, та налаштовуйте налаштування.
OpenAI заявляє, що продовжуватиме вдосконалювати ці інструменти, але ще не детально розповіла про всі деталі. параметри конфіденційності та видимість. Компанія нагадує, що батьківський контроль є підтримкою та не замінює професійна увага ані постійної підтримки сім'ї.
За допомогою цього пакету OpenAI намагається посилити безпеку ChatGPT у підлітковому середовищі шляхом сімейні облікові записи, ліміти та сповіщення, поетапне впровадження та зовнішні клінічні консультації; кроки, спрямовані на обмеження ризиків, не втрачаючи з поля зору того факту, що нагляд дорослих та професійне судження залишаються основні частини.
Я ентузіаст технологій, який перетворив свої "гікові" інтереси на професію. Я провів понад 10 років свого життя, користуючись передовими технологіями та возячись із усіма видами програм із чистої цікавості. Зараз я спеціалізуюся на комп’ютерних технологіях та відеоіграх. Це тому, що більше 5 років я писав для різних веб-сайтів про технології та відеоігри, створюючи статті, які прагнуть надати вам необхідну інформацію мовою, зрозумілою для всіх.
Якщо у вас є запитання, я знаю все, що стосується операційної системи Windows, а також Android для мобільних телефонів. І я зобов’язаний перед вами, я завжди готовий витратити кілька хвилин і допомогти вам вирішити будь-які запитання, які можуть виникнути в цьому світі Інтернету.