- OpenAI активує модель прогнозування віку в ChatGPT, щоб виявляти можливих користувачів віком до 18 років та застосовувати додаткові фільтри безпеки.
- Система аналізує поведінкові сигнали та дані облікового запису, а також дозволяє виправляти помилки за допомогою перевірки селфі та офіційного документа через Persona.
- Коли обліковий запис неповнолітньої особи ідентифіковано, доступ до конфіденційного контенту, такого як сцени насильства, рольові ігри сексуального характеру або небезпечні вірусні випробування, обмежується.
- Розгортання є глобальним і досягне Європейського Союзу найближчими тижнями, в контексті посилення регуляторного тиску та планів щодо майбутнього «режиму для дорослих».
Розгортання OpenAI розпочалося в ChatGPT, система прогнозування віку що суттєво змінює те, як чат-бот ставиться до користувачів віком до 18 роківКомпанія прагне автоматично налаштовувати досвід і заходи безпеки залежно від того, чи належить обліковий запис підлітку чи дорослому.
Рішення приймається у делікатний час, оскільки посилення регуляторного тиску на вплив штучного інтелекту на неповнолітніх та триваючі судові позови проти компанії та її генерального директора Сема Альтмана у справах, що розслідують роль асистента з ведення розмов у ситуаціях високого ризику. Водночас фірма хоче підготувати ґрунт для нових форматів контенту, не залишаючи наймолодшу аудиторію незахищеною.
Як працює модель прогнозування віку ChatGPT
Нова функція базується на модель штучного інтелекту, здатна оцінити, чи належить обліковий запис особі віком до 18 роківЦе базується на кількох сигналах, що генеруються самим сервісом. Йдеться не лише про те, що користувач заявляє під час реєстрації, а й про комбінацію показників, які дозволяють точніше визначити віковий профіль користувача.
Згідно з OpenAI, система враховує вік облікового запису, типові години активностіДані також включають моделі використання з плином часу та вік, який користувач вказав під час створення свого профілю. Завдяки цьому масштабному впровадженню компанія прагне визначити найнадійніші фактори, щоб ще більше вдосконалити модель та зменшити кількість помилок.
Цей підхід передбачає перехід від фокусу, що базується майже виключно на самостійне декларування віку, легко обійтиЦе призводить до більш автоматизованої системи, яка активує додаткові засоби захисту, коли є обґрунтовані сумніви. На практиці це додатковий рівень, що доповнює існуючі засоби батьківського контролю та сімейні налаштування.
OpenAI наполягає на тому, що жодна система прогнозування віку не є безпомилковоюКомпанія визнає, що будуть випадки, коли дорослу особу вважатимуть неповнолітньою, або, навпаки, сценарії, коли штучний інтелект не зможе вчасно виявити, що він взаємодіє з підлітком. Тому компанія пропонує додатковий механізм перевірки для виправлення цих помилок.
Що змінюється для неповнолітніх: обмеження щодо делікатного контенту
Коли модель враховує, що Обліковий запис, ймовірно, належить особі віком до 18 роківChatGPT автоматично активує більш захищений досвід. Мета полягає в тому, щоб зменшити вплив певних типів контенту, які, згідно з літературою з розвитку дитини, можуть мати більший вплив на підлітків.
У цьому контексті платформа застосовуватиме Додаткові фільтри для сцен насильства, кривавих сцен або особливо відвертих описівна додаток до обмеження участі в рольових іграх з статеві компонентиРомантичний або насильницький контент буде заборонено. Вірусні челенджі, які можуть заохочувати ризиковану або шкідливу поведінку, також будуть обмежені.
Ще одна сфера, де OpenAI хоче загальмувати, це Контент, що підкреслює високі стандарти красиНездорові дієти або наративи, що пропагують сором за своє тіло, будуть розглядатися з більшою обережністю або взагалі блокуватися, якщо система вважатиме користувача занадто молодим.
Ці додаткові запобіжні заходи є доповненням до засоби контролю безпеки, які ChatGPT вже застосував до всіх користувачівнезалежно від віку. Сам помічник заявляє, що не створює порнографію чи відверті описи сексуального характеру, уникає інструкцій щодо самоушкодження чи самогубства, не пояснює, як скоювати злочини, та не надає персональні дані третіх осіб.
На такі теми, як здоров'я, базова сексуальність, насильство чи політикаЧат-бот і раніше працював з освітнім та нейтральним підходом, уникаючи сенсаційних тонів чи будь-яких намірів переконати. Різниця тепер полягає в тому, що якщо обліковий запис, схоже, належить неповнолітній особі, певні питання розглядатимуться ще обережніше або взагалі відфільтровуватимуть.
Перевірте вік за допомогою особи: селфі та офіційний документ
Для випадків, коли штучний інтелект допускає помилку, OpenAI пропонує процес перевірки віку через Persona...сторонній постачальник послуг, що спеціалізується на перевірці особи. Ідея полягає в тому, що доросла особа, яку помилково класифікували як неповнолітню, може відновити повний доступ до функцій ChatGPT.
Процедура починається в налаштуваннях сервісу, в розділі облікового запису, де є опція «Підтвердження віку»Звідти користувача перенаправляють до Persona, де він може запросити селфі в реальному часі за допомогою камери мобільного телефону або комп'ютера підтвердити, що особа досягла повноліття.
Залежно від країни, система також може вимагати офіційний документ, що посвідчує особунаприклад, національне посвідчення особи, паспорт або водійські права. За допомогою цієї інформації Persona перевіряє, чи користувачеві 18 років або більше, і передає OpenAI лише результат, не надаючи зображення чи оригінальні документи.
Як тільки перевірку буде пройдено, Додаткові обмеження, пов'язані з досвідом для неповнолітніх, знімаються. Після цього обліковий запис функціонує як обліковий запис будь-якого дорослого, в межах загальних обмежень безпеки. OpenAI попереджає, що ця зміна може зайняти деякий час, щоб відобразитися на всіх підключених сервісах і пристроях.
Щодо конфіденційності, компанія наголошує на тому, що Людина видаляє селфі та документи протягом максимум семи днів. і що OpenAI не має доступу до цих файлів. Він отримує лише дату народження або еквівалентний сигнал дорослої людини, достатньо, щоб вимкнути прогнозування на цей рахунок у майбутньому.
Крок на тлі сильного регуляторного тиску та в центрі уваги Європи
Впровадження прогнозування віку неможливо зрозуміти без регуляторного контексту. OpenAI визнає, що цей захід відповідає потребі адаптація ChatGPT до реальності підлітків а також вимоги влади та законодавців, які просять надати більше гарантій неповнолітнім у послугах штучного інтелекту.
У Сполучених Штатах, Федеральна торгова комісія (FTC) Він продовжує постійні дослідження впливу цих технологій на молодих користувачів.Тим часом, компанія стикається з позовами, в яких обговорюється відповідальність чат-бота в надзвичайно ризикованих ситуаціях. Нові запобіжні заходи спрямовані на послаблення цієї напруженості та демонстрацію проактивного зобов'язання щодо безпеки.
У Європейський Союзрозгортання системи відбудеться «У найближчі тижні»OpenAI має враховувати додаткові регіональні вимоги, що випливають з регламентів ЄС щодо захисту даних та цифрових послуг. Європа була особливо суворою щодо обробки даних неповнолітніх на онлайн-платформах, включаючи системи генеративного штучного інтелекту.
Цей захід також узгоджується з практиками інших платформ, таких як YouTube, яка використовує додаткове підтвердження віку коли підозрюється, що за обліковим записом може стояти неповнолітня особа. У цьому випадку ChatGPT частково імітує цей підхід, але з моделлю, яка намагається передбачити контакт із конфіденційним контентом до того, як це станеться.
OpenAI заявляє, що розробку системи завершено. за участю експертів з розвитку дитини та спираючись на академічні дослідження щодо відмінностей між підлітками та дорослими в таких аспектах, як сприйняття ризику, контроль імпульсів або вразливість до певних типів повідомлень.
800 мільйонів користувачів, майбутній «дорослий режим» та потреба в контролі
Анонс функції прогнозування віку збігається з періодом активного розширення ChatGPT. OpenAI оцінює, що сервіс вже має приблизно 800 мільйонів активних користувачів на тиждень, шкала, яка встановлює порядок у тому, як пропонується контент, та обмежує його залежно від того, хто знаходиться з іншого боку.
Компанія також оголосила останніми тижнями, що ChatGPT почне показувати рекламу у безкоштовній версії. Для деяких користувачів у Сполучених Штатах, зберігаючи при цьому доступ до дорожчих платних підписок без реклами. Цей крок є частиною ширшої стратегії збільшення доходів.
Фактично, сама компанія зазначила, що її Річний дохід перевищить 20.000 мільярдів доларів до 2025 року, порівняно з 6.000 мільярдами, оціненими роком раніше, що зумовлено розширенням обчислювальних потужностей та зростанням використання її моделей.
Паралельно, OpenAI працює над майбутнім «Режим для дорослих» для ChatGPTЦя функція дозволить доступ до більш конфіденційних категорій контенту за умови підтвердження користувачем свого віку. Директор із застосунків компанії Фіджі Сімо зазначив, що її поява відбудеться у першому кварталі 2026 року, за умови впровадження надійних гарантій блокування цієї опції для неповнолітніх.
Прогноз віку вписується в цей план, оскільки необхідний елемент, щоб з певним запасом міцності відокремити підлітковий досвід від дорослогоБез такого розділення, впровадження режиму з більш чітким контентом було б важко виправдати для регуляторів та громадськості.
Невидима інфраструктура, яка формуватиме те, як діти використовуватимуть штучний інтелект
Окрім заголовка, прогнозування віку в ChatGPT працює так: тиха інфраструктура, яка формуватиме повсякденне життя мільйонів молодих користувачівСистема вирішує, що видно, а що ні, які розмови можливі, а які обмежені, навіть коли підліток відкрито не заявив про свій вік.
Успіх цієї ставки залежатиме від двох факторів: точність моделі та рівень тертя, який вона вноситьЯкщо ви неправильно класифікуєте забагато дорослих, незабаром на вас чекатимуть скарги; якщо ви не досягнете успіху, критика зосередиться на відсутності захисту неповнолітніх, особливо в Європі та інших вимогливих юрисдикціях.
Навіть з урахуванням своїх обмежень, нова функція є важливим кроком у тому, як основні платформи штучного інтелекту беруть на себе конкретну відповідальність за те, хто використовує їхні продукти, зокрема альянси онлайн-безпекиУ випадку з OpenAI, це відбувається після місяців публічних дебатів, регуляторних досягнень та комерційного зростання, яке вимагає поєднання розширення, монетизації та безпеки в один крок.
З цим глобальним розгортанням та його неминучою появою в Європейському Союзі, ChatGPT рухається до моделі, в якій Вік — це вже не просто фрагмент даних, введений у форму стати центральною змінною, яка визначає тип розмов, контент та обмеження, які чат-бот пропонуватиме кожному користувачеві.
Я ентузіаст технологій, який перетворив свої "гікові" інтереси на професію. Я провів понад 10 років свого життя, користуючись передовими технологіями та возячись із усіма видами програм із чистої цікавості. Зараз я спеціалізуюся на комп’ютерних технологіях та відеоіграх. Це тому, що більше 5 років я писав для різних веб-сайтів про технології та відеоігри, створюючи статті, які прагнуть надати вам необхідну інформацію мовою, зрозумілою для всіх.
Якщо у вас є запитання, я знаю все, що стосується операційної системи Windows, а також Android для мобільних телефонів. І я зобов’язаний перед вами, я завжди готовий витратити кілька хвилин і допомогти вам вирішити будь-які запитання, які можуть виникнути в цьому світі Інтернету.