Витік даних ChatGPT: що сталося з Mixpanel і як це впливає на вас

Користувачі ChatGPT За останні кілька годин вони отримали електронного листа, який здивував не одну брову: OpenAI повідомляє про витік даних, пов'язаний з його API-платформоюПопередження охопило широку аудиторію, зокрема людей, яких воно безпосередньо не торкнулося, що... викликав певну плутанину про фактичний масштаб інциденту.

Компанія підтвердила, що відбулося несанкціонований доступ до інформації деяких клієнтівАле проблема була не в серверах OpenAI, а в... Mixpanel, сторонній постачальник веб-аналітики, який збирав показники використання інтерфейсу API у platform.openai.comНавіть попри це, ця справа знову висуває проблему на перший план. дискусія щодо того, як персональні дані управляються в сервісах штучного інтелекту, також у Європі та під егідою RGPD.

Помилка в Mixpanel, а не в системах OpenAI

Як зазначено у заяві OpenAI, інцидент стався... Листопад 9коли Mixpanel виявив, що зловмисник отримав доступ несанкціонований доступ до частини його інфраструктури та експортував набір даних, який використовувався для аналізу. Протягом цих тижнів постачальник провів внутрішнє розслідування, щоб визначити, яка інформація була скомпрометована.

Як тільки Mixpanel отримав більше ясності, офіційно повідомлено OpenAI 25 листопаданадсилання відповідного набору даних, щоб компанія могла оцінити вплив на своїх клієнтів. Лише тоді OpenAI почав звіряти дані, виявити потенційно задіяні облікові записи та підготувати сповіщення електронною поштою, які цими днями надходять тисячам користувачів по всьому світу.

OpenAI наполягає на тому, що Не було жодного вторгнення в їхні сервери, програми чи бази данихЗловмисник отримав доступ не до ChatGPT чи внутрішніх систем компанії, а до середовища постачальника, який збирав аналітичні дані. Незважаючи на це, для кінцевого користувача практичний наслідок однаковий: деякі з їхніх даних опинилися там, де їм не слід було бути.

Такі сценарії підпадають під те, що в кібербезпеці називається атакою на цифровий ланцюг поставокЗамість безпосередньої атаки на основну платформу, злочинці націлюються на третю сторону, яка обробляє дані з цієї платформи та часто має менш суворі засоби контролю безпеки.

Пов'язана стаття:

Які дані збирають помічники зі штучним інтелектом та як захистити вашу конфіденційність

Які користувачі фактично постраждали

Один з моментів, що викликає найбільше сумнівів, полягає в тому, кого насправді має це хвилювати. З цього питання OpenAI висловився досить чітко: Розрив стосується лише тих, хто використовує OpenAI API через Інтернет platform.openai.comТобто, головним чином розробники, компанії та організації які інтегрують моделі компанії у власні програми та послуги.

Користувачі, які використовують лише звичайну версію ChatGPT у браузері або додатку для випадкових запитів або особистих завдань, Вони б не постраждали безпосередньо через інцидент, як компанія повторює у всіх своїх заявах. Незважаючи на це, заради прозорості, OpenAI вирішила розіслати інформаційний електронний лист дуже широко, що сприяло занепокоєнню багатьох людей, які не причетні до цього.

У випадку API, зазвичай, за ним стоїть професійні проекти, корпоративні інтеграції або комерційні продуктиЦе також стосується європейських компаній. Згідно з наданою інформацією, серед організацій, які користуються послугами цього постачальника, є як великі технологічні компанії, так і невеликі стартапи, що підтверджує думку про те, що будь-який гравець у цифровій екосистемі є вразливим під час аутсорсингу аналітичних або моніторингових послуг.

З юридичної точки зору, для європейських клієнтів важливо, що це є порушенням особа, відповідальна за лікування (Mixpanel), яка обробляє дані від імені OpenAI. Це вимагає повідомлення зацікавлених організацій та, за потреби, органів захисту даних відповідно до правил GDPR.

Які дані були витікли, а які дані залишаються в безпеці

З точки зору користувача, головне питання полягає в тому, яку саме інформацію було пропущено. OpenAI та Mixpanel погоджуються, що це... дані профілю та базова телеметрія, корисний для аналітики, але не для контенту взаємодій зі штучним інтелектом або облікових даних доступу.

Серед потенційно розкриті дані Знайдено такі елементи, пов’язані з обліковими записами API:

• Ім'я надається під час реєстрації облікового запису в API.
• Адреса електронної пошти пов’язаний із цим обліковим записом.
• Приблизне місце розташування (місто, область або штат, а також країна), що визначається на основі браузера та IP-адреси.
• Операційна система та браузер використовується для доступу platform.openai.com.
• Довідкові веб-сайти (реферери), з яких було досягнуто інтерфейсу API.
• Внутрішні ідентифікатори користувачів або організацій прив’язаний до облікового запису API.

Цей набір інструментів сам по собі не дозволяє нікому контролювати обліковий запис або виконувати виклики API від імені користувача, але він надає досить повний профіль користувача, способу його підключення та використання сервісу. Для зловмисника, який спеціалізується на... соціальна інженеріяЦі дані можуть бути чистим золотом під час підготовки надзвичайно переконливих електронних листів чи повідомлень.

Водночас, OpenAI наголошує на тому, що існує блок інформації, який не було скомпрометованоЗа даними компанії, вони залишаються в безпеці:

• Чат-розмови з ChatGPT, включаючи підказки та відповіді.
• Запити API та журнали використання (згенерований контент, технічні параметри тощо).
• Паролі, облікові дані та ключі API рахунків.
• Платіжна інформація, як-от номери карток або платіжна інформація.
• Офіційні документи, що посвідчують особу або іншу особливо конфіденційну інформацію.

Іншими словами, інцидент підпадає під дію ідентифікаційні та контекстуальні даніАле це не торкнулося ні розмов зі штучним інтелектом, ні ключів, які дозволили б третій стороні безпосередньо керувати обліковими записами.

Основні ризики: фішинг та соціальна інженерія

Навіть якщо зловмисник не має паролів або ключів API, їх наявність ім'я, адреса електронної пошти, місцезнаходження та внутрішні ідентифікатори дозволяє запустити шахрайські кампанії набагато надійнішим. Саме на цьому зосереджують свої зусилля експерти з OpenAI та безпеки.

Маючи цю інформацію, легко сформулювати повідомлення, яке виглядає легітимним: електронні листи, що імітують стиль спілкування OpenAIВони згадують API, називають користувача по імені та навіть натякають на його місто чи країну, щоб зробити сповіщення реалістичнішим. Немає потреби атакувати інфраструктуру, якщо можна обманом змусити користувача передати свої облікові дані на фальшивому веб-сайті.

Найбільш ймовірні сценарії включають спроби класичний фішинг (посилання на нібито панелі керування API для «перевірки облікового запису») та за допомогою більш складних методів соціальної інженерії, спрямованих на адміністраторів організацій або ІТ-команд у компаніях, які інтенсивно використовують API.

У Європі цей пункт безпосередньо пов'язаний з вимогами GDPR щодо мінімізація данихДеякі фахівці з кібербезпеки, такі як команда OX Security, про яку йшлося в європейських ЗМІ, зазначають, що збір більшої кількості інформації, ніж це абсолютно необхідно для аналітики продукту, наприклад, електронних листів або детальних даних про місцезнаходження, може суперечити зобов'язанню максимально обмежити обсяг оброблюваних даних.

Відповідь OpenAI: розрив з Mixpanel та ретельний огляд

Щойно OpenAI отримала технічні деталі інциденту, вона спробувала рішуче відреагувати. Першим заходом було повністю видалити інтеграцію Mixpanel усіх своїх виробничих послуг, щоб постачальник більше не мав доступу до нових даних, згенерованих користувачами.

Водночас, компанія заявляє, що ретельно перевіряє набір даних, що зачіпаються зрозуміти реальний вплив на кожен обліковий запис та організацію. На основі цього аналізу вони почали повідомляти індивідуально адміністраторам, компаніям та користувачам, які відображаються в наборі даних, експортованому зловмисником.

OpenAI також стверджує, що почав додаткові перевірки безпеки всіх їхніх систем та всіх інших зовнішніх постачальників з ким вона працює. Мета полягає в тому, щоб підвищити вимоги до захисту, посилити договірні положення та ретельніше перевіряти, як ці треті сторони збирають та зберігають інформацію.

Компанія наголошує у своїх повідомленнях, що «довіра, безпека та конфіденційністьЦе центральні елементи його місії. Окрім риторики, цей випадок ілюструє, як порушення в, здавалося б, другорядному агенті може мати прямий вплив на сприйняту безпеку такого масштабного сервісу, як ChatGPT.

Вплив на користувачів та бізнес в Іспанії та Європі

У європейському контексті, де GDPR та майбутні нормативні акти, що стосуються ШІ Вони встановили високу планку для захисту даних, і такі інциденти ретельно перевіряються. Для будь-якої компанії, яка використовує API OpenAI в межах Європейського Союзу, витік даних постачальником аналітики — це не дрібниця.

З одного боку, європейські контролери даних, які є частиною API, повинні будуть переглянути свої оцінки впливу та журнали діяльності перевірити, як описується використання таких провайдерів, як Mixpanel, і чи достатньо зрозуміла інформація, що надається їхнім власним користувачам.

З іншого боку, розкриття корпоративних електронних листів, місцезнаходжень та ідентифікаторів організації відкриває двері для Цільові атаки на команди розробників, ІТ-відділи або керівників проектів штучного інтелектуЙдеться не лише про потенційні ризики для окремих користувачів, а й для компаній, які базують критично важливі бізнес-процеси на моделях OpenAI.

В Іспанії цей тип розриву потрапляє на радар Іспанське агентство із захисту даних (AEPD) коли вони впливають на громадян-резидентів або юридичних осіб, що проживають на території країни. Якщо постраждалі організації вважають, що витік становить ризик для прав і свобод осіб, вони зобов'язані оцінити його та, за потреби, також повідомити компетентний орган.

Практичні поради щодо захисту вашого облікового запису

Окрім технічних пояснень, багато користувачів хочуть знати Що їм потрібно зробити прямо зараз?OpenAI наполягає на тому, що зміна пароля не є обов'язковою, оскільки його не було розголошено, але більшість експертів рекомендують застосовувати додатковий рівень обережності.

Якщо ви використовуєте API OpenAI або просто хочете бути в безпеці, рекомендується виконати низку основних кроків, які Вони різко знижують ризик що зловмисник може скористатися витоком даних:

• Будьте обережні з неочікуваними електронними листами які стверджують, що належать до OpenAI або сервісів, пов’язаних з API, особливо якщо вони згадують такі терміни, як «термінова перевірка», «інцидент безпеки» або «блокування облікового запису».
• Завжди перевіряйте адресу відправника і домен, на який вказують посилання, перш ніж натискати на нього. Якщо у вас є сумніви, краще отримати до нього доступ вручну. platform.openai.com введення URL-адреси у браузер.
• Увімкнути багатофакторну автентифікацію (MFA/2FA) у вашому обліковому записі OpenAI та будь-якій іншій конфіденційній службі. Це дуже ефективний бар'єр, навіть якщо хтось отримає ваш пароль обманом.
• Не поширюйте паролі, ключі API або коди підтвердження електронною поштою, чатом або телефоном. OpenAI нагадує користувачам, що ніколи не запитуватиме такі дані через неперевірені канали.
• Валора Змінити пароль Якщо ви активно користуєтеся API або схильні повторно використовувати його в інших сервісах, цього, як правило, краще уникати.

Для тих, хто працює з компаній або керує проектами з кількома розробниками, зараз може бути гарний час переглянути політики внутрішньої безпекиДозволи на доступ до API та процедури реагування на інциденти, узгоджуючи їх з рекомендаціями команд кібербезпеки.

Уроки про дані, треті сторони та довіру до штучного інтелекту

Витік інформації з Mixpanel був обмеженим порівняно з іншими серйозними інцидентами останніх років, але він стався в той час, коли... Сервіси генеративного штучного інтелекту стали звичайним явищем Це стосується як окремих осіб, так і європейських компаній. Щоразу, коли хтось реєструється, інтегрує API або завантажує інформацію в такий інструмент, він передає значну частину свого цифрового життя третім сторонам.

Один із уроків, який викладає ця справа, полягає в необхідності мінімізувати передачу персональних даних зовнішнім постачальникамКілька експертів наголошують, що навіть під час роботи з легітимними та відомими компаніями кожен ідентифікований фрагмент даних, який залишає основне середовище, відкриває нову потенційну точку розкриття.

Також підкреслюється ступінь, до якої прозора комунікація Це ключово. OpenAI вирішив надавати широку інформацію, навіть надсилаючи електронні листи користувачам, на яких це не впливає, що може викликати певну тривогу, але, своєю чергою, залишає менше підстав для підозр щодо браку інформації.

У сценарії, де штучний інтелект продовжуватиме інтегруватися в адміністративні процедури, банківську справу, охорону здоров'я, освіту та віддалену роботу по всій Європі, такі інциденти слугують нагадуванням про те, що Безпека не залежить виключно від основного постачальника.а радше всієї мережі компаній, що стоять за цим. І що, навіть якщо витік даних не включає паролі чи розмови, ризик шахрайства залишається дуже реальним, якщо не дотримуватися основних звичок захисту.

Все, що сталося з порушенням ChatGPT та Mixpanel, показує, як навіть відносно невеликий витік може мати значні наслідки: він змушує OpenAI переглянути свої відносини з третіми сторонами, підштовхує європейські компанії та розробників до перегляду своїх практик безпеки та нагадує користувачам, що їхнім головним захистом від атак залишається поінформованість. відстежувати електронні листи, які вони отримують, та посилювати захист їхніх облікових записів.

Альберто Наварро

Я ентузіаст технологій, який перетворив свої "гікові" інтереси на професію. Я провів понад 10 років свого життя, користуючись передовими технологіями та возячись із усіма видами програм із чистої цікавості. Зараз я спеціалізуюся на комп’ютерних технологіях та відеоіграх. Це тому, що більше 5 років я писав для різних веб-сайтів про технології та відеоігри, створюючи статті, які прагнуть надати вам необхідну інформацію мовою, зрозумілою для всіх.

Якщо у вас є запитання, я знаю все, що стосується операційної системи Windows, а також Android для мобільних телефонів. І я зобов’язаний перед вами, я завжди готовий витратити кілька хвилин і допомогти вам вирішити будь-які запитання, які можуть виникнути в цьому світі Інтернету.