Уцечка дадзеных ChatGPT: што здарылася з Mixpanel і як гэта ўплывае на вас

Карыстальнікі Чат GPT За апошнія некалькі гадзін яны атрымалі электронны ліст, які здзівіў не адну брыво: OpenAI паведамляе пра ўцечку дадзеных, звязаную з яго платформай APIПапярэджанне дайшло да шырокай аўдыторыі, у тым ліку да людзей, якія не пацярпелі непасрэдна, што... выклікала пэўную блытаніну пра рэальныя маштабы інцыдэнту.

Кампанія пацвердзіла, што адбыўся несанкцыянаваны доступ да інфармацыі некаторых кліентаўАле праблема была не ў серверах OpenAI, а ў... Mixpanel, старонні пастаўшчык вэб-аналітыкі, які збіраў паказчыкі выкарыстання інтэрфейсу API у platform.openai.comТым не менш, гэтая справа зноў ставіць праблему на першы план. дыскусія аб тым, як апрацоўваюцца персанальныя дадзеныя ў службах штучнага інтэлекту, а таксама ў Еўропе і пад эгідай RGPD.

Памылка ў Mixpanel, а не ў сістэмах OpenAI

Як падрабязна апісана ў заяве OpenAI, інцыдэнт адбыўся Лістапад 9калі Mixpanel выявіў, што зламыснік атрымаў доступ несанкцыянаваны доступ да часткі яго інфраструктуры і экспартаваў набор даных, які выкарыстоўваўся для аналізу. На працягу гэтых тыдняў пастаўшчык правёў унутранае расследаванне, каб вызначыць, якая інфармацыя была скампраметавана.

Як толькі Mixpanel атрымаў больш яснасці, афіцыйна паведамілі OpenAI 25 лістападаадпраўка закранутага набору даных, каб кампанія магла ацаніць уплыў на сваіх кліентаў. Толькі тады OpenAI пачаў звяраць дадзеныя, вызначыць патэнцыйна задзейнічаныя акаўнты і падрыхтаваць апавяшчэнні па электроннай пошце, якія ў гэтыя дні паступаюць тысячам карыстальнікаў па ўсім свеце.

OpenAI настойвае на тым, што Не было ніякага ўзлому іх сервераў, праграм або баз дадзеныхЗламыснік не атрымаў доступу да ChatGPT або ўнутраных сістэм кампаніі, а да асяроддзя пастаўшчыка, які збіраў аналітычныя дадзеныя. Тым не менш, для канечнага карыстальніка практычныя наступствы аднолькавыя: частка іх дадзеных апынулася там, дзе ёй не трэба было знаходзіцца.

Гэтыя тыпы сцэнарыяў падпадаюць пад тое, што ў кібербяспецы вядома як атака на лічбавы ланцужок паставакЗамест таго, каб непасрэдна атакаваць асноўную платформу, злачынцы нацэльваюцца на трэцюю асобу, якая апрацоўвае дадзеныя з гэтай платформы і часта мае менш строгія меры бяспекі.

звязаныя артыкулы:

Якія дадзеныя збіраюць памочнікі са штучным інтэлектам і як абараніць вашу прыватнасць

Якія карыстальнікі сапраўды пацярпелі

Адзін з пунктаў, які выклікае найбольшыя сумневы, — гэта тое, каго насамрэч варта турбавацца. У гэтым пытанні OpenAI выказаўся даволі выразна: Разрыў закранае толькі тых, хто выкарыстоўвае API OpenAI праз Інтэрнэт platform.openai.comГэта значыць, у асноўным распрацоўшчыкі, кампаніі і арганізацыі якія інтэгруюць мадэлі кампаніі ва ўласныя праграмы і паслугі.

Карыстальнікі, якія выкарыстоўваюць звычайную версію ChatGPT у браўзеры або дадатку толькі для выпадковых запытаў або асабістых задач, Яны б не пацярпелі непасрэдна з-за інцыдэнту, як кампанія паўтарае ва ўсіх сваіх заявах. Тым не менш, дзеля празрыстасці, OpenAI вырашыла разаслаць інфармацыйны ліст вельмі шырока, што спрыяла трывозе многіх людзей, якія не маюць да гэтага дачынення.

У выпадку з API звычайна за ім стаіць прафесійныя праекты, карпаратыўныя інтэграцыі або камерцыйныя прадуктыГэта таксама датычыцца еўрапейскіх кампаній. Згодна з прадстаўленай інфармацыяй, сярод арганізацый, якія карыстаюцца паслугамі гэтага пастаўшчыка, ёсць як буйныя тэхналагічныя кампаніі, так і невялікія стартапы, што падмацоўвае ідэю аб тым, што любы гулец у лічбавай экасістэме ўразлівы пры аўтсорсінгу аналітычных або маніторынгавых паслуг.

З юрыдычнага пункту гледжання, для еўрапейскіх кліентаў мае значэнне тое, што гэта парушэнне адказны за лячэнне чалавек (Mixpanel), які апрацоўвае дадзеныя ад імя OpenAI. Гэта патрабуе апавяшчэння зацікаўленых арганізацый і, пры неабходнасці, органаў па абароне дадзеных у адпаведнасці з правіламі GDPR.

Якія дадзеныя былі ўцечаны, а якія засталіся ў бяспецы

З пункту гледжання карыстальніка, галоўнае пытанне — якая менавіта інфармацыя была прапушчана. OpenAI і Mixpanel сыходзяцца ў меркаванні, што гэта... дадзеныя профілю і базавая тэлеметрыя, карысна для аналітыкі, але не для зместу ўзаемадзеяння са штучным інтэлектам або ўліковых дадзеных доступу.

Сярод патэнцыйна раскрытыя даныя Знойдзены наступныя элементы, звязаныя з уліковымі запісамі API:

• імя прадастаўляецца пры рэгістрацыі ўліковага запісу ў API.
• Адрас электроннай пошты звязаны з гэтым рахункам.
• Прыблізнае месцазнаходжанне (горад, вобласць або штат і краіна), атрыманы з браўзера і IP-адраса.
• Аперацыйная сістэма і браўзер выкарыстоўваецца для доступу platform.openai.com.
• Даведачныя вэб-сайты (рэферэры), з якіх быў дасягнуты інтэрфейс API.
• Унутраныя ідэнтыфікатары карыстальнікаў або арганізацый прывязаны да ўліковага запісу API.

Гэты набор інструментаў сам па сабе не дазваляе нікому кантраляваць уліковы запіс або выконваць выклікі API ад імя карыстальніка, але ён дае даволі поўны профіль карыстальніка, спосабы яго падключэння і спосабы выкарыстання сэрвісу. Для зламысніка, які спецыялізуецца на... сацыяльная інжынерыяГэтыя дадзеныя могуць быць чыстым золатам пры падрыхтоўцы надзвычай пераканаўчых электронных лістоў або паведамленняў.

Адначасова OpenAI падкрэслівае, што існуе блок інфармацыі, які не быў скампраметаваныПаводле звестак кампаніі, яны застаюцца ў бяспецы:

• Размовы ў чаце з ChatGPT, уключаючы падказкі і адказы.
• Запыты API і журналы выкарыстання (згенераваны кантэнт, тэхнічныя параметры і г.д.).
• Паролі, уліковыя дадзеныя і ключы API рахункаў.
• Інфармацыя аб аплаце, напрыклад, нумары картак або плацежную інфармацыю.
• Афіцыйныя дакументы, якія сведчаць асобу або іншая асабліва канфідэнцыйная інфармацыя.

Іншымі словамі, інцыдэнт падпадае пад дзеянне ідэнтыфікацыйныя і кантэкстуальныя дадзеныяАле гэта не закранула ні размоў са штучным інтэлектам, ні ключоў, якія дазволілі б трэцяму боку непасрэдна працаваць з акаўнтамі.

Асноўныя рызыкі: фішынг і сацыяльная інжынерыя

Нават калі ў зламысніка няма пароляў або ключоў API, іх наяўнасць імя, адрас электроннай пошты, месцазнаходжанне і ўнутраныя ідэнтыфікатары дазваляе запуск махлярскія кампаніі значна больш надзейным. Менавіта на гэтым сканцэнтраваны намаганні экспертаў па OpenAI і бяспецы.

Маючы гэтую інфармацыю ў сваім распараджэнні, лёгка скласці паведамленне, якое выглядае законным: электронныя лісты, якія імітуюць стыль камунікацыі OpenAIЯны згадваюць API, называюць карыстальніка па імені і нават згадваюць яго горад ці краіну, каб абвестка гучала больш рэальна. Няма патрэбы атакаваць інфраструктуру, калі можна падмануць карыстальніка, каб ён перадаў свае ўліковыя дадзеныя на падробным вэб-сайце.

Найбольш верагодныя сцэнары ўключаюць спробы класічны фішынг (спасылкі на нібыта панэлі кіравання API для «праверкі ўліковага запісу») і больш складанымі метадамі сацыяльнай інжынерыі, накіраванымі на адміністратараў арганізацый або ІТ-каманд у кампаніях, якія інтэнсіўна выкарыстоўваюць API.

У Еўропе гэты пункт непасрэдна звязаны з патрабаваннямі GDPR па мінімізацыя дадзеныхНекаторыя спецыялісты па кібербяспецы, такія як каманда OX Security, пра якую гавораць еўрапейскія СМІ, адзначаюць, што збор большай колькасці інфармацыі, чым гэта абсалютна неабходна для аналітыкі прадукту, — напрыклад, электроннай пошты або падрабязных дадзеных пра месцазнаходжанне, — можа супярэчыць абавязку максімальна абмежаваць аб'ём апрацоўваемых дадзеных.

Адказ OpenAI: разрыў з Mixpanel і грунтоўны агляд

Пасля таго, як OpenAI атрымала тэхнічныя падрабязнасці інцыдэнту, яна паспрабавала рашуча адрэагаваць. Першай мерай было цалкам выдаліць інтэграцыю Mixpanel усіх сваіх вытворчых паслуг, каб пастаўшчык больш не меў доступу да новых дадзеных, створаных карыстальнікамі.

Адначасова кампанія заяўляе, што старанна правярае закрануты набор даных каб зразумець рэальны ўплыў на кожны рахунак і арганізацыю. Зыходзячы з гэтага аналізу, яны пачалі паведамляць індывідуальна адміністратарам, кампаніям і карыстальнікам, якія адлюстроўваюцца ў наборы даных, экспартаваным зламыснікам.

OpenAI таксама сцвярджае, што пачаў дадатковыя праверкі бяспекі ва ўсіх сваіх сістэмах і ва ўсіх іншых знешніх пастаўшчыках з кім яна працуе. Мэта складаецца ў тым, каб павысіць патрабаванні да абароны, умацаваць дагаворныя пункты і больш строга правяраць, як гэтыя трэція бакі збіраюць і захоўваюць інфармацыю.

У сваіх паведамленнях кампанія падкрэслівае, што «давер, бяспека і прыватнасцьГэта цэнтральныя элементы яго місіі. Акрамя рыторыкі, гэты выпадак ілюструе, як узлом у, здавалася б, другарадным агенце можа аказаць прамы ўплыў на ўспрыманую бяспеку такога маштабнага сэрвісу, як ChatGPT.

Уплыў на карыстальнікаў і бізнес у Іспаніі і Еўропе

У еўрапейскім кантэксце, дзе GDPR і будучыя рэгуляцыі, звязаныя са штучным інтэлектам Яны ўстанавілі высокую планку абароны дадзеных, і падобныя інцыдэнты старанна вывучаюцца. Для любой кампаніі, якая выкарыстоўвае API OpenAI з Еўрапейскага Саюза, уцечка дадзеных пастаўшчыком аналітыкі — гэта нядрэнная справа.

З аднаго боку, еўрапейскія кантралёры дадзеных, якія з'яўляюцца часткай API, павінны будуць праглядаюць свае ацэнкі ўздзеяння і журналы дзейнасці праверыць, як апісваецца выкарыстанне такіх пастаўшчыкоў, як Mixpanel, і ці дастаткова зразумелая інфармацыя, якая прадастаўляецца іх уласным карыстальнікам.

З іншага боку, раскрыццё карпаратыўных электронных адрасоў, месцазнаходжанняў і арганізацыйных ідэнтыфікатараў адкрывае дзверы для Мэтанакіраваныя атакі на каманды распрацоўшчыкаў, ІТ-аддзелы або кіраўнікоў праектаў штучнага інтэлектуГаворка ідзе не толькі пра патэнцыйныя рызыкі для асобных карыстальнікаў, але і для кампаній, якія грунтуюць крытычна важныя бізнес-працэсы на мадэлях OpenAI.

У Іспаніі гэты тып разрыву трапляе на радар Іспанскае агенцтва па абароне дадзеных (AEPD) калі яны закранаюць грамадзян-рэзідэнтаў або юрыдычныя асобы, якія знаходзяцца на тэрыторыі краіны. Калі пацярпелыя арганізацыі лічаць, што ўцечка ўяўляе пагрозу для правоў і свабод асоб, яны абавязаны ацаніць яе і, пры неабходнасці, таксама паведаміць кампетэнтны орган.

Практычныя парады па абароне вашага акаўнта

Акрамя тэхнічных тлумачэнняў, многія карыстальнікі хочуць ведаць Што ім трэба рабіць прама зараз?OpenAI настойвае на тым, што змена пароля неабавязковая, бо ён не быў раскрыты, але большасць экспертаў рэкамендуюць праяўляць дадатковую асцярожнасць.

Калі вы карыстаецеся API OpenAI або проста хочаце быць у бяспецы, рэкамендуецца выканаць шэраг асноўных крокаў, якія Яны рэзка зніжаюць рызыку што зламыснік можа скарыстацца ўцечкай дадзеных:

• Будзьце асцярожныя з нечаканымі лістамі якія сцвярджаюць, што яны належаць OpenAI або сэрвісам, звязаным з API, асабліва калі ў іх згадваюцца такія тэрміны, як «тэрміновая праверка», «інцыдэнт бяспекі» або «блакіроўка ўліковага запісу».
• Заўсёды правярайце адрас адпраўніка і дамен, на які паказваюць спасылкі, перад націскам. Калі ў вас ёсць якія-небудзь сумневы, лепш за ўсё атрымаць доступ да яго ўручную. platform.openai.com уводзячы URL-адрас у браўзер.
• Уключыць шматфактарную аўтэнтыфікацыю (MFA/2FA) у вашым акаўнце OpenAI і любой іншай канфідэнцыйнай службе. Гэта вельмі эфектыўная абарона, нават калі хтосьці атрымае ваш пароль падманам.
• Не перадавайце паролі, ключы API або коды праверкі праз электронную пошту, чат або тэлефон. OpenAI нагадвае карыстальнікам, што ніколі не будзе запытваць такія дадзеныя праз неправераныя каналы.
• Валора змяніць пароль Калі вы актыўна карыстаецеся API або схільныя паўторна выкарыстоўваць яго ў іншых сэрвісах, гэтага звычайна лепш пазбягаць.

Для тых, хто працуе з кампаній або кіруе праектамі з некалькімі распрацоўшчыкамі, гэта можа быць добрым часам для перагледзець палітыку ўнутранай бяспекіПравы доступу да API і працэдуры рэагавання на інцыдэнты, узгодненыя з рэкамендацыямі каманд па кібербяспецы.

Урокі па дадзеных, трэціх асобах і даверы да штучнага інтэлекту

Уцечка з Mixpanel была абмежаванай у параўнанні з іншымі буйнымі інцыдэнтамі апошніх гадоў, але яна адбылася ў той час, калі Паслугі генератыўнага штучнага інтэлекту сталі звычайнай з'явай Гэта датычыцца як фізічных асоб, так і еўрапейскіх кампаній. Кожны раз, калі хтосьці рэгіструецца, інтэгруе API або загружае інфармацыю ў такі інструмент, ён аддае значную частку свайго лічбавага жыцця ў рукі трэціх асоб.

Адзін з урокаў, які выкладае гэты выпадак, — неабходнасць мінімізуйце асабістыя дадзеныя, якія перадаюцца знешнім пастаўшчыкамНекалькі экспертаў падкрэсліваюць, што нават пры працы з легітымнымі і вядомымі кампаніямі кожны ідэнтыфікаваны фрагмент даных, які пакідае асноўнае асяроддзе, адкрывае новую патэнцыйную кропку ўздзеяння.

У ім таксама падкрэсліваецца ступень, у якой празрыстая камунікацыя Гэта ключавы момант. OpenAI вырашыў прадастаўляць шырокую інфармацыю, нават адпраўляючы электронныя лісты карыстальнікам, якіх гэта не тычыцца, што можа выклікаць некаторую трывогу, але, у сваю чаргу, пакідае менш падстаў для падазрэнняў адносна недахопу інфармацыі.

У сцэнарыі, калі штучны інтэлект будзе працягваць інтэгравацца ў адміністрацыйныя працэдуры, банкаўскую справу, ахову здароўя, адукацыю і дыстанцыйную працу па ўсёй Еўропе, такія інцыдэнты служаць напамінам пра тое, што Бяспека залежыць не толькі ад асноўнага пастаўшчыка.а хутчэй усёй сеткі кампаній, якія стаяць за гэтым. І што, нават калі ўцечка дадзеных не ўключае паролі або размовы, рызыка махлярства застаецца вельмі рэальнай, калі не будуць прыняты асноўныя звычкі абароны.

Усё, што адбылося з узломам ChatGPT і Mixpanel, паказвае, як нават адносна невялікая ўцечка можа мець значныя наступствы: яна прымушае OpenAI перагледзець свае адносіны з трэцімі асобамі, падштурхоўвае еўрапейскія кампаніі і распрацоўшчыкаў да перагляду сваіх практык бяспекі і нагадвае карыстальнікам, што іх галоўнай абаронай ад нападаў застаецца інфармаванасць. кантраляваць атрыманыя імі электронныя лісты і ўзмацняць абарону іх акаўнтаў.

Альберта Навара

Я энтузіяст тэхналогій, які ператварыў свае інтарэсы "гікаў" у прафесію. Я правёў больш за 10 гадоў свайго жыцця, выкарыстоўваючы перадавыя тэхналогіі і важдаючыся з рознымі праграмамі з чыстай цікаўнасці. Цяпер я спецыялізаваўся на камп'ютарных тэхналогіях і відэагульнях. Гэта таму, што больш за 5 гадоў я працаваў для розных вэб-сайтаў, прысвечаных тэхналогіям і відэагульням, ствараючы артыкулы, якія імкнуцца даць вам неабходную інфармацыю на мове, зразумелай кожнаму.

Калі ў вас ёсць якія-небудзь пытанні, я ведаю ўсё, што звязана з аперацыйнай сістэмай Windows і Android для мабільных тэлефонаў. І я перад вамі абавязаны: я заўсёды гатовы выдаткаваць некалькі хвілін і дапамагчы вам вырашыць любыя пытанні, якія могуць узнікнуць у гэтым свеце Інтэрнэту.