„ChatGPT“ duomenų pažeidimas: kas nutiko su „Mixpanel“ ir kaip tai jus veikia

Vartotojo vartotojai ChatGPT Per pastarąsias kelias valandas jie gavo el. laišką, kuris sukėlė ne vieno žmogaus nuostabą: „OpenAI“ praneša apie duomenų pažeidimą, susijusį su jos API platformaĮspėjimas pasiekė plačią auditoriją, įskaitant ir tuos, kuriems tai tiesiogiai įtakos neturėjo. sukėlė tam tikrą sumaištį apie tikrąjį incidento mastą.

Bendrovė patvirtino, kad buvo neteisėta prieiga prie kai kurių klientų informacijosTačiau problema buvo ne su „OpenAI“ serveriais, o su... Mixpanel, trečiosios šalies žiniatinklio analizės teikėjas, kuris rinko API sąsajos naudojimo metriką platform.openai.comNepaisant to, byla vėl iškelia problemą į pirmą planą. diskusija apie tai, kaip asmens duomenys tvarkomi dirbtinio intelekto paslaugose, taip pat Europoje ir globojant RGPD.

Klaida „Mixpanel“ sistemoje, o ne „OpenAI“ sistemose

Kaip „OpenAI“ savo pareiškime išsamiai aprašė, incidentas įvyko... Lapkritis 9kai „Mixpanel“ aptiko, kad užpuolikas gavo prieigą neteisėta prieiga prie dalies jos infrastruktūros ir eksportavo analizei naudotą duomenų rinkinį. Per tas savaites tiekėjas atliko vidinį tyrimą, kad nustatytų, kokia informacija buvo pažeista.

Kai „Mixpanel“ tapo aiškesnė, oficialiai informavo „OpenAI“ lapkričio 25 d.siunčiant paveiktą duomenų rinkinį, kad bendrovė galėtų įvertinti poveikį savo klientams. Tik tada „OpenAI“ pradėjo kryžminę duomenų nuorodą, nustatyti galimai susijusias paskyras ir parengti el. pašto pranešimus, kurie šiomis dienomis pasiekia tūkstančius vartotojų visame pasaulyje.

„OpenAI“ tvirtina, kad Nebuvo jokio įsilaužimo į jų serverius, programas ar duomenų bazesUžpuolikas negavo prieigos prie „ChatGPT“ ar įmonės vidinių sistemų, o prie analitinius duomenis rinkusio tiekėjo aplinkos. Nepaisant to, galutiniam vartotojui praktinė pasekmė yra ta pati: dalis jo duomenų atsidūrė ten, kur neturėjo būti.

Šio tipo scenarijai kibernetinio saugumo srityje priskiriami prie atakų prieš skaitmeninė tiekimo grandinėUžuot tiesiogiai atakavę pagrindinę platformą, nusikaltėliai taikosi į trečiąją šalį, kuri tvarko duomenis iš tos platformos ir dažnai taiko ne tokias griežtas saugumo kontrolės priemones.

Susijęs straipsnis:

Kokius duomenis renka dirbtinio intelekto asistentai ir kaip apsaugoti jūsų privatumą

Kurie vartotojai iš tikrųjų nukentėjo

Vienas iš klausimų, keliančių daugiausiai abejonių, yra tai, kas iš tikrųjų turėtų susirūpinti. Šiuo klausimu „OpenAI“ gana aiškiai pasakė: Skirtumas paveikia tik tuos, kurie naudoja „OpenAI“ API. per internetą platform.openai.comTai yra, daugiausia kūrėjams, įmonėms ir organizacijoms kurios integruoja įmonės modelius į savo programas ir paslaugas.

Vartotojai, kurie naudoja tik įprastą „ChatGPT“ versiją naršyklėje arba programėlėje, retkarčiais užklausoms arba asmeninėms užduotims atlikti, Jie nebūtų tiesiogiai paveikti dėl incidento, kaip bendrovė kartoja visuose savo pareiškimuose. Nepaisant to, siekdama skaidrumo, „OpenAI“ nusprendė informacinį el. laišką išsiųsti labai plačiai, o tai sukėlė nerimą daugeliui su tuo nesusijusių žmonių.

API atveju įprasta, kad už jos slypi profesionalūs projektai, įmonių integracijos ar komerciniai produktaiTai taikoma ir Europos įmonėms. Remiantis pateikta informacija, tarp organizacijų, naudojančių šį paslaugų teikėją, yra tiek didelių technologijų įmonių, tiek mažų startuolių, o tai sustiprina mintį, kad bet kuris skaitmeninės ekosistemos dalyvis yra pažeidžiamas, kai pasitelkia analizės ar stebėsenos paslaugas.

Teisiniu požiūriu, Europos klientams svarbu, kad tai būtų pažeidimas. už gydymą atsakingas asmuo („Mixpanel“), kuri tvarko duomenis „OpenAI“ vardu. Tam reikia pranešti susijusioms organizacijoms ir, jei reikia, duomenų apsaugos institucijoms pagal BDAR reglamentus.

Kokie duomenys nutekėjo, o kokie duomenys lieka saugūs

Vartotojo požiūriu, svarbiausias klausimas yra, kokia informacija buvo praleista. „OpenAI“ ir „Mixpanel“ sutinka, kad tai... profilio duomenys ir pagrindinė telemetrija, naudinga analizei, bet ne sąveikos su dirbtiniu intelektu ar prieigos kredencialais turiniui.

Tarp potencialiai atskleisti duomenys Randami šie su API paskyromis susiję elementai:

• Vardas pateikiama registruojant paskyrą API.
• Elektroninio pašto adresas susieta su ta paskyra.
• Apytikslė vieta (miestas, provincija arba valstija ir šalis), numanomas pagal naršyklę ir IP adresą.
• Operacinė sistema ir naršyklė naudojamas prieigai platform.openai.com.
• Nuorodų svetainės (nukreipiamieji URL), iš kurių buvo pasiekta API sąsaja.
• Vidiniai naudotojo arba organizacijos identifikatoriai susieta su API paskyra.

Vien šis įrankių rinkinys neleidžia niekam perimti paskyros valdymo ar vykdyti API užklausų vartotojo vardu, tačiau jis pateikia gana išsamų vartotojo profilį, jo prisijungimo būdą ir paslaugos naudojimo būdą. Užpuolikui, kuris specializuojasi... socialinė inžinerijaŠie duomenys gali būti gryno aukso vertės, rengiant itin įtikinamus el. laiškus ar žinutes.

Tuo pačiu metu „OpenAI“ pabrėžia, kad yra informacijos blokas, kuris nebuvo pažeistasPasak bendrovės, jie išlieka saugūs:

• Pokalbiai su „ChatGPT“, įskaitant raginimus ir atsakymus.
• API užklausos ir naudojimo žurnalai (sugeneruotas turinys, techniniai parametrai ir kt.).
• Slaptažodžiai, prisijungimo duomenys ir API raktai sąskaitų.
• Informacija apie mokėjimą, pavyzdžiui, kortelių numerius arba atsiskaitymo informaciją.
• Oficialūs asmens tapatybės dokumentai arba kitą ypač jautrią informaciją.

Kitaip tariant, incidentas patenka į... identifikuojantys ir kontekstiniai duomenysTačiau tai nepalietė nei pokalbių su dirbtiniu intelektu, nei raktų, kurie leistų trečiajai šaliai tiesiogiai valdyti sąskaitas.

Pagrindinės rizikos: sukčiavimas apsimetant ir socialinė inžinerija

Net jei užpuolikas neturi slaptažodžių ar API raktų, juos turėdamas vardas, pavardė, el. pašto adresas, vieta ir vidiniai identifikatoriai leidžia paleisti sukčiavimo kampanijos daug patikimesnis. Būtent čia sutelkia savo pastangas „OpenAI“ ir saugumo ekspertai.

Turint šią informaciją ant stalo, lengva sukurti žinutę, kuri atrodo teisėta: el. laiškai, kurie imituoja „OpenAI“ bendravimo stiliųJie mini API, cituoja vartotojo vardą ir netgi užsimena apie jo miestą ar šalį, kad įspėjimas skambėtų realiau. Nereikia pulti infrastruktūros, jei galite apgauti vartotoją ir priversti jį pateikti savo prisijungimo duomenis netikroje svetainėje.

Labiausiai tikėtini scenarijai apima bandymus klasikinis sukčiavimas (nuorodos į tariamus API valdymo skydelius, skirtus „paskyrai patvirtinti“) ir sudėtingesniais socialinės inžinerijos metodais, skirtais organizacijų administratoriams arba IT komandoms įmonėse, kurios intensyviai naudoja API.

Europoje šis punktas yra tiesiogiai susijęs su BDAR reikalavimais. duomenų minimizavimasKai kurie kibernetinio saugumo specialistai, pavyzdžiui, Europos žiniasklaidoje cituojama „OX Security“ komanda, atkreipia dėmesį, kad daugiau informacijos nei būtina produktų analizei rinkimas, pavyzdžiui, el. laiškų ar išsamių vietos duomenų, gali prieštarauti įsipareigojimui kuo labiau apriboti apdorojamų duomenų kiekį.

„OpenAI“ atsakymas: pertrauka su „Mixpanel“ ir išsami apžvalga

Gavusi technines incidento detales, „OpenAI“ bandė ryžtingai reaguoti. Pirmoji priemonė buvo Visiškai pašalinti „Mixpanel“ integraciją visų savo gamybos paslaugų, kad paslaugų teikėjas nebeturėtų prieigos prie naujų vartotojų sugeneruotų duomenų.

Tuo pačiu metu bendrovė teigia, kad kruopščiai peržiūri paveiktą duomenų rinkinį suprasti tikrąjį poveikį kiekvienai paskyrai ir organizacijai. Remdamiesi šia analize, jie pradėjo pranešti atskirai administratoriams, įmonėms ir vartotojams, kurie rodomi užpuoliko eksportuotame duomenų rinkinyje.

„OpenAI“ taip pat teigia, kad pradėjo papildomi saugumo patikrinimai visose jų sistemose ir su visais kitais išoriniais tiekėjais su kuriais dirbama. Tikslas – padidinti apsaugos reikalavimus, sustiprinti sutarčių sąlygas ir griežčiau tikrinti, kaip šios trečiosios šalys renka ir saugo informaciją.

Savo pranešimuose bendrovė pabrėžia, kad „pasitikėjimas, saugumas ir privatumasTai yra pagrindiniai jos misijos elementai. Be retorikos, šis atvejis iliustruoja, kaip pažeidimas, atrodytų, antraeilio agento sistemoje, gali turėti tiesioginės įtakos suvokiamam tokios didelės apimties paslaugos kaip „ChatGPT“ saugumui.

Poveikis vartotojams ir įmonėms Ispanijoje ir Europoje

Europos kontekste, kur BDAR ir būsimi dirbtiniam intelektui skirti reglamentai Jie kelia aukštus duomenų apsaugos reikalavimus, todėl tokie incidentai yra atidžiai tiriami. Bet kuriai Europos Sąjungos įmonei, naudojančiai „OpenAI“ API, duomenų saugumo pažeidimas, kurį įvykdo analizės teikėjas, yra nemenkas dalykas.

Viena vertus, Europos duomenų valdytojai, kurie yra API dalis, turės peržiūrėti savo poveikio vertinimus ir veiklos žurnalus patikrinti, kaip aprašomas tokių tiekėjų kaip „Mixpanel“ naudojimas ir ar jų pačių vartotojams pateikiama informacija yra pakankamai aiški.

Kita vertus, įmonių el. pašto adresų, vietų ir organizacijos identifikatorių paviešinimas atveria duris Tikslinės atakos prieš kūrimo komandas, IT skyrius ar dirbtinio intelekto projektų vadovusTai susiję ne tik su potencialia rizika individualiems vartotojams, bet ir su įmonėmis, kurios svarbius verslo procesus grindžia „OpenAI“ modeliais.

Ispanijoje tokio tipo spraga vis labiau pastebima. Ispanijos duomenų apsaugos agentūra (AEPD) kai jie paveikia šalies teritorijoje gyvenančius piliečius arba joje įsisteigusius subjektus. Jei paveiktos organizacijos mano, kad nutekėjimas kelia pavojų asmenų teisėms ir laisvėms, jos privalo tai įvertinti ir, jei reikia, pranešti kompetentingai institucijai.

Praktiniai patarimai, kaip apsaugoti savo paskyrą

Be techninių paaiškinimų, daugelis vartotojų nori žinoti, Ką jie turi daryti dabar?„OpenAI“ tvirtina, kad slaptažodžio keitimas nėra būtinas, nes jis nebuvo nutekintas, tačiau dauguma ekspertų rekomenduoja imtis papildomų atsargumo priemonių.

Jei naudojate „OpenAI“ API arba tiesiog norite būti saugūs, patartina atlikti keletą pagrindinių veiksmų, kurie Jie smarkiai sumažina riziką kad užpuolikas gali pasinaudoti nutekėjusiais duomenimis:

• Būkite atsargūs dėl netikėtų el. laiškų kurie teigia esantys iš „OpenAI“ arba su API susijusių paslaugų, ypač jei juose minimi tokie terminai kaip „skubus patvirtinimas“, „saugumo incidentas“ arba „paskyros blokavimas“.
• Visada patikrinkite siuntėjo adresą ir domeną, į kurį nukreipia nuorodos, prieš spustelėdami. Jei abejojate, geriausia jį pasiekti rankiniu būdu. platform.openai.com įvedant URL į naršyklę.
• Įgalinti daugiafaktorinį autentifikavimą (MFA/2FA) jūsų „OpenAI“ paskyroje ir bet kurioje kitoje jautrioje paslaugoje. Tai labai veiksminga kliūtis, net jei kas nors apgaulės būdu gautų jūsų slaptažodį.
• Nesidalinkite slaptažodžiais, API raktais ar patvirtinimo kodais el. paštu, pokalbių lange arba telefonu. „OpenAI“ primena vartotojams, kad niekada neprašys tokio tipo duomenų nepatikrintais kanalais.
• Vertė pasikeiskite slaptažodį Jei esate didelis API naudotojas arba linkęs jį pakartotinai naudoti kitose paslaugose, to paprastai geriausia vengti.

Tiems, kurie dirba įmonėse arba valdo projektus su keliais kūrėjais, tai gali būti tinkamas metas peržiūrėti vidaus saugumo politikąAPI prieigos leidimai ir incidentų reagavimo procedūros, suderinant jas su kibernetinio saugumo komandų rekomendacijomis.

Pamokos apie duomenis, trečiąsias šalis ir pasitikėjimą dirbtiniu intelektu

„Mixpanel“ nutekėjimas buvo ribotas, palyginti su kitais dideliais incidentais pastaraisiais metais, tačiau jis įvyko tuo metu, kai... Generatyviosios dirbtinio intelekto paslaugos tapo įprastos Tai taikoma tiek privatiems asmenims, tiek Europos įmonėms. Kiekvieną kartą, kai kas nors registruojasi, integruoja API arba įkelia informaciją į tokią priemonę, jis didelę savo skaitmeninio gyvenimo dalį perduoda trečiosioms šalims.

Viena iš pamokų, kurias duoda šis atvejis, yra būtinybė kuo labiau sumažinti asmens duomenų, bendrinamų su išorės paslaugų teikėjais, kiekįKeletas ekspertų pabrėžia, kad net ir dirbant su teisėtomis ir gerai žinomomis įmonėmis, kiekvienas atpažįstamas duomenų fragmentas, paliekantis pagrindinę aplinką, atveria naują potencialų poveikio tašką.

Taip pat pabrėžiama, kiek skaidrus bendravimas Tai labai svarbu. „OpenAI“ pasirinko teikti plačią informaciją, netgi siųsdama el. laiškus nepaveiktiems vartotojams, o tai gali sukelti tam tikrą nerimą, tačiau savo ruožtu palieka mažiau erdvės įtarimams dėl informacijos trūkumo.

Scenarijuje, kai dirbtinis intelektas ir toliau bus integruojamas į administracines procedūras, bankininkystę, sveikatos apsaugą, švietimą ir nuotolinį darbą visoje Europoje, tokie incidentai primena, kad... Saugumas nepriklauso vien nuo pagrindinio tiekėjo.o veikiau viso už jo esančio įmonių tinklo. Ir kad net jei duomenų pažeidimas neapima slaptažodžių ar pokalbių, sukčiavimo rizika išlieka labai reali, jei nesilaikoma pagrindinių apsaugos įpročių.

Visa, kas nutiko su „ChatGPT“ ir „Mixpanel“ įsilaužimu, rodo, kad net ir santykinai ribotas nutekėjimas gali turėti reikšmingų pasekmių: jis priverčia „OpenAI“ permąstyti savo santykius su trečiosiomis šalimis, skatina Europos įmones ir kūrėjus peržiūrėti savo saugumo praktiką ir primena vartotojams, kad jų pagrindinė gynyba nuo atakų išlieka informuotumas. stebėti gaunamus el. laiškus ir sustiprinti jų paskyrų apsaugą.

Alberto navarro

Esu technologijų entuziastas, savo „geek“ pomėgius pavertęs profesija. Daugiau nei 10 savo gyvenimo metų praleidau naudodamas pažangiausias technologijas ir iš gryno smalsumo kūriau visas programas. Dabar aš specializuojasi kompiuterinėse technologijose ir vaizdo žaidimuose. Taip yra todėl, kad daugiau nei 5 metus rašau įvairioms interneto svetainėms apie technologijas ir vaizdo žaidimus, kurdamas straipsnius, kuriuose noriu pateikti jums reikalingą informaciją visiems suprantama kalba.

Jei turite klausimų, mano žinios svyruoja nuo visko, kas susiję su Windows operacine sistema, taip pat su Android mobiliesiems telefonams. Ir aš įsipareigoju jums, aš visada pasiruošęs skirti kelias minutes ir padėti jums išspręsti visus klausimus, kurie jums gali kilti šiame interneto pasaulyje.