Кршење података ChatGPT-а: шта се догодило са Mixpanel-ом и како то утиче на вас

Корисници ЦхатГПТ У последњих неколико сати, примили су имејл који је изазвао више од једне обрве: ОпенАИ пријављује кршење података повезано са његовом АПИ платформомУпозорење је стигло до огромне публике, укључујући и људе који нису директно погођени, што је... изазвао је извесну забуну о стварном обиму инцидента.

Оно што је компанија потврдила јесте да је дошло до неовлашћени приступ неким подацима купацаАли проблем није био са OpenAI серверима, већ са... Микпанел, независни добављач веб аналитике који је прикупљао метрике коришћења API интерфејса у platform.openai.comУпркос томе, случај поново ставља проблем у први план. дебата о томе како се лични подаци управљају у службама вештачке интелигенције, такође у Европи и под окриљем РГПД.

Грешка у Mixpanel-у, а не у OpenAI системима

Како је OpenAI детаљно описао у свом саопштењу, инцидент се догодио Новембар КСНУМКСкада је Mixpanel открио да је нападач добио приступ неовлашћени приступ делу његове инфраструктуре и извезао је скуп података који се користи за анализу. Током тих недеља, добављач је спровео интерну истрагу како би утврдио које информације су биле угрожене.

Када је Mixpanel имао више јасноће, формално обавештен OpenAI 25. новембраслање погођеног скупа података како би компанија могла да процени утицај на своје купце. Тек тада је OpenAI почео да упоређује податке, идентификују потенцијално укључене налоге и припремају обавештења путем е-поште која ових дана стижу хиљадама корисника широм света.

OpenAI инсистира на томе Није било упада у њихове сервере, апликације или базе податакаНападач није добио приступ ChatGPT-у или интерним системима компаније, већ окружењу провајдера који је прикупљао аналитичке податке. Упркос томе, за крајњег корисника, практична последица је иста: неки од њихових података су завршили тамо где нису требали.

Ове врсте сценарија спадају у оно што је у сајбер безбедности познато као напад на дигитални ланац снабдевањаУместо директног напада на главну платформу, криминалци циљају трећу страну која обрађује податке са те платформе и често има мање строге безбедносне контроле.

Повезани чланак:

Које податке прикупљају вештачка интелигенција (AI) асистенти и како заштитити вашу приватност

Који су корисници заправо погођени

Једна од тачака која изазива највише сумње је ко би заправо требало да буде забринут. По овом питању, OpenAI је био прилично јасан: Јаз утиче само на оне који користе OpenAI API путем Веба platform.openai.comТо јест, углавном програмери, компаније и организације који интегришу моделе компаније у сопствене апликације и услуге.

Корисници који користе само редовну верзију ChatGPT-а у прегледачу или апликацији, за повремене упите или личне задатке, Не би били директно погођени због инцидента, као што компанија понавља у свим својим саопштењима. Упркос томе, ради транспарентности, OpenAI је одлучио да пошаље информативни имејл веома широко, што је допринело узбуњивању многих људи који нису укључени.

У случају API-ја, уобичајено је да иза њега стоји професионални пројекти, корпоративне интеграције или комерцијални производиОво се односи и на европске компаније. Према достављеним информацијама, организације које користе овог провајдера укључују и велике технолошке компаније и мале стартапове, што појачава идеју да је сваки играч у дигиталном екосистему рањив када аутсорсује аналитику или услуге праћења.

Са правне тачке гледишта, релевантно је за европске купце да је ово кршење особа задужена за лечење (Mixpanel) који обрађује податке у име OpenAI. Ово захтева обавештавање погођених организација и, где је то потребно, органа за заштиту података, у складу са GDPR прописима.

Који подаци су процурели, а који подаци су остали безбедни

Из перспективе корисника, велико питање је какве су информације изостављене. OpenAI и Mixpanel се слажу да је то... подаци профила и основна телеметрија, корисно за аналитику, али не и за садржај интеракција са вештачком интелигенцијом или приступним акредитивима.

Између потенцијално изложени подаци Пронађени су следећи елементи везани за API налоге:

• име наведено приликом регистрације налога у API-ју.
• Емаил адреса повезан са тим налогом.
• Približna lokacija (град, покрајина или држава и земља), закључено из прегледача и IP адресе.
• Оперативни систем и прегледач користи се за приступ platform.openai.com.
• Референтни веб-сајтови (референти) са којих је досегнут API интерфејс.
• Интерни идентификатори корисника или организације повезан са API налогом.

Овај скуп алата сам по себи не дозвољава никоме да преузме контролу над налогом или извршава API позиве у име корисника, али пружа прилично потпун профил ко је корисник, како се повезује и како користи услугу. За нападача специјализованог за социјални инжењерингОви подаци могу бити чисто злато приликом припреме изузетно убедљивих имејлова или порука.

Истовремено, OpenAI наглашава да постоји блок информација који није био угроженПрема компанији, они остају безбедни:

• Ћаскање са ChatGPT-ом, укључујући упите и одговоре.
• API захтеви и евиденције коришћења (генерисани садржај, технички параметри итд.).
• Лозинке, акредитиви и API кључеви рачуна.
• Информације о плаћању, као што су бројеви картица или подаци за плаћање.
• Званични лични документи или друге посебно осетљиве информације.

Другим речима, инцидент спада у делокруг идентификациони и контекстуални подациАли није дотакло ни разговоре са вештачком интелигенцијом нити кључеве који би омогућили трећој страни да директно управља налозима.

Главни ризици: фишинг и друштвени инжењеринг

Чак и ако нападач нема лозинке или API кључеве, њихово поседовање име, имејл адреса, локација и интерни идентификатори омогућава покретање кампање преваре много веродостојнији. Ту стручњаци за OpenAI и безбедност усмеравају своје напоре.

Са тим информацијама на столу, лако је конструисати поруку која делује легитимно: имејлови који имитирају стил комуникације OpenAI-аПомињу API, наводе корисника по имену, па чак и алудирају на његов град или земљу како би упозорење звучало реалније. Нема потребе за нападом на инфраструктуру ако можете преварити корисника да преда своје акредитиве на лажној веб страници.

Највероватнији сценарији укључују покушаје да се класични фишинг (линкови до наводних API панела за управљање ради „верификације налога“) и сложенијим техникама социјалног инжењеринга усмереним на администраторе организација или ИТ тимове у компанијама које интензивно користе API.

У Европи је ова тачка директно повезана са захтевима GDPR-а о минимизирање податакаНеки стручњаци за сајбер безбедност, попут тима OX Security који се цитира у европским медијима, истичу да прикупљање више информација него што је строго неопходно за аналитику производа – на пример, имејлова или детаљних података о локацији – може бити у сукобу са обавезом да се количина обрађених података ограничи колико год је то могуће.

Одговор OpenAI-а: прекид са Mixpanel-ом и темељан преглед

Када је OpenAI добио техничке детаље инцидента, покушао је да одлучно реагује. Прва мера је била потпуно уклоните интеграцију Mixpanel-а свих својих производних услуга, тако да провајдер више нема приступ новим подацима које генеришу корисници.

Истовремено, компанија наводи да темељно прегледа погођени скуп података да разумеју стварни утицај на сваки налог и организацију. На основу те анализе, почели су да обавестити појединачно администраторима, компанијама и корисницима који се појављују у скупу података који је нападач извезао.

OpenAI такође тврди да је почео додатне безбедносне провере на свим њиховим системима и код свих осталих спољних добављача са ким сарађује. Циљ је повећање захтева заштите, јачање уговорних клаузула и строжија ревизија начина на који ове треће стране прикупљају и чувају информације.

Компанија у својим комуникацијама наглашава да „поверење, безбедност и приватностОво су централни елементи његове мисије. Поред реторике, овај случај илуструје како кршење наизглед секундарног агента може имати директан утицај на перципирану безбедност сервиса масовног као што је ChatGPT.

Утицај на кориснике и предузећа у Шпанији и Европи

У европском контексту, где је GDPR и будући прописи специфични за вештачку интелигенцију Они су поставили високе стандарде за заштиту података, а инциденти попут овог се пажљиво испитују. За сваку компанију која користи OpenAI API из Европске уније, кршење података од стране добављача аналитике није мала ствар.

С једне стране, европски контролори података који су део API-ја мораће прегледају своје процене утицаја и евиденције активности да провере како је описано коришћење провајдера попут Mixpanel-а и да ли су информације које се пружају њиховим корисницима довољно јасне.

С друге стране, откривање корпоративних имејлова, локација и организационих идентификатора отвара врата ка Циљани напади на развојне тимове, ИТ одељења или менаџере пројеката вештачке интелигенцијеОво се не односи само на потенцијалне ризике за појединачне кориснике, већ и на компаније које заснивају критичне пословне процесе на OpenAI моделима.

У Шпанији, ова врста празнине долази на радар Шпанска агенција за заштиту података (АЕПД) када утичу на грађане или ентитете са седиштем на националној територији. Ако погођене организације сматрају да цурење представља ризик за права и слободе појединаца, дужне су да то процене и, где је то потребно, да обавесте и надлежни орган.

Практични савети за заштиту вашег налога

Поред техничких објашњења, оно што многи корисници желе да знају је Шта они морају да ураде одмах?ОпенАИ инсистира да промена лозинке није неопходна, јер није процурела, али већина стручњака препоручује примену додатног слоја опреза.

Ако користите OpenAI API или једноставно желите да будете сигурни, препоручљиво је да пратите низ основних корака који Они драстично смањују ризик да би нападач могао да искористи процуреле податке:

• Будите опрезни са неочекиваним имејловима који тврде да су из OpenAI или сервиса повезаних са API-јем, посебно ако помињу термине попут „хитна верификација“, „безбедносни инцидент“ или „закључавање налога“.
• Увек проверите адресу пошиљаоца и домен на који линкови указују пре него што кликнете. Ако имате било какве недоумице, најбоље је да му приступите ручно. platform.openai.com укуцавањем URL-а у прегледач.
• Омогући вишефакторску аутентификацију (MFA/2FA) на вашем OpenAI налогу и било којој другој осетљивој услузи. То је веома ефикасна баријера чак и ако неко добије вашу лозинку преваром.
• Не делите лозинке, API кључеве или верификационе кодове путем имејла, ћаскања или телефона. OpenAI подсећа кориснике да никада неће захтевати ову врсту података путем непроверених канала.
• Валора Промените своју лозинку Ако сте интензиван корисник API-ја или ако га желите поново користити у другим сервисима, нешто што је генерално најбоље избегавати.

За оне који раде из компанија или управљају пројектима са више програмера, ово би могао бити добар тренутак да прегледајте политике интерне безбедностиДозволе за приступ API-ју и процедуре за реаговање на инциденте, усклађујући их са препорукама тимова за сајбер безбедност.

Лекције о подацима, трећим странама и поверењу у вештачку интелигенцију

Цурење података са Микспанела је било ограничено у поређењу са другим већим инцидентима последњих година, али се дешава у време када је Генеративне вештачке интелигенције су постале уобичајене Ово се односи и на појединце и на европске компаније. Сваки пут када се неко региструје, интегрише API или отпреми информације на такав алат, ставља значајан део свог дигиталног живота у руке трећих лица.

Једна од лекција коју овај случај учи јесте потреба да се минимизирајте дељење личних података са спољним добављачимаНеколико стручњака наглашава да, чак и када се ради са легитимним и добро познатим компанијама, сваки идентификовани податак који напушта главно окружење отвара нову потенцијалну тачку изложености.

Такође истиче степен у којем је транспарентна комуникација Ово је кључно. OpenAI је одлучио да пружи широке информације, чак шаље имејлове корисницима који нису погођени, што може изазвати извесну узбуну, али заузврат оставља мање простора за сумњу у недостатак информација.

У сценарију где ће вештачка интелигенција наставити да се интегрише у административне процедуре, банкарство, здравство, образовање и рад на даљину широм Европе, инциденти попут овог служе као подсетник да... Безбедност не зависи искључиво од главног добављача.већ целе мреже компанија које стоје иза тога. И да, чак и ако кршење података не укључује лозинке или разговоре, ризик од преваре остаје веома реалан ако се не усвоје основне заштитне навике.

Све што се догодило са кршењем ChatGPT-а и Mixpanel-а показује како чак и релативно ограничено цурење података може имати значајне последице: приморава OpenAI да преиспита свој однос са трећим странама, подстиче европске компаније и програмере да преиспитају своје безбедносне праксе и подсећа кориснике да њихова главна одбрана од напада остаје информисаност. прате имејлове које примају и појачају заштиту њихових налога.

Алберто Наварро

Ја сам технолошки ентузијаста који је своја „штреберска“ интересовања претворио у професију. Провео сам више од 10 година свог живота користећи најсавременију технологију и петљајући по свим врстама програма из чисте радозналости. Сада сам се специјализовао за компјутерску технологију и видео игрице. То је зато што више од 5 година пишем за различите веб странице о технологији и видео игрицама, стварајући чланке који желе да вам дају информације које су вам потребне на језику који је свима разумљив.

Ако имате било каквих питања, моје знање се креће од свега што се тиче Виндовс оперативног система као и Андроида за мобилне телефоне. И моја посвећеност је вама, увек сам спреман да потрошим неколико минута и помогнем вам да решите сва питања која имате у овом свету интернета.