Kokius duomenis renka dirbtinio intelekto asistentai ir kaip apsaugoti jūsų privatumą

Dirbtinis intelektas per rekordiškai trumpą laiką iš pažado tapo rutina, o kartu su juo kilo labai konkrečių abejonių: Kokius duomenis renka dirbtinio intelekto asistentai?Kaip jie juos naudoja ir ką galime padaryti, kad mūsų informacija būtų saugi. Jei naudojate pokalbių robotus, naršyklės asistentus ar generatyvinius modelius, geriausia kuo greičiau perimti savo privatumo kontrolę.

Be to, kad šios sistemos yra nepaprastai naudingos priemonės, jos taip pat naudoja didelio masto duomenis. Šios informacijos kiekis, kilmė ir apdorojimas Jie įneša naujų pavojų: nuo asmeninių bruožų numatymo iki atsitiktinio neskelbtino turinio atskleidimo. Čia rasite išsamią informaciją ir neperskaitę, ką jie užfiksuoja, kodėl tai daro, ką sako įstatymai ir kt. Kaip apsaugoti savo paskyras ir veikląSužinokime viską apie Kokius duomenis renka dirbtinio intelekto asistentai ir kaip apsaugoti savo privatumą. 

Kokius duomenis iš tikrųjų renka dirbtinio intelekto asistentai?

Šiuolaikiniai asistentai apdoroja daug daugiau nei tik jūsų klausimus. Kontaktinė informacija, identifikatoriai, naudojimas ir turinys Paprastai jie įtraukiami į standartines kategorijas. Kalbame apie vardą ir el. pašto adresą, bet taip pat ir apie IP adresus, įrenginio informaciją, sąveikos žurnalus, klaidas ir, žinoma, jūsų generuojamą ar įkeliamą turinį (žinutes, failus, vaizdus ar viešas nuorodas).

„Google“ ekosistemoje „Gemini“ privatumo pranešimas tiksliai aprašo, ką ji renka. informacija iš prijungtų programų (pvz., paieškos ar „YouTube“ istorija, „Chrome“ kontekstas), įrenginio ir naršyklės duomenys (tipas, nustatymai, identifikatoriai), našumo ir derinimo metrikos ir net sistemos leidimai mobiliuosiuose įrenginiuose (pvz., prieiga prie kontaktų, skambučių žurnalų ir pranešimų arba ekrane rodomo turinio), kai vartotojas tam suteikia leidimą.

Jie taip pat prekiauja vietos duomenis (apytikslė įrenginio vieta, IP adresas arba paskyroje išsaugoti adresai) ir prenumeratos informacija, jei naudojate mokamus planus. Be to, saugoma ši informacija: savo turinį, kurį generuoja modeliai (tekstas, kodas, garsas, vaizdai ar santraukos) – tai labai svarbu norint suprasti, kokį pėdsaką paliekate bendraudami su šiais įrankiais.

Reikėtų pažymėti, kad duomenų rinkimas neapsiriboja mokymu: Dalyviai gali įrašyti veiklą realiuoju laiku Naudojimo metu (pavyzdžiui, kai naudojate plėtinius ar papildinius) tai apima telemetriją ir programų įvykius. Tai paaiškina, kodėl labai svarbu valdyti teises ir peržiūrėti veiklos nustatymus.

Kam jie naudoja tuos duomenis ir kas juos gali matyti?

Įmonės dažnai nurodo plačius ir pasikartojančius tikslus: Teikti, prižiūrėti ir tobulinti paslaugą, suasmeninti patirtį ir kurti naujas funkcijaskad galėtume bendrauti su jumis, matuoti našumą ir apsaugoti vartotoją bei platformą. Visa tai taip pat taikoma mašininio mokymosi technologijoms ir patiems generatyviniams modeliams.

Jautri proceso dalis yra žmogaus apžvalgaĮvairūs tiekėjai pripažįsta, kad vidiniai darbuotojai arba paslaugų teikėjai peržiūri sąveikos pavyzdžius, siekdami pagerinti saugumą ir kokybę. Todėl nuolat rekomenduojama vengti įtraukti konfidencialios informacijos, kurios nenorėtumėte, kad kas nors matytų, arba kuri būtų naudojama modeliams tobulinti.

Žinomose politikos nuostatose kai kurios paslaugos nurodo, kad jos nebendrina tam tikrų duomenų reklamos tikslais, nors Taip, jie gali teikti informaciją valdžios institucijoms. pagal teisinius reikalavimus. Kiti, dėl savo pobūdžio, bendrinti su reklamuotojais ar partneriais identifikatoriai ir apibendrinti signalai analizei ir segmentavimui, atveriant duris profiliavimui.

Gydymas taip pat apima: saugojimas iš anksto nustatytais laikotarpiaisPavyzdžiui, kai kurie paslaugų teikėjai nustato numatytąjį 18 mėnesių automatinio ištrynimo laikotarpį (galima reguliuoti iki 3, 36 mėnesių arba neriboto laiko) ir kokybės bei saugumo sumetimais peržiūrėtus pokalbius saugo ilgesnį laiką. Patartina peržiūrėti saugojimo laikotarpius ir įjungti automatinį ištrynimą, jei norite sumažinti savo skaitmeninį pėdsaką.

Privatumo rizika per visą dirbtinio intelekto gyvavimo ciklą

Privatumas pažeidžiamas ne viename taške, o visoje grandinėje: duomenų įvedimas, mokymas, išvados ir taikymo sluoksnisMasinio duomenų rinkimo metu jautrūs duomenys gali būti netyčia įtraukti be tinkamo sutikimo; mokymo metu lengva viršyti pradinius naudojimo lūkesčius; o darant išvadas, modeliai gali... daryti išvadą apie asmenines savybes pradedant nuo, atrodytų, nereikšmingų signalų; o programoje API arba žiniatinklio sąsajos yra patrauklūs taikiniai užpuolikams.

Naudojant generatyvines sistemas, rizika dauginasi (pavyzdžiui, Dirbtinio intelekto žaislai). Duomenų rinkiniai, gauti iš interneto be aiškaus leidimo Juose gali būti asmeninės informacijos, o tam tikri kenkėjiški raginimai (prompt injection) siekia manipuliuoti modeliu, kad būtų filtruojamas neskelbtinas turinys arba vykdomos pavojingos instrukcijos. Kita vertus, daugelis vartotojų Jie įklijuoja konfidencialius duomenis neatsižvelgiant į tai, kad juos būtų galima saugoti arba naudoti būsimoms modelio versijoms koreguoti.

Akademiniai tyrimai iškėlė konkrečių problemų. Neseniai atlikta analizė naršyklės asistentai Jis aptiko plačiai paplitusią sekimo ir profiliavimo praktiką, kai paieškos turinys, neskelbtini formų duomenys ir IP adresai buvo perduodami į teikėjo serverius. Be to, jis pademonstravo gebėjimą nustatyti amžių, lytį, pajamas ir pomėgius, o suasmeninimas išliko skirtinguose seansuose; tame tyrime, Tik viena paslauga nepateikė jokių profiliavimo įrodymų.

Incidentų istorija primena mums, kad rizika nėra teorinė: saugumo pažeidimus Jie atskleidė pokalbių istorijas arba naudotojų metaduomenis, o užpuolikai jau naudoja modeliavimo metodus, kad išgautų mokymo informaciją. Dar blogiau, Dirbtinio intelekto srauto automatizavimas Sunku aptikti privatumo problemas, jei apsaugos priemonės nėra numatytos nuo pat pradžių.

Ką sako įstatymai ir sistemos?

Daugumoje šalių jau yra Privatumo taisyklės galiojančios, ir nors ne visos jos skirtos tik dirbtiniam intelektui, jos taikomos bet kuriai sistemai, kuri tvarko asmens duomenis. Europoje RGPD Tam reikalingas teisėtumas, skaidrumas, duomenų kiekio mažinimas, tikslo apribojimas ir saugumas; be to, AI įstatymas Europos Sąjungoje įvedamos rizikos kategorijos, draudžiamos didelio poveikio praktikos (pvz., socialiniai balai viešas) ir nustato griežtus reikalavimus didelės rizikos sistemoms.

JAV valstijų reglamentai, tokie kaip CCPA arba Teksaso įstatymai Jie suteikia teises pasiekti duomenis, juos ištrinti ir atsisakyti jų pardavimo, o tokios iniciatyvos kaip Jutos įstatymas Jie reikalauja aiškių pranešimų, kai vartotojas sąveikauja su generatyvinėmis sistemomis. Šie normatyviniai sluoksniai egzistuoja kartu su socialiniais lūkesčiais: apklausos rodo pastebimas nepasitikėjimas atsakingu naudojimu įmonių duomenų rinkimas ir neatitikimas tarp vartotojų savęs suvokimo ir jų tikrojo elgesio (pavyzdžiui, politikos priėmimas jų neperskaičius).

Antžeminės rizikos valdymui taikoma sistema NIST (DI RMF) Jame siūlomos keturios nuolatinės funkcijos: valdymas (atsakinga politika ir priežiūra), žemėlapis (konteksto ir poveikio supratimas), matavimas (rizikos vertinimas ir stebėjimas naudojant rodiklius) ir valdymas (prioritetų nustatymas ir mažinimas). Šis metodas padeda pritaikyti valdiklius pagal sistemos rizikos lygį.

Kas renka daugiausia: populiariausių pokalbių robotų rentgeno nuotrauka

Naujausi palyginimai skirtingus asistentus suskirsto į kolekcijų spektrą. „Google“ „Gemini“ pirmauja reitinge renkant didžiausią unikalių duomenų taškų skaičių įvairiose kategorijose (įskaitant mobiliuosius kontaktus, jei suteikti leidimai), o tai retai pasitaiko pas kitus konkurentus.

Vidutinėje diapazone sprendimai apima tokius kaip Claude'as, „Copilot“, „DeepSeek“, „ChatGPT“ ir „Perplexity“, kuriame yra nuo dešimties iki trylikos tipų duomenų, apimančių įvairius duomenis: kontaktus, vietą, identifikatorius, turinį, istoriją, diagnozes, naudojimą ir pirkimus. Grokas Jis yra apatinėje dalyje su labiau ribotu signalų rinkiniu.

Taip pat yra skirtumų vėlesnis naudojimasDokumentuota, kad kai kurios paslaugos tam tikrais identifikatoriais (pvz., užšifruotais el. laiškais) ir segmentavimo signalais dalijasi su reklamuotojais ir verslo partneriais, o kitos teigia, kad nenaudoja duomenų reklamos tikslais ir jų neparduoda, nors pasilieka teisę atsakyti į teisinius prašymus arba naudoti juos kitiems tikslams. patobulinti sistemą, nebent vartotojas paprašytų ištrinti.

Galutinio vartotojo požiūriu, tai reiškia vieną aiškų patarimą: Peržiūrėkite kiekvieno tiekėjo politikąKoreguokite programėlės leidimus ir sąmoningai nuspręskite, kokią informaciją teikiate kiekviename kontekste, ypač jei ketinate įkelti failus arba bendrinti neskelbtiną turinį.

Svarbiausi geriausios praktikos pavyzdžiai jūsų privatumui apsaugoti

Pirmiausia atidžiai sukonfigūruokite kiekvieno asistento nustatymus. Ištirkite, kas saugoma, kiek laiko ir kokiu tikslu.ir įjunkite automatinį ištrynimą, jei įmanoma. Periodiškai peržiūrėkite politiką, nes ji dažnai keičiasi ir gali apimti naujas kontrolės parinktis.

Venkite dalytis asmeninius ir neskelbtinus duomenis Jūsų užklausose: jokių slaptažodžių, kredito kortelių numerių, medicininių įrašų ar vidinių įmonės dokumentų. Jei reikia tvarkyti neskelbtiną informaciją, apsvarstykite anonimizavimo mechanizmus, uždaras aplinkas arba vietinius sprendimus. sustiprintas valdymas.

Apsaugokite savo paskyras naudodami stiprius slaptažodžius ir dviejų pakopų autentifikavimas (2FA)Neteisėta prieiga prie jūsų paskyros atskleidžia jūsų naršymo istoriją, įkeltus failus ir nuostatas, kurias galima panaudoti labai patikimoms socialinės inžinerijos atakoms arba neteisėtam duomenų pardavimui.

Jei platforma leidžia, išjungti pokalbių istoriją Arba naudokite laikinus būdus. Ši paprasta priemonė sumažina jūsų riziką pažeidimo atveju, kaip parodė ankstesni incidentai, susiję su populiariomis dirbtinio intelekto paslaugomis.

Nepasitikėkite atsakymais aklai. Modeliai gali haliucinuoti, būti šališkam arba manipuliuojamam dėl piktavališkos greitos injekcijos, dėl kurios gaunamos klaidingos instrukcijos, suklastoti duomenys arba išgaunama neskelbtina informacija. Teisiniais, medicininiais ar finansiniais klausimais priešingai nei oficialūs šaltiniai.

Būkite itin atsargūs su nuorodos, failai ir kodas kurį teikia dirbtinis intelektas. Gali būti tyčia įvestas kenkėjiškas turinys arba pažeidžiamumai (duomenų užkrėtimas). Prieš spustelėdami patikrinkite URL ir nuskaitykite failus naudodami patikimas saugos priemones.

Nepasitikėjimas plėtiniai ir papildiniai abejotinos kilmės. Yra daugybė dirbtinio intelekto pagrindu sukurtų priedų ir ne visi jie yra patikimi; įdiekite tik būtiniausius iš patikimų šaltinių, kad sumažintumėte kenkėjiškų programų riziką.

Įmonių sferoje sutvarkykite diegimo procesą. Apibrėžkite. Dirbtiniam intelektui skirtos valdymo politikosDuomenų rinkimas ribojamas iki būtiniausių dalykų, reikalaujama informuoto sutikimo, tiekėjų ir duomenų rinkinių (tiekimo grandinės) auditas ir techninių kontrolės priemonių (pvz., duomenų perdavimo spartos mažinimas (DLP), srauto į dirbtinio intelekto programas stebėjimas ir kt.) taikymas. detalios prieigos kontrolės).

Sąmoningumas yra skydo dalis: suburk savo komandą dirbtinio intelekto rizikos, pažangaus sukčiavimo ir etiško naudojimo srityse. Pramonės iniciatyvos, kuriomis dalijamasi informacija apie dirbtinio intelekto incidentus, pavyzdžiui, specializuotų organizacijų iniciatyvos, skatina nuolatinį mokymąsi ir geresnę apsaugą.

Privatumo ir veiklos konfigūravimas „Google Gemini“ sistemoje

Jei naudojate „Gemini“, prisijunkite prie savo paskyros ir pažymėkite „Veikla „Gemini“ programoseTen galite peržiūrėti ir ištrinti sąveikas, pakeisti automatinio ištrynimo laikotarpį (numatytasis yra 18 mėnesių, galima reguliuoti iki 3 arba 36 mėnesių arba neribotą laiką) ir nuspręsti, ar jos bus naudojamos. patobulinti dirbtinį intelektą "Google".

Svarbu žinoti, kad net ir išjungus išsaugojimą, Jūsų pokalbiai naudojami atsakymams ir palaikyti sistemos saugumą, padedant žmonių recenzentams. Peržiūrėti pokalbiai (ir susiję duomenys, pvz., kalba, įrenginio tipas ar apytikslė vieta) gali būti išsaugoti. iki trejų metų.

mobiliajame telefone, Patikrinkite programos leidimusVieta, mikrofonas, kamera, kontaktai arba prieiga prie ekrane rodomo turinio. Jei naudojate diktavimo arba balso aktyvinimo funkcijas, atminkite, kad sistema gali būti netyčia aktyvuota garsais, panašiais į raktinį žodį; priklausomai nuo nustatymų, šie fragmentai gali... naudoti modeliams tobulinti ir sumažinti nepageidaujamų aktyvavimų skaičių.

Jei jungiate „Gemini“ su kitomis programėlėmis („Google“ ar trečiųjų šalių), atminkite, kad kiekviena iš jų tvarko duomenis pagal savo politiką. jų pačių politikaTokiose funkcijose kaip „Canvas“ programos kūrėjas gali matyti ir išsaugoti tai, ką bendrinate, o visi, turintys viešą nuorodą, gali peržiūrėti arba redaguoti šiuos duomenis: bendrinkite tik su patikimomis programomis.

Regionuose, kur taikoma, atnaujinimas į tam tikras funkcijas gali Importuoti skambučių ir pranešimų istoriją Nuo jūsų žiniatinklio ir programų veiklos iki su „Gemini“ susijusios veiklos, siekiant patobulinti pasiūlymus (pvz., kontaktus). Jei to nenorite, prieš tęsdami pakoreguokite valdiklius.

Masinis „šešėlinio dirbtinio intelekto“ naudojimas, reguliavimas ir tendencijos

Priėmimas yra stulbinantis: naujausios ataskaitos rodo, kad Didžioji dauguma organizacijų jau diegia dirbtinio intelekto modeliusNepaisant to, daugeliui komandų trūksta pakankamos brandos saugumo ir valdymo srityse, ypač sektoriuose, kuriuose taikomi griežti reglamentai arba yra daug jautrių duomenų.

Verslo sektoriaus tyrimai atskleidžia trūkumus: labai didelis organizacijų procentas Ispanijoje Jis nėra pasirengęs apsaugoti dirbtinio intelekto valdomą aplinkąir daugumai jų trūksta esminių praktikų, skirtų debesijos modeliams, duomenų srautams ir infrastruktūrai apsaugoti. Tuo pačiu metu griežtėja reguliavimo priemonės ir atsiranda naujų grėsmių. baudos už nesilaikymą BDAR ir vietos reglamentų.

Tuo tarpu reiškinys, šešėlis AI Tai auga: darbuotojai darbo užduotims atlikti naudojasi išoriniais asistentais arba asmeninėmis paskyromis, atskleisdami vidinius duomenis be saugumo kontrolės priemonių ar sutarčių su tiekėjais. Veiksmingas atsakas nėra uždrausti viską, bet... užtikrinti saugų naudojimą kontroliuojamoje aplinkoje, naudojant patvirtintas platformas ir stebint informacijos srautus.

Kalbant apie vartotojus, pagrindiniai tiekėjai koreguoja savo politiką. Naujausi pokyčiai, pavyzdžiui, paaiškina, kaip veikla su „Gemini“ siekiant „pagerinti paslaugas“siūlydamos tokias parinktis kaip laikinas pokalbis ir veiklos bei pritaikymo valdikliai. Tuo pačiu metu pranešimų siuntimo įmonės pabrėžia, kad Asmeniniai pokalbiai lieka nepasiekiami pagal numatytuosius nustatymus DI, nors jie nerekomenduoja siųsti DI informacijos, kurios nenorite, kad įmonė žinotų.

Taip pat yra viešosios pataisos įstaigos: failų perkėlimas Jie patikslino, kad nenaudoja naudotojų turinio modeliams mokyti ar parduoti trečiosioms šalims, išreiškę susirūpinimą dėl sąlygų pakeitimų. Šis socialinis ir teisinis spaudimas verčia juos būti aiškesniems ir... suteikti vartotojui daugiau kontrolės.

Žvelgdamos į ateitį, technologijų įmonės ieško būdų, kaip sumažinti priklausomybę nuo jautrių duomenųSavarankiškai tobulėjantys modeliai, geresni procesoriai ir sintetinių duomenų generavimas. Ši pažanga žada sumažinti duomenų trūkumą ir sutikimo problemas, nors ekspertai įspėja apie kylančią riziką, jei dirbtinis intelektas paspartins savo galimybes ir bus taikomas tokiose srityse kaip kibernetiniai įsilaužimai ar manipuliavimas.

Dirbtinis intelektas yra ir gynyba, ir grėsmė. Saugumo platformose jau integruoti modeliai aptikti ir reaguoti greičiau, o užpuolikai naudoja LLM, kad įtikinamasis sukčiavimas ir giliosios klastotėsŠiai virvės traukimo kovai reikalingos nuolatinės investicijos į techninę kontrolę, tiekėjų vertinimą, nuolatinį auditą ir nuolatiniai įrangos atnaujinimai.

Dirbtinio intelekto asistentai renka įvairius signalus apie jus – nuo ​​jūsų įvedamo turinio iki įrenginio duomenų, naudojimo ir vietos. Priklausomai nuo paslaugos, dalį šios informacijos gali peržiūrėti žmonės arba ji gali būti bendrinama su trečiosiomis šalimis. Jei norite pasinaudoti dirbtiniu intelektu nepažeisdami savo privatumo, derinkite tikslų derinimą (istorija, leidimai, automatinis ištrynimas), veikimo apdairumą (nebendrinkite neskelbtinų duomenų, tikrinkite nuorodas ir failus, ribokite failų plėtinius), prieigos apsaugą (stiprūs slaptažodžiai ir 2FA) ir aktyvų politikos pakeitimų bei naujų funkcijų, kurios gali turėti įtakos jūsų privatumui, stebėjimą. kaip jūsų duomenys naudojami ir saugomi.