Koje podatke prikupljaju AI asistenti i kako zaštititi vašu privatnost

Umjetna inteligencija je u rekordnom roku prešla put od obećanja do rutine, a s njom su se pojavile i vrlo specifične sumnje: Koje podatke prikupljaju AI asistenti?Kako ih koriste i šta možemo učiniti da zaštitimo naše podatke. Ako koristite chatbotove, asistente preglednika ili generativne modele, dobra je ideja da što prije preuzmete kontrolu nad svojom privatnošću.

Osim što su izuzetno korisni alati, ovi sistemi koriste podatke velikih razmjera. Obim, porijeklo i tretman tih informacija Oni uvode nove rizike: od zaključivanja o ličnim osobinama do slučajnog otkrivanja osjetljivog sadržaja. Ovdje ćete detaljno i bez okolišanja pronaći šta oni bilježe, zašto to rade, šta zakon kaže i Kako zaštititi svoje račune i svoju aktivnostHajde da saznamo sve o Koje podatke prikupljaju AI asistenti i kako zaštititi vašu privatnost. 

Koje podatke zapravo prikupljaju AI asistenti?

Moderni asistenti obrađuju mnogo više od samo vaših pitanja. Kontakt informacije, identifikatori, korištenje i sadržaj Ovo je obično uključeno u standardne kategorije. Govorimo o imenu i e-mailu, ali i IP adresama, informacijama o uređaju, zapisnicima interakcije, greškama i, naravno, sadržaju koji generirate ili prenosite (poruke, datoteke, slike ili javni linkovi).

Unutar Google ekosistema, Geminijeva obavijest o privatnosti precizno opisuje šta prikuplja informacije iz povezanih aplikacija (na primjer, historija pretrage ili YouTubea, kontekst Chromea), podaci o uređaju i pregledniku (vrsta, postavke, identifikatori), metrike performansi i otklanjanja grešaka, pa čak i sistemske dozvole na mobilnim uređajima (kao što je pristup kontaktima, zapisnicima poziva i porukama ili sadržaju na ekranu) kada ih korisnik odobri.

Oni se također bave podaci o lokaciji (približna lokacija uređaja, IP adresa ili adrese sačuvane na računu) i detalji pretplate ako koristite plaćene planove. Pored toga, pohranjuju se i sljedeći podaci: vlastiti sadržaj koji modeli generiraju (tekst, kod, audio, slike ili sažeci), nešto ključno za razumijevanje otiska koji ostavljate prilikom interakcije s ovim alatima.

Treba napomenuti da prikupljanje podataka nije ograničeno samo na obuku: Učesnici mogu snimati aktivnosti u realnom vremenu Tokom korištenja (na primjer, kada se oslanjate na ekstenzije ili dodatke), ovo uključuje telemetriju i događaje aplikacije. Ovo objašnjava zašto je kontrola dozvola i pregled postavki aktivnosti ključan.

Za šta koriste te podatke i ko ih može vidjeti?

Kompanije se često pozivaju na široke i ponavljajuće svrhe: Da bismo pružili, održavali i poboljšali uslugu, personalizirali iskustvo i razvili nove funkcijeda komuniciraju s vama, mjere performanse i zaštite korisnika i platformu. Sve se ovo odnosi i na tehnologije mašinskog učenja i same generativne modele.

Osjetljiv dio procesa je ljudski pregledRazni dobavljači priznaju da interno osoblje ili pružatelji usluga pregledavaju uzorke interakcija kako bi poboljšali sigurnost i kvalitetu. Stoga je dosljedna preporuka: izbjegavajte uključivanje povjerljivih informacija koje ne biste željeli da osoba vidi ili koje bi se koristile za poboljšanje modela.

U poznatim politikama, neke usluge navode da ne dijele određene podatke u reklamne svrhe, iako Da, oni mogu pružiti informacije vlastima. prema zakonskim zahtjevima. Drugi, po svojoj prirodi, podijelite s oglašivačima ili partnerima identifikatore i agregirane signale za analitiku i segmentaciju, otvarajući vrata profiliranju.

Tretman takođe uključuje, zadržavanje za unaprijed definirane periodeNa primjer, neki pružatelji usluga postavljaju zadani period automatskog brisanja od 18 mjeseci (podesivo na 3, 36 ili neograničeno) i čuvaju pregledane razgovore duži period iz razloga kvalitete i sigurnosti. Preporučljivo je pregledati periode čuvanja i aktivirati automatsko brisanje ako želite smanjiti svoj digitalni otisak.

Rizici privatnosti tokom životnog ciklusa umjetne inteligencije

Privatnost nije ugrožena samo na jednoj tački, već u cijelom lancu: unos podataka, obuka, zaključivanje i sloj aplikacijeU masovnom prikupljanju podataka, osjetljivi podaci mogu biti nenamjerno uključeni bez odgovarajućeg pristanka; u obuci je lako prekoračiti prvobitna očekivanja korištenja; tokom zaključivanja, modeli mogu zaključiti lične osobine počevši od naizgled trivijalnih signala; a u aplikaciji, API-ji ili web interfejsi su atraktivne mete za napadače.

Kod generativnih sistema, rizici se umnožavaju (na primjer, Igračke s umjetnom inteligencijom). Skupovi podataka preuzeti s interneta bez izričite dozvole Mogu sadržavati lične podatke, a određeni zlonamjerni prompti (promptne injekcije) nastoje manipulirati modelom kako bi filtrirali osjetljiv sadržaj ili izvršili opasne instrukcije. S druge strane, mnogi korisnici Oni lijepe povjerljive podatke bez uzimanja u obzir da bi se mogli pohraniti ili koristiti za prilagođavanje budućih verzija modela.

Akademska istraživanja su osvijetlila specifične probleme. Nedavna analiza o pomoćnici preglednika Otkrila je široko rasprostranjene prakse praćenja i profiliranja, s prijenosom sadržaja pretraživanja, osjetljivih podataka iz obrazaca i IP adresa na servere pružatelja usluga. Nadalje, pokazala je sposobnost zaključivanja o dobi, spolu, prihodima i interesima, s personalizacijom koja je trajala kroz različite sesije; u toj studiji, Samo jedna usluga nije pokazala dokaze o profiliranju.

Historija incidenata podsjeća nas da rizik nije teoretski: kršenja sigurnosti Otkrili su historije razgovora ili korisničke metapodatke, a napadači već koriste tehnike modeliranja kako bi izvukli informacije o obuci. Da stvar bude još gora, Automatizacija AI cjevovoda Teško je otkriti probleme s privatnošću ako zaštitne mjere nisu osmišljene od samog početka.

Šta kažu zakoni i okviri?

Većina zemalja već ima propisi o privatnosti na snazi, i iako se ne odnose svi na AI, primjenjuju se na bilo koji sistem koji obrađuje lične podatke. U Evropi, RGPD To zahtijeva zakonitost, transparentnost, minimizaciju, ograničenje svrhe i sigurnost; nadalje, AI Act Evropska uvodi kategorije rizika, zabranjuje prakse sa velikim uticajem (kao što je socijalno bodovanje javni) i nameće stroge zahtjeve za sisteme visokog rizika.

U SAD-u, državni propisi kao što su CCPA ili zakon Teksasa Oni daju prava pristupa, brisanja i isključivanja iz prodaje podataka, dok inicijative poput zakona Utaha Zahtijevaju jasna obavještenja kada korisnik interaguje s generativnim sistemima. Ovi normativni slojevi koegzistiraju sa društvenim očekivanjima: ankete javnog mnjenja pokazuju značajno nepovjerenje prema odgovornoj upotrebi podataka od strane kompanija i nesklad između samopercepcije korisnika i njihovog stvarnog ponašanja (na primjer, prihvatanje politika bez njihovog čitanja).

Za upravljanje rizikom na terenu, okvir NIST (AI RMF) Predlaže četiri tekuće funkcije: Upravljanje (odgovorne politike i nadzor), Mapiranje (razumijevanje konteksta i utjecaja), Mjerenje (procjena i praćenje rizika pomoću metrike) i Upravljanje (određivanje prioriteta i ublažavanje). Ovaj pristup pomaže u prilagođavanju kontrola prema nivou rizika sistema.

Ko najviše skuplja: rendgenski snimak najpopularnijih chatbotova

Nedavna poređenja smještaju različite asistente u spektar kolekcija. Googleov Gemini predvodi rangiranje prikupljanjem najvećeg broja jedinstvenih podataka u različitim kategorijama (uključujući mobilne kontakte, ako su odobrene dozvole), nešto što se rijetko pojavljuje kod drugih konkurenata.

U srednjem rasponu, rješenja uključuju kao što su Claude, Copilot, DeepSeek, ChatGPT i Perplexity, sa između deset i trinaest vrsta podataka, varirajući kombinaciju između kontakta, lokacije, identifikatora, sadržaja, historije, dijagnoza, korištenja i kupovina. grok Nalazi se u donjem dijelu s ograničenijim skupom signala.

Postoje i razlike u naknadna upotrebaDokumentovano je da neke usluge dijele određene identifikatore (kao što su šifrirane e-poruke) i signale za segmentaciju s oglašivačima i poslovnim partnerima, dok druge navode da ne koriste podatke u reklamne svrhe niti ih prodaju, iako zadržavaju pravo da odgovore na pravne zahtjeve ili ih koriste za... poboljšati sistem, osim ako korisnik ne zatraži brisanje.

Iz perspektive krajnjeg korisnika, ovo se prevodi u jedan jasan savjet: Pregledajte politike svakog pružatelja uslugaPrilagodite dozvole aplikacije i svjesno odlučite koje informacije dajete u svakom kontekstu, posebno ako ćete prenositi datoteke ili dijeliti osjetljiv sadržaj.

Osnovne najbolje prakse za zaštitu vaše privatnosti

Prije svega, pažljivo konfigurirajte postavke za svakog asistenta. Istražite šta se pohranjuje, koliko dugo i u koju svrhu.i omogućite automatsko brisanje ako je dostupno. Povremeno pregledajte pravila, jer se ona često mijenjaju i mogu uključivati ​​nove opcije kontrole.

Izbjegavajte dijeljenje lične i osjetljive podatke U vašim upitima: bez lozinki, brojeva kreditnih kartica, medicinskih kartona ili internih dokumenata kompanije. Ako trebate rukovati osjetljivim informacijama, razmislite o mehanizmima anonimizacije, zatvorenim okruženjima ili lokalnim rješenjima. ojačano upravljanje.

Zaštitite svoje račune jakim lozinkama i autentifikacija u dva koraka (2FA)Neovlašteni pristup vašem računu otkriva vašu historiju pregledavanja, otpremljene datoteke i postavke, što se može koristiti za vrlo vjerodostojne napade socijalnog inženjeringa ili za nezakonitu prodaju podataka.

Ako platforma to dozvoljava, onemogući historiju razgovora Ili koristite privremene modalitete. Ova jednostavna mjera smanjuje vašu izloženost u slučaju kršenja sigurnosti, što su pokazali prošli incidenti koji uključuju popularne usluge umjetne inteligencije.

Nemojte slijepo vjerovati odgovorima. Modeli mogu halucinirati, biti pristrasan ili biti manipuliran putem zlonamjernog brzog ubrizgavanja, što dovodi do pogrešnih uputa, lažnih podataka ili izvlačenja osjetljivih informacija. Za pravna, medicinska ili finansijska pitanja, za razliku od zvanični izvori.

Budite izuzetno oprezni sa linkovi, datoteke i kod koji isporučuje umjetna inteligencija. Može postojati zlonamjerni sadržaj ili namjerno uvedene ranjivosti (trovanje podataka). Provjerite URL-ove prije klika i skenirajte datoteke renomiranim sigurnosnim rješenjima.

Nepovjerenje ekstenzije i dodaci sumnjivog porijekla. Postoji mnoštvo dodataka zasnovanih na vještačkoj inteligenciji, i nisu svi pouzdani; instalirajte samo one neophodne iz pouzdanih izvora kako biste smanjili rizik od zlonamjernog softvera.

U korporativnoj sferi, uvedite red u proces usvajanja. Definišite Politike upravljanja specifične za umjetnu inteligencijuOgraničava prikupljanje podataka na ono što je neophodno, zahtijeva informirani pristanak, vrši revizije dobavljača i skupova podataka (lanac snabdijevanja) i primjenjuje tehničke kontrole (kao što su DLP, praćenje prometa do AI aplikacija i detaljne kontrole pristupa).

Svjesnost je dio štita: formirajte svoj tim u rizicima umjetne inteligencije, naprednom phishingu i etičkoj upotrebi. Industrijske inicijative koje dijele informacije o incidentima umjetne inteligencije, poput onih koje pokreću specijalizirane organizacije, potiču kontinuirano učenje i poboljšanu odbranu.

Konfigurišite privatnost i aktivnosti u Google Gemini-ju

Ako koristite Gemini, prijavite se na svoj račun i označite "Aktivnost u Gemini aplikacijamaTamo možete pregledati i izbrisati interakcije, promijeniti period automatskog brisanja (zadano 18 mjeseci, podesivo na 3 ili 36 mjeseci ili neograničeno) i odlučiti hoće li se koristiti za poboljšati umjetnu inteligenciju od Googlea.

Važno je znati da, čak i kada je spremanje onemogućeno, Vaši razgovori se koriste za odgovaranje i održavati sigurnost sistema, uz podršku ljudskih pregledača. Pregledani razgovori (i povezani podaci kao što su jezik, tip uređaja ili približna lokacija) mogu se zadržati. do tri godine.

na mobilnom, Provjerite dozvole aplikacijeLokacija, mikrofon, kamera, kontakti ili pristup sadržaju na ekranu. Ako se oslanjate na funkcije diktiranja ili glasovne aktivacije, imajte na umu da se sistem može greškom aktivirati zvukovima sličnim ključnoj riječi; ovisno o postavkama, ovi isječci bi mogli koristiti za poboljšanje modela i smanjiti neželjene aktivacije.

Ako povezujete Gemini s drugim aplikacijama (Google ili trećih strana), imajte na umu da svaka od njih obrađuje podatke u skladu sa svojim vlastitim pravilima. njihove vlastite politikeU funkcijama poput Canvasa, kreator aplikacije može vidjeti i sačuvati ono što dijelite, a svako ko ima javni link može vidjeti ili uređivati ​​te podatke: dijelite samo s pouzdanim aplikacijama.

U regijama gdje je to primjenjivo, nadogradnja na određena iskustva može Uvoz historije poziva i poruka Od vaše aktivnosti na webu i u aplikacijama do aktivnosti specifične za Gemini, radi poboljšanja prijedloga (na primjer, kontakata). Ako to ne želite, prilagodite kontrole prije nego što nastavite.

Masovna upotreba, regulacija i trend „shadow AI“-a

Usvajanje je ogromno: nedavni izvještaji pokazuju da Velika većina organizacija već primjenjuje AI modeleUprkos tome, mnogim timovima nedostaje dovoljna zrelost u sigurnosti i upravljanju, posebno u sektorima sa strogim propisima ili velikim količinama osjetljivih podataka.

Studije u poslovnom sektoru otkrivaju nedostatke: vrlo visok postotak organizacija u Španiji Nije spreman da zaštiti okruženja pokretana umjetnom inteligencijomi većini nedostaju osnovne prakse za zaštitu cloud modela, tokova podataka i infrastrukture. Paralelno s tim, regulatorne mjere se pooštravaju i pojavljuju se nove prijetnje. kazne za nepoštivanje GDPR-a i lokalnih propisa.

U međuvremenu, fenomen shadow AI Raste: zaposleni koriste eksterne asistente ili lične račune za radne zadatke, otkrivajući interne podatke bez sigurnosnih kontrola ili ugovora s dobavljačima. Učinkovit odgovor nije zabraniti sve, već omogućiti sigurnu upotrebu u kontroliranim okruženjima, s odobrenim platformama i praćenjem protoka informacija.

Što se tiče potrošača, glavni dobavljači prilagođavaju svoje politike. Nedavne promjene objašnjavaju, na primjer, kako aktivnost sa Gemini-jem za „poboljšanje usluga“nudeći opcije kao što su privremeni razgovor i kontrole aktivnosti i prilagođavanja. Istovremeno, kompanije za razmjenu poruka naglašavaju da Lični razgovori ostaju nedostupni AI-ima po zadanim postavkama, iako savjetuju da ne šaljete AI-u informacije koje ne želite da kompanija zna.

Postoje i javne korekcije: usluge prijenos datoteka Pojasnili su da ne koriste korisnički sadržaj za obuku modela niti ga prodaju trećim stranama, nakon što su izrazili zabrinutost zbog promjena uslova. Ovaj društveni i pravni pritisak ih tjera da budu jasniji i dati korisniku veću kontrolu.

Gledajući u budućnost, tehnološke kompanije istražuju načine da smanjiti ovisnost o osjetljivim podacimaSamousavršavajući modeli, bolji procesori i generiranje sintetičkih podataka. Ovi napredci obećavaju ublažavanje nedostatka podataka i problema sa pristankom, iako stručnjaci upozoravaju na nove rizike ako vještačka inteligencija ubrza vlastite mogućnosti i primijeni se na područja poput sajber upada ili manipulacije.

Vještačka inteligencija je i odbrana i prijetnja. Sigurnosne platforme već integriraju modele za otkriti i odgovoriti brže, dok napadači koriste LLM-ove za uvjerljivo phishing i deepfakeoviOvo natezanje konopa zahtijeva kontinuirano ulaganje u tehničke kontrole, evaluaciju dobavljača, kontinuiranu reviziju i stalna ažuriranja opreme.

AI asistenti prikupljaju više signala o vama, od sadržaja koji kucate do podataka o uređaju, korištenja i lokacije. Neke od ovih informacija mogu pregledati ljudi ili se mogu dijeliti s trećim stranama, ovisno o usluzi. Ako želite iskoristiti AI bez ugrožavanja vaše privatnosti, kombinirajte fino podešavanje (historija, dozvole, automatsko brisanje), operativnu razboritost (ne dijelite osjetljive podatke, provjeravajte linkove i datoteke, ograničite ekstenzije datoteka), zaštitu pristupa (jake lozinke i 2FA) i aktivno praćenje promjena politika i novih funkcija koje mogu utjecati na vašu privatnost. kako se vaši podaci koriste i pohranjuju.