Какви данни събират асистентите с изкуствен интелект и как да защитите поверителността си

Изкуственият интелект премина от обещание към рутина за рекордно кратко време и заедно с него възникнаха много специфични съмнения: Какви данни събират асистентите с изкуствен интелект?Как ги използват и какво можем да направим, за да запазим информацията си в безопасност. Ако използвате чатботове, асистенти в браузъра или генеративни модели, е добре да поемете контрол над поверителността си възможно най-скоро.

Освен че са изключително полезни инструменти, тези системи се захранват с данни от голям мащаб. Обемът, произходът и обработката на тази информация Те въвеждат нови рискове: от извеждане на лични черти до случайно разкриване на чувствително съдържание. Тук ще намерите подробно и без да се замисляте, какво улавят, защо го правят, какво казва законът и Как да защитите акаунтите и активността сиНека научим всичко за Какви данни събират AI асистентите и как да защитите поверителността си. 

Какви данни всъщност събират асистентите с изкуствен интелект?

Съвременните асистенти обработват много повече от просто вашите въпроси. Информация за контакт, идентификатори, употреба и съдържание Те обикновено са включени в стандартните категории. Говорим за име и имейл, но също така за IP адреси, информация за устройството, регистрационни файлове за взаимодействие, грешки и, разбира се, съдържанието, което генерирате или качвате (съобщения, файлове, изображения или публични връзки).

В рамките на екосистемата на Google, известието за поверителност на Gemini описва точно какво събира. информация от свързани приложения (например история на търсенето или YouTube, контекст на Chrome), данни за устройството и браузъра (тип, настройки, идентификатори), показатели за производителност и отстраняване на грешки и дори системни разрешения на мобилни устройства (като достъп до контакти, регистри на обаждания и съобщения или екранно съдържание), когато са оторизирани от потребителя.

Те също се занимават данни за местоположение (приблизително местоположение на устройството, IP адрес или адреси, запазени в акаунта) и подробности за абонамента, ако използвате платени планове. Освен това се съхраняват следните данни: собствено съдържание, което моделите генерират (текст, код, аудио, изображения или резюмета), нещо ключово за разбирането на отпечатъка, който оставяте, когато взаимодействате с тези инструменти.

Трябва да се отбележи, че събирането на данни не се ограничава само до обучение: Участниците могат да записват активността си в реално време По време на употреба (например, когато разчитате на разширения или плъгини), това включва телеметрия и събития на приложенията. Това обяснява защо контролирането на разрешенията и прегледът на настройките за активност са от решаващо значение.

За какво използват тези данни и кой може да ги види?

Компаниите често се позовават на широки и повтарящи се цели: За предоставяне, поддържане и подобряване на услугата, персонализиране на преживяването и разработване на нови функциида комуникира с вас, да измерва производителността и да защитава потребителя и платформата. Всичко това се отнася и за технологиите за машинно обучение и самите генеративни модели.

Чувствителна част от процеса е човешки прегледРазлични доставчици признават, че вътрешният персонал или доставчиците на услуги преглеждат образци от взаимодействия, за да подобрят сигурността и качеството. Оттук и постоянната препоръка: избягвайте включването на поверителна информация, която не бихте искали дадено лице да види или която би била използвана за усъвършенстване на моделите.

В известните си политики някои услуги посочват, че не споделят определени данни за рекламни цели, въпреки че Да, те могат да предоставят информация на властите. съгласно законово изискване. Други, по своето естество, споделяне с рекламодатели или партньори идентификатори и агрегирани сигнали за анализи и сегментиране, отваряйки вратата към профилиране.

Лечението включва също, задържане за предварително определени периодиНапример, някои доставчици задават период на автоматично изтриване по подразбиране от 18 месеца (с възможност за промяна на 3, 36 или за неопределено време) и запазват прегледаните разговори за по-дълги периоди от съображения за качество и сигурност. Препоръчително е да прегледате периодите на съхранение и да активирате автоматичното изтриване, ако искате да сведете до минимум дигиталния си отпечатък.

Рискове за поверителността през целия жизнен цикъл на изкуствения интелект

Поверителността не е застрашена само в една точка, а в цялата верига: приемане на данни, обучение, извод и приложен слойПри масово събиране на данни, чувствителни данни могат да бъдат включени неволно без надлежно съгласие; по време на обучение е лесно първоначалните очаквания за употреба да бъдат превишени; а по време на изводите, моделите могат правят изводи за лични черти започвайки от привидно тривиални сигнали; а в приложението, API или уеб интерфейсите са привлекателни цели за атакуващите.

При генеративните системи рисковете се умножават (например, Играчки с изкуствен интелект). Набори от данни, извлечени от интернет без изрично разрешение Те могат да съдържат лична информация, а някои злонамерени подкани (инжектиране на подкани) се стремят да манипулират модела, за да филтрират чувствително съдържание или да изпълняват опасни инструкции. От друга страна, много потребители Те поставят поверителни данни без да се отчита, че те биха могли да бъдат съхранени или използвани за коригиране на бъдещи версии на модела.

Академичните изследвания разкриха специфични проблеми. Неотдавнашен анализ на асистенти на браузъра То откри широко разпространени практики за проследяване и профилиране, с предаване на съдържание от търсенето, чувствителни данни от формуляри и IP адреси към сървърите на доставчика. Освен това, то демонстрира способността да се правят изводи за възраст, пол, доход и интереси, като персонализацията се запазва в различните сесии; в това проучване, Само една услуга не показа доказателства за профилиране.

Историята на инцидентите ни напомня, че рискът не е теоретичен: нарушения на сигурността Те са разкрили истории на чатове или потребителски метаданни, а нападателите вече използват техники за моделиране, за да извличат информация за обучение. Нещо повече, Автоматизация на тръбопроводи с изкуствен интелект Това затруднява откриването на проблеми с поверителността, ако предпазните мерки не са проектирани от самото начало.

Какво казват законите и рамките?

Повечето страни вече имат Правила за поверителност в сила и въпреки че не всички са специфични за ИИ, те се прилагат за всяка система, която обработва лични данни. В Европа Бисквитки Това изисква законност, прозрачност, минимизиране, ограничаване на целите и сигурност; освен това, Закон за ИИ Европейската комисия въвежда категории на риск, забранява практики с голямо въздействие (като например социално оценяване публичен) и налага строги изисквания към системите с висок риск.

В САЩ, държавни разпоредби, като например CCPA или закон на Тексас Те предоставят права за достъп, изтриване и отказ от продажба на данни, докато инициативи като закона на Юта Те изискват ясни известия, когато потребителят взаимодейства с генеративни системи. Тези нормативни слоеве съществуват едновременно със социалните очаквания: проучванията на общественото мнение показват забележимо недоверие към отговорната употреба на данни от компаниите и несъответствие между самовъзприятието на потребителите и тяхното действително поведение (например приемане на политики, без да ги прочетат).

За управление на риска на земята, рамката на NIST (AI RMF) Предлагат се четири текущи функции: Управление (отговорни политики и надзор), Картографиране (разбиране на контекста и въздействията), Измерване (оценка и наблюдение на рисковете с показатели) и Управление (приоритизиране и смекчаване). Този подход помага за адаптиране на контролите според нивото на риск на системата.

Кой колекционира най-много: рентгенова снимка на най-популярните чатботове

Последните сравнения поставят различни асистенти в един и същ спектър на колекциите. Gemini на Google оглавява класацията чрез събиране на най-голям брой уникални данни в различни категории (включително мобилни контакти, ако са предоставени разрешения), нещо, което рядко се среща при други конкуренти.

В средния диапазон решенията включват например Клод, Copilot, DeepSeek, ChatGPT и Perplexity, с между десет и тринадесет вида данни, вариращи комбинацията между контакт, местоположение, идентификатори, съдържание, история, диагнози, употреба и покупки. Грок Намира се в долната част с по-ограничен набор от сигнали.

Съществуват и разлики в последваща употребаДокументирано е, че някои услуги споделят определени идентификатори (като например криптирани имейли) и сигнали за сегментиране с рекламодатели и бизнес партньори, докато други заявяват, че не използват данни за рекламни цели или не ги продават, въпреки че си запазват правото да отговарят на правни искания или да ги използват за... подобряване на системата, освен ако потребителят не поиска изтриване.

От гледна точка на крайния потребител, това се изразява в един ясен съвет: Прегледайте правилата на всеки доставчикНастройте разрешенията на приложението и съзнателно решете каква информация предоставяте във всеки контекст, особено ако ще качвате файлове или споделяте чувствително съдържание.

Основни най-добри практики за защита на вашата поверителност

Преди всичко, внимателно конфигурирайте настройките за всеки асистент. Разгледайте какво се съхранява, за колко време и с каква цел.и активирайте автоматично изтриване, ако е възможно. Преглеждайте периодично правилата, тъй като те се променят често и може да включват нови опции за контрол.

Избягвайте споделянето лични и чувствителни данни Във вашите подкани: никакви пароли, номера на кредитни карти, медицински досиета или вътрешни фирмени документи. Ако трябва да боравите с чувствителна информация, помислете за механизми за анонимизиране, затворени среди или локални решения. засилено управление.

Защитете акаунтите си със силни пароли и удостоверяване в две стъпки (2FA)Неоторизиран достъп до вашия акаунт разкрива историята на сърфирането, качените файлове и предпочитанията ви, което може да се използва за силно надеждни атаки чрез социално инженерство или за незаконна продажба на данни.

Ако платформата го позволява, деактивиране на историята на чата Или използвайте временни методи. Тази проста мярка намалява излагането ви на риск в случай на нарушение, както е показано от минали инциденти, включващи популярни услуги с изкуствен интелект.

Не се доверявайте сляпо на отговорите. Моделите могат да халюцинира, да бъде предубеден или да бъде манипулиран чрез злонамерено инжектиране на информация, което води до погрешни инструкции, неверни данни или извличане на чувствителна информация. За правни, медицински или финансови въпроси, за разлика от официални източници.

Бъдете изключително внимателни с връзки, файлове и код което се предоставя от изкуствен интелект. Възможно е да има злонамерено съдържание или умишлено въведени уязвимости (отравяне на данни). Проверете URL адресите, преди да кликнете върху тях, и сканирайте файловете с реномирани решения за сигурност.

Недоверие разширения и плъгини със съмнителен произход. Има море от добавки, базирани на изкуствен интелект, и не всички от тях са надеждни; инсталирайте само най-важните от реномирани източници, за да сведете до минимум риска от злонамерен софтуер.

В корпоративната сфера, внесете ред в процеса на приемане. Дефинирайте Политики за управление, специфични за ИИТо ограничава събирането на данни до необходимото, изисква информирано съгласие, извършва одити на доставчици и набори от данни (верига за доставки) и внедрява технически контроли (като DLP, наблюдение на трафика към приложения с изкуствен интелект и др.) подробен контрол на достъпа).

Осъзнаването е част от щита: сформирайте своя екип в рисковете, свързани с изкуствения интелект, напредналия фишинг и етичната употреба. Инициативите в индустрията, които споделят информация за инциденти, свързани с изкуствен интелект, като например тези, организирани от специализирани организации, насърчават непрекъснатото обучение и подобрената защита.

Конфигуриране на поверителността и активността в Google Gemini

Ако използвате Gemini, влезте в профила си и отметнете „Активност в приложенията GeminiТам можете да преглеждате и изтривате взаимодействия, да променяте периода на автоматично изтриване (по подразбиране 18 месеца, с възможност за промяна на 3 или 36 месеца или за неопределено време) и да решавате дали те да се използват за подобряване на изкуствения интелект Google.

Важно е да знаете, че дори и с деактивирано запазване, Вашите разговори се използват за отговаряне и поддържане на системната сигурност с подкрепата на хора, проверяващи. Прегледаните разговори (и свързаните с тях данни, като език, тип устройство или приблизително местоположение) могат да бъдат запазени. до три години.

На мобилен телефон, Проверете разрешенията на приложениетоМестоположение, микрофон, камера, контакти или достъп до екранно съдържание. Ако разчитате на функции за диктовка или гласово активиране, не забравяйте, че системата може да се активира погрешно от звуци, подобни на ключовата дума; в зависимост от настройките, тези фрагменти биха могли да се използва за подобряване на моделите и намаляване на нежеланите активирания.

Ако свързвате Gemini с други приложения (Google или трети страни), имайте предвид, че всяко от тях обработва данни съгласно собствените си правила. собствените си политикиВъв функции като Canvas, създателят на приложението може да вижда и запазва това, което споделяте, и всеки с публичната връзка може да преглежда или редактира тези данни: споделяйте само с надеждни приложения.

В региони, където е приложимо, е възможно надграждане до определени преживявания Импортиране на историята на обажданията и съобщенията От вашата активност в мрежата и приложенията до активност, специфична за Gemini, за да подобрите предложенията (например контакти). Ако не искате това, коригирайте контролите, преди да продължите.

Масово използване, регулиране и тенденция на „сянка на изкуствения интелект“

Осиновяването е огромно: последните доклади показват, че По-голямата част от организациите вече внедряват модели с изкуствен интелектВъпреки това, много екипи нямат достатъчна зрялост в областта на сигурността и управлението, особено в сектори със строги разпоредби или големи обеми от чувствителни данни.

Проучвания в бизнес сектора разкриват недостатъци: много висок процент организации в Испания Не е подготвен да защитава среди, задвижвани от изкуствен интелекти повечето нямат основни практики за защита на облачните модели, потоците от данни и инфраструктурата. Успоредно с това регулаторните действия се затягат и се появяват нови заплахи. санкции за неспазване на GDPR и местните разпоредби.

Междувременно, феноменът на сянка на изкуствен интелект Разраства се: служителите използват външни асистенти или лични акаунти за служебни задачи, разкривайки вътрешни данни без контрол на сигурността или договори с доставчици. Ефективният отговор не е да се забрани всичко, а да се осигури безопасна употреба в контролирана среда, с одобрени платформи и наблюдение на информационния поток.

На потребителски фронт, големите доставчици коригират политиките си. Последните промени обясняват например как дейност с Gemini за „подобряване на услугите“предлагайки опции като временен разговор и контроли за активност и персонализиране. В същото време компаниите за съобщения подчертават, че Личните чатове остават недостъпни към ИИ по подразбиране, въпреки че те съветват да не изпращате информация към ИИ, която не искате компанията да знае.

Съществуват и обществени корекции: услуги на прехвърляне на файлове Те уточниха, че не използват потребителско съдържание за обучение на модели, нито го продават на трети страни, след като изразиха опасения относно промените в условията. Този социален и правен натиск ги тласка да бъдат по-ясни и... дават на потребителя повече контрол.

С поглед към бъдещето, технологичните компании проучват начини за намаляване на зависимостта от чувствителни данниСамоусъвършенстващи се модели, по-добри процесори и генериране на синтетични данни. Тези постижения обещават да облекчат недостига на данни и проблемите със съгласието, въпреки че експертите предупреждават за възникващи рискове, ако изкуственият интелект ускори собствените си възможности и се приложи в области като кибернахлуване или манипулация.

Изкуственият интелект е едновременно защита и заплаха. Платформите за сигурност вече интегрират модели за откриване и реагиране по-бързо, докато атакуващите използват LLM за убедителен фишинг и дийпфейковеТова дърпане на въжета изисква постоянни инвестиции в технически контрол, оценка на доставчиците, непрекъснат одит и постоянни актуализации на оборудването.

Асистентите с изкуствен интелект събират множество сигнали за вас – от съдържанието, което въвеждате, до данните за устройството, употребата и местоположението. Част от тази информация може да бъде прегледана от хора или споделена с трети страни, в зависимост от услугата. Ако искате да използвате изкуствен интелект, без да компрометирате поверителността си, комбинирайте фина настройка (история, разрешения, автоматично изтриване), оперативна предпазливост (не споделяйте чувствителни данни, проверявайте връзки и файлове, ограничавайте файловите разширения), защита на достъпа (силни пароли и 2FA) и активно наблюдение за промени в политиките и нови функции, които могат да засегнат поверителността ви. как се използват и съхраняват вашите данни.