Pa ddata mae cynorthwywyr AI yn ei gasglu a sut i amddiffyn eich preifatrwydd

Mae deallusrwydd artiffisial wedi mynd o addewid i drefn mewn amser record, a chyda hynny, mae amheuon penodol iawn wedi codi: Pa ddata mae cynorthwywyr AI yn ei gasglu?Sut maen nhw'n eu defnyddio a beth allwn ni ei wneud i gadw ein gwybodaeth yn ddiogel. Os ydych chi'n defnyddio robotiaid sgwrsio, cynorthwywyr porwr, neu fodelau cynhyrchiol, mae'n syniad da cymryd rheolaeth o'ch preifatrwydd cyn gynted â phosibl.

Yn ogystal â bod yn offer hynod ddefnyddiol, mae'r systemau hyn yn bwydo ar ddata ar raddfa fawr. Cyfaint, tarddiad, a thriniaeth y wybodaeth honno Maent yn cyflwyno risgiau newydd: o awgrymu nodweddion personol i ddatgelu cynnwys sensitif ar ddamwain. Yma fe welwch, yn fanwl a heb guro o gwmpas y llwyn, yr hyn maen nhw'n ei gofnodi, pam maen nhw'n ei wneud, yr hyn mae'r gyfraith yn ei ddweud, a Sut i amddiffyn eich cyfrifon a'ch gweithgareddGadewch i ni ddysgu popeth am Pa ddata mae cynorthwywyr AI yn ei gasglu a sut i amddiffyn eich preifatrwydd. 

Pa ddata mae cynorthwywyr AI yn ei gasglu mewn gwirionedd?

Mae cynorthwywyr modern yn prosesu llawer mwy na dim ond eich cwestiynau. Gwybodaeth gyswllt, dynodwyr, defnydd a chynnwys Mae'r rhain fel arfer wedi'u cynnwys yn y categorïau safonol. Rydym yn sôn am enw ac e-bost, ond hefyd cyfeiriadau IP, gwybodaeth am ddyfeisiau, logiau rhyngweithio, gwallau, ac, wrth gwrs, y cynnwys rydych chi'n ei gynhyrchu neu'n ei uwchlwytho (negeseuon, ffeiliau, delweddau, neu ddolenni cyhoeddus).

O fewn ecosystem Google, mae hysbysiad preifatrwydd Gemini yn disgrifio'n gywir yr hyn y mae'n ei gasglu gwybodaeth o gymwysiadau cysylltiedig (er enghraifft, hanes Chwilio neu YouTube, cyd-destun Chrome), data dyfais a phorwr (math, gosodiadau, dynodwyr), metrigau perfformiad a dadfygio, a hyd yn oed caniatâd system ar ddyfeisiau symudol (megis mynediad at gysylltiadau, logiau galwadau a negeseuon neu gynnwys ar y sgrin) pan fyddant wedi'u hawdurdodi gan y defnyddiwr.

Maent hefyd yn delio data lleoliad (lleoliad bras y ddyfais, cyfeiriad IP, neu gyfeiriadau sydd wedi'u cadw yn y cyfrif) a manylion tanysgrifio os ydych chi'n defnyddio cynlluniau taledig. Yn ogystal, mae'r canlynol yn cael eu storio: cynnwys eu hunain y mae'r modelau'n ei gynhyrchu (testun, cod, sain, delweddau neu grynodebau), rhywbeth allweddol i ddeall yr ôl troed rydych chi'n ei adael wrth ryngweithio â'r offer hyn.

Dylid nodi nad yw casglu data yn gyfyngedig i hyfforddiant: Gall mynychwyr gofnodi gweithgaredd mewn amser real Yn ystod y defnydd (er enghraifft, pan fyddwch chi'n dibynnu ar estyniadau neu ategion), mae hyn yn cynnwys telemetreg a digwyddiadau cymwysiadau. Mae hyn yn egluro pam mae rheoli caniatâd ac adolygu gosodiadau gweithgaredd yn hanfodol.

Beth maen nhw'n defnyddio'r data hwnnw ar ei gyfer a phwy all ei weld?

Yn aml, mae cwmnïau’n galw ar ddibenion eang ac ailadroddus: I ddarparu, cynnal a gwella'r gwasanaeth, personoli'r profiad, a datblygu nodweddion newyddi gyfathrebu â chi, mesur perfformiad, ac amddiffyn y defnyddiwr a'r platfform. Mae hyn i gyd hefyd yn ymestyn i dechnolegau dysgu peirianyddol a'r modelau cynhyrchiol eu hunain.

Rhan sensitif o'r broses yw'r adolygiad dynolMae amryw o werthwyr yn cydnabod bod staff mewnol neu ddarparwyr gwasanaeth yn adolygu samplau rhyngweithio i wella diogelwch ac ansawdd. Dyna pam yr argymhelliad cyson: osgoi cynnwys gwybodaeth gyfrinachol na fyddech chi eisiau i berson ei gweld neu a fyddai'n cael ei defnyddio i fireinio modelau.

Mewn polisïau hysbys, mae rhai gwasanaethau'n nodi nad ydyn nhw'n rhannu data penodol at ddibenion hysbysebu, er Ydyn, gallant ddarparu gwybodaeth i awdurdodau. o dan ofyniad cyfreithiol. Eraill, yn ôl eu natur, rhannu gyda hysbysebwyr neu bartneriaid dynodwyr a signalau agregedig ar gyfer dadansoddeg a segmentu, gan agor y drws i broffilio.

Mae'r driniaeth hefyd yn cynnwys, cadw am gyfnodau wedi'u diffinio ymlaen llawEr enghraifft, mae rhai darparwyr yn gosod cyfnod dileu awtomatig diofyn o 18 mis (addasadwy i 3, 36, neu amhenodol), ac yn cadw sgyrsiau a adolygwyd am gyfnodau hirach at ddibenion ansawdd a diogelwch. Mae'n ddoeth adolygu'r cyfnodau cadw ac actifadu dileu awtomatig os ydych chi am leihau eich ôl troed digidol.

Risgiau preifatrwydd drwy gydol cylch bywyd AI

Nid yw preifatrwydd yn y fantol mewn un pwynt yn unig, ond drwy gydol y gadwyn gyfan: mewnlifiad data, hyfforddiant, casgliad, a haen gymhwysiadWrth gasglu data torfol, gellir cynnwys data sensitif yn anfwriadol heb ganiatâd priodol; wrth hyfforddi, mae'n hawdd mynd y tu hwnt i'r disgwyliadau defnydd gwreiddiol; wrth gasglu, gall modelau casglu nodweddion personol gan ddechrau o signalau sy'n ymddangos yn ddibwys; ac yn y rhaglen, mae APIs neu ryngwynebau gwe yn dargedau deniadol i ymosodwyr.

Gyda systemau cynhyrchiol, mae'r risgiau'n lluosi (er enghraifft, teganau AI). Setiau data a dynnwyd o'r Rhyngrwyd heb ganiatâd penodol Gallant gynnwys gwybodaeth bersonol, ac mae rhai awgrymiadau maleisus (chwistrelliad prydlon) yn ceisio trin y model i hidlo cynnwys sensitif neu weithredu cyfarwyddiadau peryglus. Ar y llaw arall, mae llawer o ddefnyddwyr Maen nhw'n gludo data cyfrinachol heb ystyried y gellid eu storio neu eu defnyddio i addasu fersiynau yn y dyfodol o'r model.

Mae ymchwil academaidd wedi dod â phroblemau penodol i’r amlwg. Dadansoddiad diweddar ar cynorthwywyr porwr Canfu arferion olrhain a phroffilio eang, gyda throsglwyddo cynnwys chwilio, data ffurflen sensitif, a chyfeiriadau IP i weinyddion y darparwr. Ar ben hynny, dangosodd y gallu i gasglu oedran, rhyw, incwm, a diddordebau, gyda phersonoli yn parhau ar draws gwahanol sesiynau; yn yr astudiaeth honno, Dim ond un gwasanaeth a ddangosodd unrhyw dystiolaeth o broffilio.

Mae hanes digwyddiadau yn ein hatgoffa nad yw'r risg yn ddamcaniaethol: torri diogelwch Maen nhw wedi datgelu hanesion sgwrsio neu fetadata defnyddwyr, ac mae ymosodwyr eisoes yn defnyddio technegau modelu i echdynnu gwybodaeth hyfforddi. I waethygu pethau, Awtomeiddio piblinell AI Mae'n ei gwneud hi'n anodd canfod problemau preifatrwydd os nad yw mesurau diogelwch wedi'u cynllunio o'r cychwyn cyntaf.

Beth mae'r cyfreithiau a'r fframweithiau'n ei ddweud?

Mae gan y rhan fwyaf o wledydd eisoes rheoliadau preifatrwydd mewn grym, ac er nad yw pob un yn benodol i AI, maent yn berthnasol i unrhyw system sy'n prosesu data personol. Yn Ewrop, y RGPD Mae'n gofyn am gyfreithlondeb, tryloywder, lleihau, cyfyngu pwrpas, a diogelwch; ar ben hynny, y AI Act Mae Ewropeaidd yn cyflwyno categorïau risg, yn gwahardd arferion effaith uchel (megis y sgorio cymdeithasol cyhoeddus) ac yn gosod gofynion llym ar systemau risg uchel.

Yn yr Unol Daleithiau, rheoliadau taleithiol fel CCPA neu gyfraith Texas Maent yn rhoi hawliau i gael mynediad at ddata, ei ddileu, ac optio allan o'i werthu, tra bod mentrau fel cyfraith Utah Maen nhw'n mynnu hysbysiadau clir pan fydd y defnyddiwr yn rhyngweithio gyda systemau cynhyrchiol. Mae'r haenau normadol hyn yn cydfodoli â disgwyliadau cymdeithasol: mae arolygon barn yn dangos a diffyg ymddiriedaeth amlwg tuag at ddefnydd cyfrifol data gan gwmnïau, ac anghysondeb rhwng hunan-ganfyddiad defnyddwyr a'u hymddygiad gwirioneddol (er enghraifft, derbyn polisïau heb eu darllen).

I seilio rheoli risg, fframwaith NIST (AI RMF) Mae'n cynnig pedwar swyddogaeth barhaus: Llywodraethu (polisïau cyfrifol a goruchwylio), Mapio (deall y cyd-destun a'r effeithiau), Mesur (asesu a monitro risgiau gyda metrigau), a Rheoli (blaenoriaethu a lliniaru). Mae'r dull hwn yn helpu i addasu rheolaethau yn ôl lefel risg y system.

Pwy sy'n casglu fwyaf: pelydr-X o'r chatbots mwyaf poblogaidd

Mae cymariaethau diweddar yn gosod gwahanol gynorthwywyr ar sbectrwm casglu. Gemini Google sydd ar frig y rhestr drwy gasglu'r nifer fwyaf o bwyntiau data unigryw ar draws gwahanol gategorïau (gan gynnwys cysylltiadau symudol, os rhoddir caniatâd), rhywbeth sy'n anaml yn ymddangos mewn cystadleuwyr eraill.

Yn yr ystod ganol, mae atebion yn cynnwys y canlynol: Claude, Copilot, DeepSeek, ChatGPT a Pherplexity, gyda rhwng deg a thri ar ddeg o fathau o ddata, gan amrywio'r cymysgedd rhwng cyswllt, lleoliad, dynodwyr, cynnwys, hanes, diagnosisau, defnydd a phryniannau. Groc Mae wedi'i leoli yn y rhan isaf gyda set fwy cyfyngedig o signalau.

Mae gwahaniaethau hefyd yn defnydd dilynolMae wedi cael ei ddogfennu bod rhai gwasanaethau'n rhannu rhai dynodwyr (megis negeseuon e-bost wedi'u hamgryptio) a signalau ar gyfer segmentu gyda hysbysebwyr a phartneriaid busnes, tra bod eraill yn datgan nad ydynt yn defnyddio data at ddibenion hysbysebu nac yn ei werthu, er eu bod yn cadw'r hawl i ymateb i geisiadau cyfreithiol neu ei ddefnyddio ar gyfer gwella'r system, oni bai bod y defnyddiwr yn gofyn am ddileu.

O safbwynt y defnyddiwr terfynol, mae hyn yn cyfieithu i gyngor clir: Adolygu polisïau pob darparwrAddaswch ganiatâd yr ap a phenderfynwch yn ymwybodol pa wybodaeth rydych chi'n ei rhoi ym mhob cyd-destun, yn enwedig os ydych chi'n mynd i uwchlwytho ffeiliau neu rannu cynnwys sensitif.

Arferion gorau hanfodol i amddiffyn eich preifatrwydd

Yn gyntaf oll, ffurfweddwch y gosodiadau yn ofalus ar gyfer pob cynorthwyydd. Archwiliwch beth sy'n cael ei storio, am ba hyd, ac at ba ddiben.a galluogi dileu awtomatig os yw ar gael. Adolygwch bolisïau o bryd i'w gilydd, gan eu bod yn newid yn aml a gallant gynnwys opsiynau rheoli newydd.

Osgoi rhannu data personol a sensitif Yn eich awgrymiadau: dim cyfrineiriau, rhifau cardiau credyd, cofnodion meddygol, na dogfennau mewnol y cwmni. Os oes angen i chi drin gwybodaeth sensitif, ystyriwch fecanweithiau anonymeiddio, amgylcheddau caeedig, neu atebion ar y safle. llywodraethu cryfach.

Diogelwch eich cyfrifon gyda chyfrineiriau cryf a dilysu dau gam (2FA)Mae mynediad heb awdurdod i'ch cyfrif yn datgelu eich hanes pori, ffeiliau wedi'u llwytho i fyny, a'ch dewisiadau, y gellir eu defnyddio ar gyfer ymosodiadau peirianneg gymdeithasol hynod gredadwy neu ar gyfer gwerthu data yn anghyfreithlon.

Os yw'r platfform yn caniatáu hynny, analluogi hanes sgwrsio Neu defnyddiwch ddulliau dros dro. Mae'r mesur syml hwn yn lleihau eich amlygiad rhag ofn y bydd toriad diogelwch, fel y dangosir gan ddigwyddiadau yn y gorffennol sy'n ymwneud â gwasanaethau AI poblogaidd.

Peidiwch ag ymddiried yn ddall yn yr atebion. Gall modelau rhithwelediadau, bod yn rhagfarnllyd, neu gael eich trin drwy chwistrelliad prydlon maleisus, sy'n arwain at gyfarwyddiadau anghywir, data ffug, neu echdynnu gwybodaeth sensitif. Ar gyfer materion cyfreithiol, meddygol neu ariannol, cyferbyniwch â ffynonellau swyddogol.

Byddwch yn ofalus iawn gyda dolenni, ffeiliau, a chod sy'n cael ei ddarparu gan AI. Efallai bod cynnwys maleisus neu wendidau wedi'u cyflwyno'n fwriadol (gwenwyno data). Gwiriwch URLau cyn clicio a sganiwch ffeiliau gyda datrysiadau diogelwch ag enw da.

Diffyg ymddiriedaeth estyniadau ac ategion o darddiad amheus. Mae môr o ychwanegiadau sy'n seiliedig ar AI, ac nid yw pob un ohonynt yn ddibynadwy; gosodwch y rhai hanfodol yn unig o ffynonellau ag enw da i leihau'r risg o ddrwgwedd.

Yn y maes corfforaethol, dod â threfn i'r broses fabwysiadu. Diffinio Polisïau llywodraethu penodol i AIMae'n cyfyngu casglu data i'r hyn sy'n angenrheidiol, yn gofyn am ganiatâd gwybodus, yn archwilio cyflenwyr a setiau data (cadwyn gyflenwi), ac yn defnyddio rheolaethau technegol (megis DLP, monitro traffig i apiau AI, a rheolaethau mynediad manwl).

Mae ymwybyddiaeth yn rhan o'r darian: adeiladu eich tîm mewn risgiau AI, gwe-rwydo uwch, a defnydd moesegol. Mae mentrau diwydiant sy'n rhannu gwybodaeth am ddigwyddiadau AI, fel y rhai a yrrir gan sefydliadau arbenigol, yn meithrin dysgu parhaus ac amddiffynfeydd gwell.

Ffurfweddu preifatrwydd a gweithgaredd yn Google Gemini

Os ydych chi'n defnyddio Gemini, mewngofnodwch i'ch cyfrif a gwiriwch “Gweithgaredd mewn Apiau GeminiYno gallwch weld a dileu rhyngweithiadau, newid y cyfnod dileu awtomatig (18 mis yn ddiofyn, addasadwy i 3 neu 36 mis, neu amhenodol) a phenderfynu a ydynt yn cael eu defnyddio ar gyfer gwella AI gan Google.

Mae'n bwysig gwybod, hyd yn oed gyda chadw wedi'i analluogi, Defnyddir eich sgyrsiau i ymateb a chynnal diogelwch y system, gyda chefnogaeth gan adolygwyr dynol. Gall sgyrsiau a adolygwyd (a data cysylltiedig fel iaith, math o ddyfais, neu leoliad bras) gael eu cadw. hyd at dair blynedd.

Ar ddyfeisiau symudol, Gwiriwch ganiatâd yr apLleoliad, meicroffon, camera, cysylltiadau, neu fynediad at gynnwys ar y sgrin. Os ydych chi'n dibynnu ar nodweddion arddweud neu actifadu llais, cofiwch y gallai'r system gael ei actifadu trwy gamgymeriad gan synau tebyg i'r allweddair; yn dibynnu ar osodiadau, gallai'r darnau hyn i'w ddefnyddio i wella modelau a lleihau actifadu diangen.

Os ydych chi'n cysylltu Gemini ag apiau eraill (Google neu drydydd partïon), cofiwch fod pob un yn prosesu data yn ôl ei bolisïau ei hun. eu polisïau eu hunainMewn nodweddion fel Canvas, gall crëwr yr ap weld a chadw'r hyn rydych chi'n ei rannu, a gallai unrhyw un sydd â'r ddolen gyhoeddus weld neu olygu'r data hwnnw: rhannwch gydag apiau dibynadwy yn unig.

Mewn rhanbarthau lle bo'n berthnasol, efallai y bydd uwchraddio i rai profiadau Mewnforio hanes galwadau a negeseuon O'ch Gweithgarwch Gwe ac Ap i weithgarwch penodol i Gemini, i wella awgrymiadau (er enghraifft, cysylltiadau). Os nad ydych chi eisiau hyn, addaswch y rheolyddion cyn parhau.

Defnydd torfol, rheoleiddio a thuedd “AI cysgodol”

Mae mabwysiadu’n llethol: mae adroddiadau diweddar yn dangos hynny Mae'r mwyafrif helaeth o sefydliadau eisoes yn defnyddio modelau AIEr hynny, mae llawer o dimau’n brin o aeddfedrwydd digonol o ran diogelwch a llywodraethu, yn enwedig mewn sectorau â rheoliadau llym neu gyfrolau mawr o ddata sensitif.

Mae astudiaethau yn y sector busnes yn datgelu diffygion: canran uchel iawn o sefydliadau yn Sbaen Nid yw wedi'i baratoi i amddiffyn amgylcheddau sy'n cael eu pweru gan AIac mae'r rhan fwyaf yn brin o arferion hanfodol i ddiogelu modelau cwmwl, llif data, a seilwaith. Ochr yn ochr â hyn, mae camau rheoleiddio yn tynhau ac mae bygythiadau newydd yn dod i'r amlwg. cosbau am beidio â chydymffurfio o'r GDPR a rheoliadau lleol.

Yn y cyfamser, y ffenomen o cysgod AI Mae'n tyfu: mae gweithwyr yn defnyddio cynorthwywyr allanol neu gyfrifon personol ar gyfer tasgau gwaith, gan ddatgelu data mewnol heb reolaethau diogelwch na chontractau gyda darparwyr. Nid gwahardd popeth yw'r ymateb effeithiol, ond galluogi defnyddiau diogel mewn amgylcheddau rheoledig, gyda llwyfannau cymeradwy a monitro llif gwybodaeth.

O ran defnyddwyr, mae cyflenwyr mawr yn addasu eu polisïau. Mae newidiadau diweddar yn egluro, er enghraifft, sut mae'r gweithgaredd gyda Gemini i “wella gwasanaethau”cynnig opsiynau fel Sgwrs Dros Dro a rheolyddion gweithgaredd ac addasu. Ar yr un pryd, mae cwmnïau negeseuon yn pwysleisio hynny Mae sgyrsiau personol yn parhau i fod yn anhygyrch i AIs yn ddiofyn, er eu bod yn cynghori yn erbyn anfon gwybodaeth at yr AI nad ydych chi eisiau i'r cwmni ei gwybod.

Mae yna gywiriadau cyhoeddus hefyd: gwasanaethau trosglwyddo ffeiliau Fe wnaethon nhw egluro nad ydyn nhw'n defnyddio cynnwys defnyddwyr i hyfforddi modelau na'i werthu i drydydd partïon, ar ôl codi pryderon ynghylch newidiadau mewn telerau. Mae'r pwysau cymdeithasol a chyfreithiol hwn yn eu gwthio i fod yn gliriach a rhoi mwy o reolaeth i'r defnyddiwr.

Wrth edrych i'r dyfodol, mae cwmnïau technoleg yn archwilio ffyrdd o lleihau dibyniaeth ar ddata sensitifModelau hunan-wella, proseswyr gwell, a chynhyrchu data synthetig. Mae'r datblygiadau hyn yn addo lleddfu prinder data a phroblemau cydsyniad, er bod arbenigwyr yn rhybuddio am risgiau sy'n dod i'r amlwg os bydd AI yn cyflymu ei alluoedd ei hun ac yn cael ei gymhwyso i feysydd fel ymyrraeth seiber neu drin.

Mae deallusrwydd artiffisial yn amddiffyniad ac yn fygythiad. Mae llwyfannau diogelwch eisoes yn integreiddio modelau ar gyfer canfod ac ymateb yn gyflymach, tra bod ymosodwyr yn defnyddio LLMs i gwe-rwydo perswadiol a ffugiau dwfnMae'r frwydr tynnu rhaff hon yn gofyn am fuddsoddiad parhaus mewn rheolaethau technegol, gwerthuso cyflenwyr, archwilio parhaus, a diweddariadau offer cyson.

Mae cynorthwywyr AI yn casglu nifer o signalau amdanoch chi, o'r cynnwys rydych chi'n ei deipio i ddata dyfais, defnydd a lleoliad. Gall rhai o'r wybodaeth hon gael ei hadolygu gan bobl neu ei rhannu â thrydydd partïon, yn dibynnu ar y gwasanaeth. Os ydych chi am fanteisio ar AI heb beryglu eich preifatrwydd, cyfunwch fireinio (hanes, caniatâd, dileu awtomatig), doethineb gweithredol (peidiwch â rhannu data sensitif, gwirio dolenni a ffeiliau, cyfyngu ar estyniadau ffeiliau), amddiffyn mynediad (cyfrineiriau cryf a 2FA), a monitro gweithredol ar gyfer newidiadau polisi a nodweddion newydd a allai effeithio ar eich preifatrwydd. sut mae eich data yn cael ei ddefnyddio a'i storio.