אילו נתונים אוספים עוזרי בינה מלאכותית וכיצד להגן על פרטיותך

בינה מלאכותית הפכה מהבטחה לשגרה בזמן שיא, ועמה התעוררו ספקות ספציפיים מאוד: אילו נתונים אוספים עוזרי בינה מלאכותית?כיצד הם משתמשים בהם ומה אנחנו יכולים לעשות כדי לשמור על בטיחות המידע שלנו. אם אתם משתמשים בצ'אטבוטים, עוזרי דפדפן או מודלים גנרטיביים, מומלץ לקחת שליטה על הפרטיות שלכם בהקדם האפשרי.

מלבד היותן כלים שימושיים ביותר, מערכות אלו ניזונות מנתונים בקנה מידה גדול. כמות המידע, מקורו וטיפולו בו הם מציגים סיכונים חדשים: החל מסמיך תכונות אישיות ועד לחשיפה מקרית של תוכן רגיש. כאן תמצאו, בפירוט ובלי להסתיר דברים, מה הם לוכדים, מדוע הם עושים זאת, מה החוק אומר, ו... כיצד להגן על החשבונות והפעילות שלךבואו נלמד הכל על אילו נתונים אוספים עוזרי בינה מלאכותית וכיצד להגן על פרטיותך. 

אילו נתונים אוספים בפועל עוזרי בינה מלאכותית?

עוזרים מודרניים מעבדים הרבה יותר מסתם שאלותיך. פרטי קשר, מזהים, שימוש ותוכן אלה נכללים בדרך כלל בקטגוריות הסטנדרטיות. אנחנו מדברים על שם וכתובת דוא"ל, אבל גם על כתובות IP, מידע על מכשירים, יומני אינטראקציה, שגיאות, וכמובן, התוכן שאתם יוצרים או מעלים (הודעות, קבצים, תמונות או קישורים ציבוריים).

בתוך המערכת האקולוגית של גוגל, הודעת הפרטיות של ג'מיני מתארת ​​במדויק את מה שהיא אוספת מידע מאפליקציות מחוברות (לדוגמה, היסטוריית חיפוש או היסטוריית YouTube, הקשר של Chrome), נתוני מכשירים ודפדפן (סוג, הגדרות, מזהים), מדדי ביצועים וניפוי שגיאות, ואפילו הרשאות מערכת במכשירים ניידים (כגון גישה לאנשי קשר, יומני שיחות והודעות או תוכן על המסך) כאשר המשתמש מורשה זאת.

הם גם עוסקים נתוני מיקום (מיקום משוער של המכשיר, כתובת IP או כתובות שנשמרו בחשבון) ופרטי מנוי אם אתם משתמשים בתוכניות בתשלום. בנוסף, הפרטים הבאים נשמרים: תוכן משלו שהמודלים מייצרים (טקסט, קוד, אודיו, תמונות או סיכומים), משהו מפתח להבנת טביעת הרגל שאתם משאירים כשאתם מקיימים אינטראקציה עם כלים אלה.

יש לציין כי איסוף הנתונים אינו מוגבל להכשרה בלבד: משתתפים יכולים לתעד פעילות בזמן אמת במהלך השימוש (לדוגמה, כאשר אתם מסתמכים על הרחבות או תוספים), זה כולל טלמטריה ואירועי אפליקציה. זה מסביר מדוע שליטה בהרשאות ובדיקת הגדרות פעילות היא קריטית.

למה הם משתמשים בנתונים האלה ומי יכול לראות אותם?

חברות נוטות להפעיל מטרות רחבות וחוזרות על עצמן: כדי לספק, לתחזק ולשפר את השירות, להתאים אישית את החוויה ולפתח תכונות חדשותכדי לתקשר איתך, למדוד ביצועים ולהגן על המשתמש ועל הפלטפורמה. כל זה משתרע גם על טכנולוגיות למידת מכונה ועל המודלים הגנרטיביים עצמם.

חלק רגיש בתהליך הוא סקירה אנושיתספקים שונים מכירים בכך שצוות פנימי או ספקי שירותים סוקרים דוגמאות של אינטראקציות כדי לשפר את האבטחה והאיכות. מכאן ההמלצה העקבית: הימנעו מהכללת מידע סודי שלא הייתם רוצים שאדם יראה או שישמש לשיפור מודלים.

במדיניות ידועה, חלק מהשירותים מציינים כי הם אינם משתפים נתונים מסוימים למטרות פרסום, למרות כן, הם יכולים לספק מידע לרשויות. תחת דרישה חוקית. אחרים, מטבעם, שתף עם מפרסמים או שותפים מזהים ואותות מצטברים לצורך ניתוח ופילוח, ופותחים את הדלת ליצירת פרופילים.

הטיפול כולל גם, שמירה לתקופות מוגדרות מראשלדוגמה, חלק מהספקים קובעים תקופת מחיקה אוטומטית כברירת מחדל של 18 חודשים (ניתנת להתאמה ל-3, 36 או ללא הגבלת זמן), ושומרים שיחות שנבדקו לתקופות ארוכות יותר לצורכי איכות ואבטחה. מומלץ לבדוק את תקופות השמירה ולהפעיל מחיקה אוטומטית אם ברצונכם למזער את טביעת הרגל הדיגיטלית שלכם.

סיכוני פרטיות לאורך מחזור החיים של בינה מלאכותית

הפרטיות אינה מונחת על כף המאזניים בנקודה אחת, אלא לאורך כל השרשרת: קליטת נתונים, אימון, הסקה ושכבת יישומיםבאיסוף נתונים המוני, נתונים רגישים עלולים להיכלל בטעות ללא הסכמה מתאימה; באימון, קל לחרוג מציפיות השימוש המקוריות; במהלך הסקה, מודלים יכולים להסיק תכונות אישיות החל מאותות שנראים טריוויאליים; ובאפליקציה, ממשקי API או ממשקי אינטרנט הם מטרות אטרקטיביות לתוקפים.

עם מערכות גנרטיביות, הסיכונים מתרבים (לדוגמה, צעצועי בינה מלאכותית). מערכי נתונים שנלקחו מהאינטרנט ללא אישור מפורש הם עשויים להכיל מידע אישי, והנחיות זדוניות מסוימות (הזרקת הנחיות) מבקשות לתמרן את המודל כדי לסנן תוכן רגיש או לבצע הוראות מסוכנות. מצד שני, משתמשים רבים הם מדביקים נתונים חסויים מבלי לקחת בחשבון שניתן יהיה לאחסן אותם או להשתמש בהם כדי להתאים גרסאות עתידיות של המודל.

מחקר אקדמי חשף בעיות ספציפיות. ניתוח שנערך לאחרונה בנושא עוזרי דפדפן היא זיהתה שיטות מעקב ויצירת פרופילים נרחבות, עם העברת תוכן חיפוש, נתוני טפסים רגישים וכתובות IP לשרתי הספק. יתר על כן, היא הדגימה את היכולת להסיק גיל, מין, הכנסה ותחומי עניין, כאשר ההתאמה האישית נמשכת לאורך סשנים שונים; במחקר זה, רק שירות אחד לא הראה עדות לפרופילינג.

ההיסטוריה של התקריות מזכירה לנו שהסיכון אינו תיאורטי: פרצות אבטחה הם חשפו היסטוריית צ'אט או מטא-דאטה של ​​משתמשים, ותוקפים כבר ממנפים טכניקות מידול כדי לחלץ מידע אימון. וכדי להחמיר את המצב, אוטומציה של צינור בינה מלאכותית זה מקשה על זיהוי בעיות פרטיות אם לא מתוכננים אמצעי הגנה מלכתחילה.

מה אומרים החוקים והמסגרות?

לרוב המדינות כבר יש כללי פרטיות בתוקף, ולמרות שלא כולם ספציפיים לבינה מלאכותית, הם חלים על כל מערכת שמעבדת נתונים אישיים. באירופה, RGPD זה דורש חוקיות, שקיפות, מזעור, הגבלת מטרה ואבטחה; יתר על כן, ה- חוק AI אירופה מציגה קטגוריות סיכון, אוסרת על פרקטיקות בעלות השפעה גבוהה (כגון ציון חברתי ציבורי) ומטיל דרישות מחמירות על מערכות בסיכון גבוה.

בארה"ב, תקנות מדינה כגון CCPA או חוק טקסס הם מעניקים זכויות גישה, מחיקה וביטול הסכמה למכירת נתונים, בעוד יוזמות כמו חוק יוטה הם דורשים התראות ברורות כאשר המשתמש מקיים אינטראקציה עם מערכות יצירתיות. שכבות נורמטיביות אלו מתקיימות במקביל לציפיות חברתיות: סקרי דעת קהל מראים חוסר אמון בולט כלפי שימוש אחראי של נתונים על ידי חברות, ופער בין התפיסה העצמית של המשתמשים לבין התנהגותם בפועל (לדוגמה, קבלת מדיניות מבלי לקרוא אותה).

כדי לבסס את ניהול הסיכונים, המסגרת של NIST (AI RMF) היא מציעה ארבע פונקציות מתמשכות: ניהול (מדיניות אחראית ופיקוח), מיפוי (הבנת ההקשר וההשפעות), מדידה (הערכת וניטור סיכונים באמצעות מדדים) וניהול (קביעת סדרי עדיפויות והפחתת סיכונים). גישה זו מסייע להתאים את הבקרות בהתאם לרמת הסיכון של המערכת.

מי אוסף הכי הרבה: צילום רנטגן של הצ'אטבוטים הפופולריים ביותר

השוואות אחרונות מציבות עוזרים שונים על ספקטרום אוספים. ג'מיני של גוגל מובילה את הדירוג על ידי איסוף מספר נקודות הנתונים הייחודיות הגדול ביותר בקטגוריות שונות (כולל אנשי קשר בנייד, אם ניתנו הרשאות), דבר שמופיע לעתים רחוקות אצל מתחרים אחרים.

בטווח הביניים, פתרונות כוללים כגון קלוד, קופיילוט, דיפסיק, צ'אטGPT ופרפלקסיטי, עם בין עשרה לשלושה עשר סוגי נתונים, המשתנים בתמהיל בין קשר, מיקום, מזהים, תוכן, היסטוריה, אבחנות, שימוש ורכישות. גרוק הוא ממוקם בחלק התחתון עם סט מוגבל יותר של אותות.

ישנם גם הבדלים ב שימוש לאחר מכןתועד כי שירותים מסוימים חולקים מזהים מסוימים (כגון מיילים מוצפנים) ואותות לפילוח עם מפרסמים ושותפים עסקיים, בעוד שאחרים מצהירים כי אינם משתמשים בנתונים למטרות פרסום או מוכרים אותם, אם כי הם שומרים לעצמם את הזכות להגיב לבקשות משפטיות או להשתמש בהם למטרות... לשפר את המערכת, אלא אם כן המשתמש מבקש מחיקה.

מנקודת מבטו של המשתמש הסופי, זה מתורגם לעצה אחת ברורה: סקירת המדיניות של כל ספקהתאם את הרשאות האפליקציה והחלט באופן מודע איזה מידע אתה מוסר בכל הקשר, במיוחד אם אתה מתכוון להעלות קבצים או לשתף תוכן רגיש.

שיטות עבודה מומלצות חיוניות להגנה על פרטיותך

ראשית, יש להגדיר בקפידה את ההגדרות עבור כל עוזר. בדקו מה מאוחסן, למשך כמה זמן ולאיזו מטרה.ולהפעיל מחיקה אוטומטית אם זמינה. יש לבדוק את המדיניות מעת לעת, מכיוון שהיא משתנה לעתים קרובות ועשויות לכלול אפשרויות בקרה חדשות.

הימנע משיתוף נתונים אישיים ורגישים בהנחיות שלך: אין להשתמש בסיסמאות, מספרי כרטיסי אשראי, רשומות רפואיות או מסמכים פנימיים של החברה. אם עליך לטפל במידע רגיש, שקול מנגנוני אנונימיזציה, סביבות סגורות או פתרונות מקומיים. משילות מחוזקת.

הגן על החשבונות שלך באמצעות סיסמאות חזקות ו אימות דו-שלבי (2FA)גישה לא מורשית לחשבונך חושפת את היסטוריית הגלישה שלך, קבצים שהועלו וההעדפות שלך, אשר עלולים לשמש להתקפות הנדסה חברתית אמינות ביותר או למכירה בלתי חוקית של נתונים.

אם הפלטפורמה מאפשרת זאת, השבתת היסטוריית הצ'אט או השתמשו באמצעים זמניים. אמצעי פשוט זה מפחית את החשיפה שלכם במקרה של פרצה, כפי שהודגם על ידי אירועים קודמים שכללו שירותי בינה מלאכותית פופולריים.

אל תסמוך עיוור על התשובות. מודלים יכולים להזות, להיות משוחד או להיות מניפולטיבי באמצעות הזרקה מהירה זדונית, המובילה להוראות שגויות, נתונים כוזבים או חילוץ מידע רגיש. בעניינים משפטיים, רפואיים או פיננסיים, בניגוד ל מקורות רשמיים.

יש לנקוט משנה זהירות עם קישורים, קבצים וקוד שמסופק על ידי בינה מלאכותית. ייתכן שיש תוכן זדוני או פגיעויות שהוכנסו במכוון (הרעלת נתונים). יש לאמת כתובות URL לפני לחיצה ולסרוק קבצים באמצעות פתרונות אבטחה בעלי מוניטין.

חוסר אמון הרחבות ותוספים ממקור מפוקפק. יש ים של תוספים מבוססי בינה מלאכותית, ולא כולם אמינים; התקינו רק את החיוניים ממקורות אמינים כדי למזער את הסיכון לתוכנות זדוניות.

בתחום התאגידי, יש להביא סדר לתהליך האימוץ. להגדיר מדיניות ממשל ספציפית לבינה מלאכותיתהיא מגבילה את איסוף הנתונים לנדרש, דורשת הסכמה מדעת, מבקרת ספקים ומערכי נתונים (שרשרת אספקה) ופורסת בקרות טכניות (כגון DLP, ניטור תעבורה לאפליקציות בינה מלאכותית, ו...). בקרות גישה מפורטות).

מודעות היא חלק מהמגן: להקים את הצוות שלך בסיכוני בינה מלאכותית, פישינג מתקדם ושימוש אתי. יוזמות בתעשייה שחולקות מידע על אירועי בינה מלאכותית, כמו אלו שמנוהלות על ידי ארגונים ייעודיים, מטפחות למידה מתמשכת ושיפור ההגנות.

הגדרת פרטיות ופעילות ב-Google Gemini

אם אתם משתמשים ב-Gemini, התחברו לחשבונכם וסמנו "פעילות באפליקציות ג'מינישם תוכלו לצפות ולמחוק אינטראקציות, לשנות את תקופת המחיקה האוטומטית (ברירת מחדל 18 חודשים, ניתן להתאמה ל-3 או 36 חודשים, או ללא הגבלת זמן) ולהחליט אם הן ישמשו עבור... לשפר את הבינה המלאכותית Google.

חשוב לדעת שגם כאשר השמירה מושבתת, השיחות שלך משמשות כדי להגיב ולתחזק את אבטחת המערכת, בתמיכה של בודקים אנושיים. שיחות שנבדקו (ונתונים נלווים כגון שפה, סוג מכשיר או מיקום משוער) עשויות להישמר. עד שלוש שנים.

בנייד, בדוק את הרשאות האפליקציהמיקום, מיקרופון, מצלמה, אנשי קשר או גישה לתוכן על המסך. אם אתם מסתמכים על תכונות הכתבה או הפעלה קולית, זכרו שהמערכת עשויה להיות מופעלת בטעות על ידי צלילים הדומים למילת המפתח; בהתאם להגדרות, קטעי טקסט אלה עשויים... שישמשו לשיפור מודלים ולהפחית הפעלות לא רצויות.

אם אתם מחברים את Gemini לאפליקציות אחרות (גוגל או צדדים שלישיים), קחו בחשבון שכל אחת מהן מעבדת נתונים בהתאם למדיניות שלה. המדיניות שלהםבתכונות כמו Canvas, יוצר האפליקציה יכול לראות ולשמור את מה שאתה משתף, וכל מי שיש לו קישור ציבורי יכול לצפות או לערוך את הנתונים האלה: שתף רק עם אפליקציות מהימנות.

באזורים בהם הדבר רלוונטי, ייתכן שדרוג לחוויות מסוימות ייבוא ​​היסטוריית שיחות והודעות מפעילות האינטרנט והאפליקציות שלך ועד פעילות ספציפית לג'מיני, כדי לשפר הצעות (לדוגמה, אנשי קשר). אם אינך מעוניין בכך, התאם את הפקדים לפני שתמשיך.

שימוש המוני, רגולציה ומגמה של "בינה מלאכותית צללית"

אימוץ הוא מכריע: דיווחים אחרונים מצביעים על כך הרוב המכריע של הארגונים כבר פורסים מודלים של בינה מלאכותיתלמרות זאת, צוותים רבים חסרים בגרות מספקת בתחום האבטחה והממשל, במיוחד במגזרים עם תקנות מחמירות או כמויות גדולות של מידע רגיש.

מחקרים במגזר העסקי מגלים ליקויים: אחוז גבוה מאוד של ארגונים בספרד הוא אינו מוכן להגן על סביבות המונעות על ידי בינה מלאכותיתולרובם חסרות נהלים חיוניים להגנה על מודלי ענן, זרימת נתונים ותשתיות. במקביל, פעולות רגולטוריות מחמירות ואיומים חדשים צצים. עונשים על אי ציות של ה-GDPR והתקנות המקומיות.

בינתיים, התופעה של צל בינה מלאכותית זה הולך וגדל: עובדים משתמשים בעוזרים חיצוניים או בחשבונות אישיים למשימות עבודה, וחושפים נתונים פנימיים ללא בקרות אבטחה או חוזים עם ספקים. התגובה היעילה אינה לאסור הכל, אלא לאפשר שימושים בטוחים בסביבות מבוקרות, עם פלטפורמות מאושרות וניטור זרימת המידע.

בחזית הצרכנים, ספקים גדולים מתאימים את המדיניות שלהם. שינויים אחרונים מסבירים, למשל, כיצד ה... פעילות עם ג'מיני ל"שיפור השירותים"המציע אפשרויות כגון שיחה זמנית ובקרות פעילות והתאמה אישית. במקביל, חברות העברת הודעות מדגישות ש צ'אטים אישיים נותרו בלתי נגישים לבינה מלאכותית כברירת מחדל, למרות שהם ממליצים לא לשלוח לבינה מלאכותית מידע שאינכם רוצים שהחברה תדע.

ישנם גם תיקונים ציבוריים: שירותי העברת קבצים הם הבהירו כי אינם משתמשים בתוכן משתמשים כדי להכשיר דוגמנים או למכור אותו לצדדים שלישיים, לאחר שהעלו חששות לגבי שינויים בתנאים. לחץ חברתי ומשפטי זה דוחף אותם להיות ברורים יותר ו... לתת למשתמש יותר שליטה.

במבט לעתיד, חברות טכנולוגיה בוחנות דרכים ל... להפחית את התלות במידע רגישמודלים לשיפור עצמי, מעבדים טובים יותר ויצירת נתונים סינתטיים. התקדמויות אלו מבטיחות להקל על מחסור בנתונים ובעיות הסכמה, אם כי מומחים מזהירים מפני סיכונים מתעוררים אם בינה מלאכותית תאיץ את יכולותיה שלה ותיושמת בתחומים כמו חדירה או מניפולציה בסייבר.

בינה מלאכותית היא גם הגנה וגם איום. פלטפורמות אבטחה כבר משלבות מודלים עבור לזהות ולהגיב מהר יותר, בעוד שתוקפים משתמשים ב-LLMs כדי פישינג שכנוע וזיופים עמוקיםמשיכת חבל זו דורשת השקעה מתמשכת בבקרות טכניות, הערכת ספקים, ביקורת מתמשכת ו... עדכוני ציוד שוטפים.

עוזרי בינה מלאכותית אוספים אותות מרובים אודותיך, החל מהתוכן שאתה מקליד ועד לנתוני המכשיר, השימוש והמיקום. חלק מהמידע הזה עשוי להיבדק על ידי בני אדם או להיות משותף עם צדדים שלישיים, בהתאם לשירות. אם ברצונך למנף את הבינה המלאכותית מבלי לפגוע בפרטיותך, שלבו כוונון עדין (היסטוריה, הרשאות, מחיקה אוטומטית), זהירות תפעולית (אל תשתפו נתונים רגישים, אימות קישורים וקבצים, הגבלת סיומות קבצים), הגנת גישה (סיסמאות חזקות ו-2FA) וניטור פעיל אחר שינויי מדיניות ותכונות חדשות שעשויים להשפיע על פרטיותך. כיצד הנתונים שלך משמשים ומאוחסנים.